Bivši šef Googlea: izgradnja savršenog borbenog stroja kojeg će kontrolirati umjetna inteligencija

Bivši izvršni direktor Googlea u misiji je ponovnog povezivanja američke vojske s vrhunskom umjetnom inteligencijom kako bi se suprotstavili Kini. Hoće li to učiniti svijet sigurnijim?

Skupa vojna oprema poput novog tenka prolazi rigorozna testiranja prije odlaska na bojno polje. Startup pod nazivom Ishtari, iza kojeg stoji Eric Schmidt, bivši izvršni direktor Googlea i predsjednik Alphabeta, smatra da se dio tog posla može učiniti učinkovitije u metaverzumu. Ishtari koristi strojno učenje za virtualno sastavljanje i testiranje ratnih strojeva iz računalnih modela pojedinačnih komponenti, poput šasije i motora, koji su obično postavljeni na zasebne digitalne ploče za crtanje. Možda zvuči dosadno, ali Schmidt kaže da američkom vojnom inženjerstvu može donijeti dozu inovacija tehnološke industrije. “Istari tim donosi upotrebljivost internetskog tipa u modele i simulacije”, kaže on. “Ovo otvara mogućnost agilnosti poput softvera za buduće fizičke sustave, to je vrlo uzbudljivo.”

Tvrtka odražava Schmidtovu jedinstvenu poziciju kao poveznice između tehnološke industrije i Pentagona. Virtualne replike poznate kao digitalni blizanci uobičajene su u proizvodnji i mogle bi pomoći Pentagonu da brže razvije hardver. A Istari je dio šireg projekta u kojem Schmidt pokušava američkoj vojsci donijeti tehnologiju i način razmišljanja Silicijske doline.

Ta potraga ima korijene u šoku koji je Schmidt doživio 2016. kada je prvi put izbliza vidio stanje Pentagonove tehnologije. I dalje je bio predsjednik Alphabeta, ali je prihvatio poziv ministra obrane predsjednika Obame Ashtona Cartera da predsjeda novim Odborom za inovacije u obrani koji pokušava modernizirati DOD. Schmidtov novi posao započeo je uzbudljivim obilaskom američkih laboratorija i baza.

“Morao sam ići uokolo s Ericom i gledati kako se odjel bavi komercijalnom tehnologijom”, kaže Will Roper, koji je tada bio pomoćnik ministra zračnih snaga usredotočen na tehnologiju te je osnivač i izvršni direktor tvrtke Istari. “Bilo je očito da je cijelo Ministarstvo obrane razvijalo softver na isti način kao što se to radilo 1970-ih i 80-ih”, kaže Roper. Bio je jedan od mnogih čelnika Pentagona koji su bili impresionirani Schmidtovom dijagnozom problema odjela i spremnošću da ih se pokuša riješiti. Schmidt je postao izvršni direktor Googlea 2001., kada je tražilica imala nekoliko stotina zaposlenika i jedva zarađivala. Napustio je Alphabet 2017. nakon što je izgradio veliku, visoko-profitabilnu tvrtku s naslaganim portfeljem projekata, uključujući vrhunsku umjetnu inteligenciju, samo-vozeće automobile i kvantna računala. Schmidt sada vidi još jednu priliku da tehnološka re-invencija dovede do dominacije, ovaj put za vladu SAD-a u konkurenciji s drugim svjetskim silama. Možda je u jedinstvenoj dobroj poziciji da razumije što Pentagonu treba da postigne svoje tehnološke ciljeve i da pomogne agenciji da to postigne. Ali njegove veze s industrijom pokreću pitanja o tome kako bi SAD trebao nastojati uskladiti vladu i privatni sektor. I dok američka vojna moć dugo ovisi o napretku tehnologije, neki se boje da vojna umjetna inteligencija može stvoriti nove rizike.

Dobri ljudi, zao sustav

Govoreći preko Zooma iz svog ureda u New Yorku, Schmidt iznosi veliku viziju za napredniji DOD koji može spretno iskoristiti tehnologiju tvrtki poput Istarija. U veselom narančastom džemperu koji izgleda kao da je izrađen od izuzetne vune, ležerno zamišlja ponovno pokretanje američkih oružanih snaga na veliko.

“Zamislimo da ćemo izgraditi bolji sustav za ratovanje”, kaže Schmidt, ocrtavajući ono što bi značilo ogromnu reviziju najmoćnije vojne operacije na svijetu. “Samo bismo stvorili tehnološku tvrtku.” On nastavlja skicirati viziju interneta stvari sa smrtonosnim obratom. “To bi izgradilo velik broj jeftinih uređaja koji su bili vrlo mobilni, koji bi bili primjenjivi, a ti bi uređaji ili radilice, odnosno roboti, imali senzore ili oružje i bili bi umreženi zajedno”.

Problem s današnjim Pentagonom teško da je novac, talent ili odlučnost, prema Schmidtovom mišljenju. On opisuje američku vojsku kao “sjajna ljudska bića unutar lošeg sustava”, onog koji je evoluirao da služi prethodnom razdoblju kojim su dominirali veliki, spori, skupi projekti poput nosača zrakoplova i birokratskog sustava koji sprječava ljude da se prebrzo kreću. Nezavisne studije i kongresna saslušanja otkrila su da mogu proći godine dok DOD ne odabere i kupi softver koji može biti zastario u trenutku kada se instalira. Schmidt kaže da je to veliki problem za SAD, jer su kompjuterizacija, softver i umrežavanje spremni napraviti revoluciju u ratovanju.

Ukrajinski odgovor na rusku invaziju, vjeruje Schmidt, nudi naznake kako bi se Pentagon mogao poboljšati. Ukrajinska vojska uspjela se oduprijeti puno većoj sili djelomično brzim kretanjem i prilagodbom tehnologije iz privatnog sektora, hakiranjem komercijalnih bespilotnih letjelica u oružje, prenamjenom nepostojećih sustava povezivanja na bojnom polju, 3D ispisom rezervnih dijelova i razvojem korisnog novog softvera za zadatke poput vojnih upravljanje plaćama u mjesecima, a ne godinama. Schmidt nudi još jedan misaoni eksperiment kako bi ilustrirao škripac iz kojeg pokušava izvući američku vojsku. “Zamislite da vi i ja odlučimo riješiti ukrajinski problem, a DOD nam da 100 milijuna dolara, a mi imamo šestomjesečno natjecanje”, kaže. “I nakon šest mjeseci netko zapravo smisli neki novi uređaj ili novi alat ili novu metodu koja omogućuje Ukrajincima pobjedu.” Problem riješen? Ne tako brzo. “Sve što sam upravo rekao je nezakonito”, kaže Schmidt, zbog pravila nabave koja zabranjuju Pentagonu da dijeli novac bez prolaska kroz pažljive, ali preduge procese pregleda.

Novo oružje

Pentagonov tehnološki problem je najhitniji, kaže Schmidt, kada je riječ o umjetnoj inteligenciji. “S vremena na vrijeme pojavi se novo oružje, nova tehnologija koja mijenja stvari”, kaže on. “Einstein je napisao pismo Rooseveltu 1930-ih u kojem je rekao da postoji ta nova tehnologija, nuklearno oružje, koje bi moglo promijeniti rat, što je očito i uspjelo. Rekao bih da su autonomija, za koju se koristi AI ili umjetna inteligencija, odnosno UI i decentralizirani, distribuirani sustavi toliko moćni.” Uz Schmidtovu pomoć, sličan se pogled ukorijenio unutar Ministarstva obrane tijekom prošlog desetljeća, gdje čelnici vjeruju da će umjetna inteligencija revolucionirati vojni hardver, prikupljanje obavještajnih podataka i pozadinski softver. Početkom 2010-ih Pentagon je počeo procjenjivati tehnologiju koja bi mu mogla pomoći da zadrži prednost nad kineskom vojskom u usponu. Odbor za obrambenu znanost, najviše tehničko savjetodavno tijelo agencije, zaključio je da će autonomija koju pokreće UI (umjetna inteligencija) oblikovati budućnost vojnog natjecanja i sukoba.

Ali tehnologija umjetne inteligencije uglavnom se izmišlja u privatnom sektoru. Najbolji alati koji bi se mogli pokazati ključnima za vojsku, kao što su algoritmi koji mogu identificirati neprijateljski hardver ili određene pojedince u videu, ili koji mogu naučiti nadljudske strategije, izgrađeni su u tvrtkama poput Googlea, Amazona i Applea ili unutar startupa.

“Veliki izazov s kojim se američka vojska suočava u budućnosti jest kako brzo prilagoditi komercijalne tehnologije za vojnu upotrebu brže od konkurenata”, kaže Paul Scharre, potpredsjednik u Centru za novu američku sigurnost, trusta mozgova, i autor knjige Četiri bojna polja: Moć u doba umjetne inteligencije, nadolazeća knjiga o umjetnoj inteligenciji i geopolitici. Scharre u svojoj knjizi primjećuje da je udio Pentagona u globalnoj potrošnji na istraživanje i razvoj pao s 36 posto 1960. na 4 posto danas.

Ministarstvo obrane SAD-a primarno radi s privatnim sektorom preko velikih obrambenih izvođača specijaliziranih za izradu skupog hardvera tijekom godina, a ne za brzi razvoj softvera. Ugovori Pentagona s velikim tehnološkim tvrtkama, uključujući Amazon, Apple i Microsoft, postali su češći, ali ponekad su bili kontroverzni. Googleov rad na analizi snimaka dronom pomoću umjetne inteligencije u okviru inicijative pod nazivom Project Maven izazvao je prosvjed osoblja, a tvrtka je dopustila da ugovor istekne. Google je od tada povećao svoj obrambeni rad, prema pravilima koja zabranjuju određene projekte, poput sustava oružja Scharre kaže da je vrijedno imati ljude poput Schmidta, s ozbiljnim utjecajem u privatnom sektoru, koji žele premostiti jaz. Velike tehnološke tvrtke kojima prijeti tehnološka promjena ponekad su se uspješno iznova izmislile. A veleposlanici tehnologije mogu pomoći Pentagonu da shvati kako smanjiti birokraciju kako bi postao privlačniji partner startupima, ključnom izvoru novih ideja. “Još uvijek pokušavamo izgraditi vojsku 21. stoljeća s birokracijom 20. stoljeća”, kaže.

Zaokret prema Kini

Schmidt je počeo vjerovati da dok tehnološka industrija mora pomoći Pentagonu, vlada također mora pomoći Silicijskoj dolini. Godine 2019. postao je predsjednik Povjerenstva za nacionalnu sigurnost SAD-a za umjetnu inteligenciju, koje je osnovao Kongres kako bi ispitao utjecaj tehnologije na sigurnost i konkurentnost SAD-a. Završno izvješće NSCAI-ja, objavljeno 2021., usredotočuje se na AI rivalstvo između SAD-a i Kine, upozoravajući da bi ta tehnologija mogla širiti autoritarne vrijednosti. Kako bi izvor američke umjetne inteligencije bio zdrav, poziva američku vladu da više surađuje s privatnim sektorom i osigura financiranje, podatke i računalnu snagu za javne i privatne projekte umjetne inteligencije.

Na događaju prošle jeseni, Schmidt je NSCAI-ju pripisao zasluge za promjenu njegovog života tako što ga je učinio svjesnijim prijetnje Kine SAD-u. “Suočavamo se s vrlo značajnim izazovom vrlo, vrlo fokusiranog natjecatelja koji zna što radi”, rekao je. Komisija se u međuvremenu raspustila, iako Schmidt sada radi u sličnom tijelu koje ispituje implikacije napretka u biotehnologiji. I financirao je novi, neovisni trust mozgova, pod nazivom Projekt posebnih kompetitivnih studija kako bi proveo NSCAI-jeve preporuke. Projekt gleda na tehnologije izvan same umjetne inteligencije i modeliran je na hladnoratovskoj inicijativi protiv Rusije koju je stvorio Nelson Rockefeller, a vodio Henry Kissinger.

SCSP je prošle godine objavio niz izvješća, pozivajući vladu da financira područja ključna za rast i konkurentnost SAD-a, uključujući nuklearnu fuziju, kvantno računalstvo i komunikacije te uređivanje gena. Došli su usred vala političke potpore za veću intervenciju vlade u tehnologiji. Zakon o CHIPS-u usvojen prošle godine, uz dvostranačku potporu i motiviran zabrinutošću oko Kine, osigurat će 280 milijardi dolara za istraživanje i proizvodnju poluvodičkih uređaja u SAD-u.

Međutim, bliža suradnja između vlade i industrije nije jednostavna. Godine 2017., dok je Schmidt služio u Odboru za inovacije u obrani, dužnosnik je izrazio zabrinutost, koja je kasnije odbačena, zbog mogućih sukoba interesa koji uključuju njega i druge članove odbora koji su također bili rukovoditelji Silicijske doline. Schmidt još uvijek posjeduje oko 5 milijardi dolara dionica Alphabeta, ulagač je u startup vojnog poduzetnika Rebellion Defense i ima veze, preko različitih investicijskih tvrtki, s drugim tvrtkama koje rade s vladom.

“Teško je ukazati na bilo kojeg drugog izvršnog direktora s istom razinom utjecaja u tehnološkom sektoru nacionalne sigurnosti”, kaže Jack Poulson, koji prati odnose između pojedinaca, korporacija, neprofitnih organizacija i vlada putem neprofitne organizacije Tech Inquiry. Kaže da je Schmidt uključen u nekoliko tvrtki koje razvijaju tehnologije u područjima za koja organizacije poput SCSP-a kažu da bi trebala dobiti više državnih sredstava.

Schmidtov rad možda pokazuje ne samo vrijednost državne i privatne suradnje, već i potrebu za većom transparentnošću i novom odgovornošću kako ta suradnja raste. Melissa Stavenhagen, Schmidtova glasnogovornica, kaže da je on uvijek u cijelosti iznosio sva potrebna otkrića. “Budući da je služio u više demokratskih i republikanskih administracija, on prepoznaje koliko su ta pitanja kritična”, kaže Stavenhagen. Raspravljajući o svom radu preko Zooma, Schmidt se često čini frustriranim disfunkcionalnošću koju vidi u pristupu američke vlade tehnologiji. Kad je 2016. ušao u Pentagon, nije očekivao da će pronaći novi poziv. “Mislio sam da ću to raditi otprilike godinu dana da pomognem”, kaže. Umjesto toga, to je postala druga karijera. Kakav god napredak Pentagon napravio prema svojim snovima o umjetnoj inteligenciji, i učinak toga na svijet, Schmidt će vjerojatno biti u središtu toga.