Američka Vlada planira korištenje deepfake tehnologije u postizanju svojih ciljeva

Zapovjedništvo Specijalnih operacija SAD-a, odgovorno za neke od najtajnovitijih vojnih pothvata u zemlji, sprema se za provođenje internetske propagande i kampanja prijevare putem interneta korištenjem lažnih videozapisa, prema federalnim ugovornim dokumentima koje je pregledao The Intercept.

Planovi, koji također opisuju hakiranje uređaja povezanih s internetom za prisluškivanje kako bi se procijenila osjetljivost stranog stanovništva na propagandu, dolaze u vrijeme intenzivne globalne rasprave o tehnološki sofisticiranim kampanjama “dezinformiranja”, njihovoj učinkovitosti i etici njihove upotrebe.

Dok američka vlada rutinski upozorava na rizik od deepfakeova i otvoreno radi na izradi alata za suprotstavljanje njima, dokument Zapovjedništva za specijalne operacije, ili SOCOM, predstavlja primjer gotovo bez presedana u kojem američka vlada – ili bilo koja vlada – otvoreno signalizira svoju želju koristiti vrlo kontroverznu tehnologiju na ofenzivan način.

Propagandne težnje SOCOM-a za sljedeću generaciju navedene su u dokumentu o nabavi koji navodi mogućnosti koje traži u bliskoj budućnosti i traži ponude od vanjskih strana koje vjeruju da ih mogu izgraditi.

“Kada je riječ o dezinformacijama, Pentagon se ne bi smio boriti protiv vatre vatrom”, rekao je za The Intercept Chris Meserole, voditelj Inicijative za umjetnu inteligenciju i nove tehnologije Instituta Brookings. “U vrijeme kada je digitalna propaganda u globalnom porastu, SAD bi trebao učiniti sve što može kako bi ojačao demokraciju izgradnjom podrške zajedničkim predodžbama istine i stvarnosti. Deepfakeovi rade suprotno. Dovodeći u sumnju vjerodostojnost svih sadržaja i informacija, bilo stvarnih ili sintetičkih, oni u konačnici nagrizaju temelje same demokracije.”

“Kada je riječ o dezinformacijama, Pentagon se ne bi trebao boriti protiv vatre vatrom.”

Meserole je dodao: “Ako će se deepfakeovi koristiti za ciljane vojne i obavještajne operacije, njihova uporaba mora biti podvrgnuta pregledu i nadzoru.”

Predstavljajući dokument, koji je prvi put objavila SOCOM-ova Uprava za znanost i tehnologiju 2020. godine, uspostavio je popis želja sljedeće generacije igračaka za komandose specijalnih snaga 21. stoljeća, niz naprava i futurističkih alata koji će učinkovitije pomoći najelitnijim vojnicima u zemlji. loviti i ubijati svoje mete pomoću lasera, robota, holografa i drugog sofisticiranog hardvera.

Prošlog listopada, SOCOM je tiho objavio ažuriranu verziju svoje liste želja s novim odjeljkom: “Napredne tehnologije za korištenje u operacijama vojne informacijske potpore (MISO)”, eufemizam Pentagona za njegovu globalnu propagandu i napore obmane.

Dodani odlomak navodi želju SOCOM-a da dobije nova i poboljšana sredstva za provođenje “operacija utjecaja, digitalne obmane, prekida komunikacije i kampanja dezinformiranja na taktičkoj oštrici i operativnim razinama.” SOCOM traži “sposobnost sljedeće generacije za prikupljanje različitih podataka putem javnih i otvorenih tokova informacija kao što su društveni mediji, lokalni mediji itd. kako bi MISO-u omogućio izradu i izravne operacije utjecaja.”

SOCOM se obično bori u sjeni, ali njegov javni ugled i globalni otisak su veliki. Sastavljen od elitnih jedinica kopnene vojske, marinaca, mornarice i zračnih snaga, SOCOM vodi najosjetljivije vojne operacije najsmrtonosnije nacije na svijetu.

Dok su američke specijalne postrojbe nadaleko poznate po upadljivim pothvatima poput ubojstva Osame bin Ladena od strane Navy SEAL-a, njihova je povijest jedna od tajnih misija, prijevara, sabotaža i kampanja prekida. SOCOM-ove ambicije dezinformiranja “sljedeće generacije” samo su dio duge, goleme povijesti pokušaja prijevare od strane američke vojske i obavještajnih aparata.

Zapovjedništvo specijalnih operacija, koje prihvaća prijedloge o tim sposobnostima do 2025., nije odgovorilo na zahtjev za komentar.

Iako su duboke krivotvorine uglavnom hrana za zabavu i pornografiju, potencijal za strašnije primjene je stvaran. Na početku ruske invazije na Ukrajinu, kanalima društvenih medija počeo je kružiti loši deepfake ukrajinskog predsjednika Volodimira Zelenskog koji naređuje vojnicima da se predaju. Na stranu etička razmatranja, legalnost militariziranih deepfakeova u sukobu, koja ostaje otvoreno pitanje, nije obrađena u dokumentu SOCOM-a.

Kao i s kampanjama “dezinformiranja” stranih vlada, SAD je proteklih nekoliko godina proveo upozoravajući na moćnu prijetnju nacionalnoj sigurnosti koju predstavljaju deepfakeovi. Korištenje deepfakeova za namjerno obmanjivanje, vladina tijela redovito upozoravaju, moglo bi imati duboko destabilizirajući učinak na civilno stanovništvo koje im je izloženo.

Tehnologija koja stoji iza deepfake videa prvi put je stigla 2017., potaknuta kombinacijom jeftinog, moćnog računalnog hardvera i istraživačkih otkrića u strojnom učenju. Deepfake video zapisi obično se izrađuju ubacivanjem slika pojedinca u računalo i korištenjem dobivene kompjuterizirane analize za lijepljenje vrlo realističnog simulakruma tog lica na drugo.

“Sposobnost za društvenu štetu sigurno postoji.”

Nakon što je softver dovoljno uvježban, njegov korisnik može pokrenuti realistične izmišljene snimke mete koja govori ili radi gotovo bilo što. Lakoća upotrebe tehnologije i sve veća točnost potaknuli su strahove od ere u kojoj globalna javnost više ne može vjerovati onome što vidi vlastitim očima.

Iako glavne društvene platforme poput Facebooka imaju pravila protiv deepfakea, s obzirom na inherentno fluidnu i međusobno povezanu prirodu interneta, deepfakeove koje širi Pentagon također bi moglo doći u opasnost da se vrate u američku domovinu.

“Ako se radi o netradicionalnom medijskom okruženju, mogao bih zamisliti da će oblik manipulacije otići prilično daleko prije nego što ga neka vrsta lokalnih vlasti zaustavi ili ukori”, rekao je za The Intercept Max Rizzuto, deepfakes istraživač iz Laboratorija za digitalna forenzička istraživanja Atlantic Councila. “Sposobnost za društvenu štetu sigurno postoji.”

Izvor: theintercept.com

Kao primjer deepfake tehnologije, pogledajte ovaj video – iako su na njemu Tom Cruise i Paris Hilton, to su zapravo glumci čija su lica obrađena ovom tehnologijom.