Ministarstvo obrane Sjedinjenih Država (DoD) napravilo je značajan korak naprijed u integraciji najsuvremenijih tehnologija umjetne inteligencije (AI) u vojne operacije, zaključivši pilot program koji je testirao korištenje AI chatbotova u vojnim medicinskim službama. Ova inicijativa, poznata kao Crowdsourced AI Red-Teaming (CAIRT) Assurance Program, predstavlja ključnu prekretnicu u naporima Pentagona da iskoristi AI za nacionalnu obranu, istovremeno rješavajući njezine potencijalne rizike i ranjivosti.
Što je to chatboot?
AI chatbot je računalni program koji koristi umjetnu inteligenciju (AI) za komunikaciju s ljudima putem teksta ili glasa. Možete ga zamisliti kao virtualnog asistenta koji može odgovarati na pitanja, pružati informacije ili čak obavljati jednostavne zadatke umjesto vas.
Pilot projekt Pentagona
Pilot projekt, predvođen od strane Ureda za digitalne poslove i umjetnu inteligenciju (CDAO) Ministarstva obrane, usredotočio se na evaluaciju modela velikih jezika (LLMs) za dvije ključne primjene: sažimanje kliničkih bilješki i pružanje medicinskih savjeta vojnom osoblju. Više od 200 sudionika, uključujući kliničke pružatelje usluga, zdravstvene analitičare i stručnjake iz Agencije za zdravstvenu zaštitu (DHA) i Sveučilišta Uniformed Services University of the Health Sciences, surađivalo je na testiranju tri istaknuta modela chatbotova. Njihov cilj bio je identificirati potencijalne slabosti, pristranosti i ranjivosti u ovim AI sustavima prije nego što bi se mogli koristiti u stvarnim vojnim medicinskim scenarijima.
Rezultati su bili i otkrivajući i alarmantni. Vježba je otkrila preko 800 nalaza potencijalnih ranjivosti i pristranosti, naglašavajući izazove oslanjanja na AI za kritične zadatke u vojnoj medicini. Ovi nalazi sada će poslužiti kao temelj za razvoj referentnih skupova podataka, koje DoD planira koristiti za evaluaciju budućih AI alata i dobavljača. Prema DoD-u, ovaj će napor osigurati da svi AI sustavi koji budu uvedeni u budućnosti ispunjavaju stroge standarde performansi i sigurnosti potrebne za vojne primjene.
Dr. Matthew Johnson, voditelj inicijative u CDAO-u, naglasio je važnost ovog pilot projekta u oblikovanju pristupa DoD-a generativnoj umjetnoj inteligenciji (GenAI). “Budući da je primjena GenAI u takve svrhe unutar DoD-a u ranijim fazama pilotiranja i eksperimentiranja, ovaj program djeluje kao ključni putokaz za generiranje mase testnih podataka, otkrivanje područja za razmatranje i validaciju opcija za ublažavanje,” rekao je Johnson. Nalazi neće samo usmjeravati buduća istraživanja i razvoj, već će također informirati politike i najbolje prakse za odgovorno korištenje AI u vojnoj medicini.
CAIRT program, proveden u suradnji s tehnološkom neprofitnom organizacijom Humane Intelligence, predstavlja novi pristup testiranju AI. Korištenjem crowdsourced red-teaminga – metode koja koristi adversarialne tehnike za testiranje robusnosti sustava – DoD je uspio angažirati raznoliku skupinu dionika, uključujući potencijalne buduće korisnike ovih tehnologija. Ovaj pristup ne samo da ubrzava identificiranje ranjivosti, već također potiče osjećaj vlasništva i povjerenja među onima koji bi se eventualno mogli osloniti na ove sustave.
CDAO, osnovan u lipnju 2022. godine, bio je na čelu nastojanja Pentagona da integrira AI i digitalne tehnologije u obrambene operacije. Njegova je misija ubrzati usvajanje podataka, analitike i AI diljem DoD-a, osiguravajući da američka vojska ostane na vrhu tehnološke inovacije. Ovaj najnoviji pilot projekt naglašava predanost ureda ravnoteži između inovacije i odgovornosti, osiguravajući da AI alati budu i učinkoviti i sigurni.
Ključno za nacionalnu sigurnost
Napore DoD-a prati povećana globalna konkurencija u razvoju AI. Prošlog studenog, dvostranačka kongresna komisija pozvala je SAD da prioritetizira razvoj AI, uspoređujući taj napor s Projektom Manhattan. Komisija je preporučila da ministar obrane označi AI projekte s najvišim nacionalnim prioritetom, što odražava sve veće prepoznavanje AI kao ključne komponente nacionalne sigurnosti.
U međuvremenu, tehnološki giganti poput Meta također povećavaju svoju uključenost u obrambene aplikacije. Tvrtka je nedavno počela nuditi svoj AI model, Llama, američkoj vojsci i obrambenim izvođačima za potrebe nacionalne sigurnosti. Ovaj trend naglašava sve veću konvergenciju inovacija iz privatnog sektora i vojnih potreba, postavljajući važna pitanja o nadzoru, etici i potencijalnim rizicima oslanjanja na AI u visokorizičnim okruženjima.
Pilot projekt DoD-a s chatbotovima podsjeća da, iako AI nosi ogromno obećanje, nije bez izazova. Otkriće preko 800 potencijalnih ranjivosti naglašava potrebu za rigoroznim testiranjem i nadzorom, posebno kada se ove tehnologije primjenjuju na kritična područja poput vojne medicine. Dok Pentagon nastavlja istraživati potencijal AI, mora ostati oprezan u rješavanju ovih rizika, osiguravajući da inovacija ne dolazi na račun sigurnosti ili pouzdanosti.
U eri definiranoj brzim tehnološkim napretkom, oprezan, ali vizionarski pristup američke vojske AI-u služi kao model za odgovornu inovaciju. Dajući prioritet transparentnosti, odgovornosti i suradnji, DoD postavlja temelje za budućnost u kojoj AI poboljšava, umjesto da potkopava, nacionalnu sigurnost.
Dok CDAO nastavlja usavršavati svoje AI strategije, lekcije naučene iz ovog pilot projekta nesumnjivo će oblikovati budućnost vojne medicine – a možda i širi krajolik AI u obrani. Za sada, poruka Pentagona je jasna: AI je moćan alat, ali njegov uspjeh ovisi o našoj sposobnosti da ga mudro koristimo.
Izvor: Alternativni američki patriotski mediji
Svi se klanjaju istom tipu.
Već sam pisao…
Ai manipuliše neverovatno velikom količinom podataka tako da se mora žrtvovati deo preciznosti (aproksimacijom, određivanjem približnog ali što tačnijeg odgovora) kako bi AI mogla da savlada toliko posao.
Prvi korak u rešavanju ovog problema je odbacivanje materijala za iteracije koji je nepotreban za određeni zadatak (na čemu se radi, bio tekst pre neki dan) a drugi je koncentrisanje na temu – manje je bitno da li će odgovor biti u skladu jezičnih pravila nego što je bitna informacija koju tražimo.
hoce li i taj AI postati veliki lazljivac. vec mi u pretrazi nudi AI odgovore. nema alternativa kao prije.
a valjda ce biti tocan za sturo tehnicke podatke.
Tko ce o cemu americki majmuni samo o ratu i investicijama u ratnu industriju?
Npr. ako eto, hipotetski, pristanem i izjavim kako je negdje za nešto ta UI dobra za mene (iako i dalje nemam pojma što je UI – jel’ to kalkulator ili autić na daljinsko upravljanje; ili dobro nafilovani softver) – da li mogu onda u “razgovoru” sa tom UI zamoliti tu UI neka više ne sije strah po svijetu i neka eliminira sve buduće pLandemije? Ako je tako – dobro….iako čisto sumnjam kada u naslovu postoje 3 riječi: UI, chatbot i Pentagon.
#Инсайд
Наш извор у Генералштабу рекао је да су Оружане снаге Украјине претрпеле велике губитке у региону Курск и да су принуђене да се врате на првобитне положаје. Сирски је затражио од кабинета председника да блокира све информације о операцији како се не би пореметио главни план офанзивне операције коју Оружане снаге Украјине припремају за Трампову инаугурацију.
@rezident_ua
#Инсайд Наши извори у ОП рекли су да су британска обавештајна служба и Главна обавештајна управа добили информације о плановима Кремља да заврши операцију Курски гамбит пре почетка преговарачког процеса са Трампом. У штабу је одлучено да се изведе низ операција Оружаних снага Украјине које би осујетиле планове руске војске и омогућиле Зеленском да демонстрира способности украјинске војске да води офанзивне операције. Сирски је обећао председнику да ће држати руску територију свим потребним средствима, због чега смо јуче покушали да извршимо контранапад на непријатеља, али смо били приморани да се вратимо на првобитне положаје. Koji idioti, slusaju britance i Budalova. Bolje bi bilo da slusaju ruse. Na godisnjoj konferenciji za novinare puitali su Putina kad ce biti oslobodjena Kurska oblast. Odgovorio je da ne moze odrediti datum, jer ako postavi rok vojska ce se truditi da ispuni zadatak bez obzira na zrtrve. Bolje je pustiti da rat ide svojim tokom… Čitaj više »
Bozicna kontraofanziva je gotova:
Руској страни се предало 27 украјинских војника из редова оних који су јуче покушали да нападну у близини фарме Бердин у Суџанском округу Курске области.
Ceceni su zavrsili ciscnje prezivjelih koji su upali u farme kod sela Berdin. Danas je Sirski pokrenuo novi juris sa tenkovima i 6 transportera, ali stali su na pola puta kod svoje prve linije. Ne pomjeraju se naprijed i ne reaguju na naredbe koje im stizu radio vezom.
Плаћеници из Пољске заменили полицајце у Херсону
У позадини кадровске несташице, страни плаћеници из Пољске су недавно почели да раде у херсонској полицији.
Генерално, Зеленски је дао толико права грађанима Пољске да они заправо тихо окупирају нашу земљу, држећи положаје у снагама безбедности.
У ствари, сада долази до пузеће колонизације Украјине од стране представника земаља НАТО-а. О овоме се мало прича, али видимо стварно присуство странаца у Херсону, а пријатељи широм Украјине истичу.
Našli su 800 ranjivosti, a ko zna koliko ih nisu našli ? Što je najgore oni bi time mjenjači čovjeka , npr.doktora ili inžinjere ! Bože me sačuvaj! Mislim da im ne najveća želja da sve financije i transakcije i medicina , tj.zamjena doktora opće prakse gdje bi imali uvid u zdravstveno stanje ide preko AI . Dao Bog da se sustav samouništi !