AI halucinacije krenule po zlu kada je Aljaska koristila lažne statistike u politici

Kombinacija umjetne inteligencije i kreiranja politika ponekad može imati nepredviđene posljedice, što se nedavno moglo vidjeti na Aljasci.

U neobičnom spletu događaja, zakonodavci Aljaske navodno su koristili netočne citate generirane umjetnom inteligencijom kako bi opravdali predloženu politiku zabrane mobilnih telefona u školama. Kako izvještava The Alaska Beacon, Odjel za obrazovanje i rani razvoj Aljaske (DEED) predstavio je nacrt politike koji je sadržavao reference na akademske studije koje jednostavno nisu postojale.

Situacija je nastala kada je povjerenica za obrazovanje Aljaske, Deena Bishop, koristila generativnu umjetnu inteligenciju za izradu politike o mobilnim telefonima. Dokument koji je proizvela UI uključivao je navodne znanstvene reference koje nisu bile ni provjerene ni točne, a dokument nije otkrivao korištenje UI u svojoj pripremi. Neki od sadržaja generiranih UI-jem došli su do Državnog odbora za obrazovanje i rani razvoj Aljaske prije nego što su mogli biti pregledani, potencijalno utječući na rasprave odbora.

Povjerenica Bishop kasnije je tvrdila da je UI korištena samo za “stvaranje citata” za početni nacrt i ustvrdila da je ispravila pogreške prije sastanka slanjem ažuriranih citata članovima odbora. Međutim, UI “halucinacije” – izmišljene informacije generirane kada UI pokušava stvoriti uvjerljiv ali neprovjereni sadržaj – još uvijek su bile prisutne u konačnom dokumentu o kojem je odbor glasao.

Konačna rezolucija, objavljena na DEED-ovoj web stranici, nalaže odjelu uspostavljanje modela politike za ograničenja mobilnih telefona u školama. Nažalost, dokument je uključivao šest citata, od kojih su četiri naizgled bila iz uglednih znanstvenih časopisa. Međutim, reference su bile potpuno izmišljene, s URL-ovima koji su vodili na nepovezani sadržaj. Incident pokazuje rizike korištenja podataka generiranih UI-jem bez odgovarajuće ljudske provjere, posebno pri donošenju političkih odluka.

Slučaj Aljaske nije jedinstven. UI halucinacije sve su češće u različitim profesionalnim sektorima. Na primjer, neki pravni stručnjaci suočili su se s posljedicama korištenja izmišljenih sudskih citata generiranih UI-jem na sudu. Slično tome, akademski radovi stvoreni pomoću UI-ja uključivali su iskrivljene podatke i lažne izvore, predstavljajući ozbiljne probleme vjerodostojnosti. Kada se ne kontroliraju, generativni UI algoritmi, koji su namijenjeni proizvodnji sadržaja na temelju obrazaca umjesto činjenične točnosti, mogu lako proizvesti obmanjujuće citate.

Oslanjanje na podatke generirane UI-jem u kreiranju politika, posebno u obrazovanju, nosi značajne rizike. Kada se politike razvijaju na temelju izmišljenih informacija, mogu pogrešno rasporediti resurse i potencijalno naštetiti učenicima. Na primjer, politika ograničavanja upotrebe mobilnih telefona temeljena na izmišljenim podacima može skrenuti pozornost s učinkovitijih intervencija temeljenih na dokazima koje bi stvarno mogle koristiti učenicima.

Nadalje, korištenje neprovjerenih UI podataka može narušiti povjerenje javnosti i u proces kreiranja politika i u samu UI tehnologiju. Takvi incidenti naglašavaju važnost provjere činjenica, transparentnosti i opreza pri korištenju UI-ja u osjetljivim područjima donošenja odluka, posebno u obrazovanju, gdje utjecaj na učenike može biti dubok.

Dužnosnici Aljaske pokušali su umanjiti situaciju, nazivajući izmišljene citate “privremenim oznakama” namijenjenim kasnijoj korekciji. Međutim, dokument s “privremenim oznakama” još uvijek je predstavljen odboru i korišten kao osnova za glasanje, naglašavajući potrebu za strogim nadzorom pri korištenju UI-ja.