Zaposleni u Google-u pokušali su blokirati uvođenje rivala ChatGPTa

Dvojica zaposlenih u Googleovom odjelu za odgovorne inovacije pokušali su, ali nisu uspjeli blokirati objavljivanje svog AI chat bota Bard prošlog mjeseca, upozoravajući da je sklon “netačnim i opasnim izjavama”, objavio je New York Times u petak, pozivajući se na insajdere koji su upoznati s procesom. 

Zabrinuti recenzenti proizvoda već su primijetili probleme sa AI velikim jezičkim modelima kao što su Bard i njegov najveći konkurent ChatGPT kada se Googleov glavni advokat sastao s rukovodiocima istraživanja i sigurnosti kako bi ih obavijestio da kompanija daje AI prioritet nad svim ostalim.

Zabrinutost o tome da chatbot proizvodi lažne informacije, povređuje korisnike koji su postali emocionalno vezani, ili čak oslobađa “tehnološki olakšano nasilje” kroz sintetičko masovno uznemiravanje naknadno je umanjila nadzornica Responsible Innovation Jen Gennai, tvrde izvori. Dok su recenzenti pozivali Google da pričeka prije nego što pusti Barda, Gennai je navodno uredio njihov izvještaj kako bi u potpunosti uklonio tu preporuku.

Gennai je branila svoje postupke za Times, ističući da recenzenti ne bi trebali dijeliti svoje mišljenje o tome da li da nastave, jer je Bard bio samo eksperiment. Tvrdila je da je poboljšala izvještaj, “ispravivši netačne pretpostavke i zapravo dodala više rizika i šteta koje je trebalo razmotriti”. To je učinilo gotov proizvod sigurnijim, insistirala je.

Google je pripisao Gennaiju svoju odluku da pusti Bard kao “ograničeni eksperiment”, ali će chatbot i dalje biti u potpunosti integriran u Googleov pretraživač koji dominira na tržištu “uskoro”, prema Googleovoj vlastitoj web stranici.

Google je i ranije gušio pobune zaposlenih po pitanju umjetne inteligencije. Prošle godine je otpustio Blakea Lemoinea nakon što je tvrdio da je Bardov prethodnik LaMDA (Jezički model za aplikacije za dijalog) postao osvješćen , dok je istraživač El Mahdi El Mhamdi dao ostavku nakon što mu je kompanija zabranila objavljivanje papira koji upozorava na ranjivosti kibernetičke sigurnosti u velikim jezičkim modelima kao što su Bard. 2020. godine, istraživač AI Timnit Gebru otpušten je nakon što je objavio istraživanje u kojem je Google optužio za nedovoljan oprez u razvoju AI.

Međutim, rastuća frakcija istraživača umjetne inteligencije, tehnoloških rukovodilaca i drugih utjecajnih futurista vagala je protiv brzog „napretka“ Googlea i njegovih konkurenata u Microsoftu i proizvođaču ChatGPT OpenAI dok se ne nametnu efikasne mjere zaštite za tehnologiju. Nedavno otvoreno pismo u kojem se poziva na šestomjesečni moratorij na “gigantske AI eksperimente” privuklo je hiljade potpisnika, uključujući suosnivača OpenAI Elona Muska i suosnivača Applea Stevea Wozniaka.

Potencijal tehnologije da uzdrma društvo čineći mnoga ljudska zanimanja (ili same ljude) zastarjelima je centralna za upozorenja mnogih stručnjaka, iako se često navode manji rizici poput kršenja podataka – koji su se već dogodili u OpenAI-u.