OpenAI raspušta tim posvećen rješavanju opasnosti umjetne inteligencije

Tvrtka za umjetnu inteligenciju (AI) OpenAI raspustila je tim koji je bio posvećen ublažavanju dugoročnih opasnosti od takozvane opće umjetne inteligencije (AGI).

OpenAI sa sjedištem u San Franciscu potvrdio je 17. svibnja kraj svoje grupe za superalignment. Članovi grupe, čije je raspuštanje počelo prije nekoliko tjedana, integrirani su u druge projekte i istraživačke napore.

“Razbijanje OpenAI tima usmjerenog na držanje sofisticirane umjetne inteligencije pod kontrolom dolazi jer se takva tehnologija suočava s pojačanim nadzorom regulatora i rastu strahovi u vezi s njezinim opasnostima”, izvijestio je Yahoo News.

Nakon raspuštanja tima za superalignment, suosnivač OpenAI-ja Ilya Sutskever i suvoditelj tima Jan Leike najavili su odlazak iz tehnološke tvrtke. U objavi na X, Sutskever je rekao da napušta tvrtku nakon gotovo desetljeća. Pohvalio je OpenAI u istom postu, opisujući ga kao tvrtku čija je “putanja bila ništa manje nego čudesna”.

“Uvjeren sam da će OpenAI izgraditi AGI koji je i siguran i koristan”, dodao je Sutskever, o računalnoj tehnologiji koja nastoji raditi jednako dobro kao i ljudska spoznaja, ako ne i bolja od nje. Inače, Sutskever je bio član uprave koja je u studenom prošle godine izglasala smjenu osnivača i izvršnog direktora Sama Altmana. Unatoč tome, Altman je vraćen na posao nekoliko dana kasnije nakon pobune osoblja i investitora.

Leikeova objava na X o njegovom odlasku također se dotakla AGI-ja. Pozvao je sve zaposlenike OpenAI-ja da “djeluju s ozbiljnošću” koju jamči ono što grade. Leike je ponovio: “OpenAI mora postati AGI tvrtka kojoj je sigurnost na prvom mjestu.”

Altman je odgovorio na Leikeovu objavu zahvalivši mu na njegovom radu u tvrtki i izrazivši tugu zbog njegovog odlaska. “U pravu je – imamo još puno toga za napraviti. Predani smo tome”, nastavio je izvršni direktor OpenAI-ja.

Raspuštanje i odlasci dolaze usred napredne verzije ChatGPT-a

Raspuštanje superalignment tima, zajedno s odlascima Sutskevera i Leikea, došlo je usred OpenAI-ja koji je objavio naprednu verziju svog prepoznatljivog ChatGPT chatbota. Ova napredna inačica, koja se može pohvaliti većim kapacitetom izvedbe i još više ljudskim interakcijama, postala je besplatna za sve korisnike.

“Osjećaj je poput umjetne inteligencije iz filmova”, rekao je Altman u postu na blogu. Izvršni direktor OpenAI-ja prethodno je istaknuo film “Ona” iz 2013. kao inspiraciju za to kamo bi želio da interakcije AI-ja idu. U središtu filma “Her” je lik Theodore Twombly (glumi ga Joaquin Phoenix) koji razvija vezu s umjetnom inteligencijom po imenu Samantha (glas posuđuje Scarlett Johansson).

Sutskever je u međuvremenu rekao tijekom govora na TED AI summitu u San Franciscu krajem prošle godine da će “AGI imati dramatičan utjecaj na svako područje života.” Dodao je da će doći dan kada će “digitalni mozak postati jednako dobar, pa čak i bolji” od ljudskog.

Prema časopisu WIRED, istraživanje o rizicima povezanim s moćnijim modelima umjetne inteligencije sada će voditi John Schulman nakon raspuštanja tima za superporavnanje. Schulman je suvoditelj tima odgovornog za fino podešavanje AI modela nakon obuke.

OpenAI je odbio komentirati odlaske Sutskevera, Leikea ili drugih članova sada raspuštenog superalignment tima. Također je odbio komentirati budućnost svog rada na dugoročnim rizicima umjetne inteligencije.

“Nema naznaka da nedavni odlasci imaju bilo kakve veze s naporima OpenAI-ja da razvije umjetnu inteligenciju koja je sličnija čovjeku ili da isporuči proizvode”, istaknuo je časopis. “No najnovija dostignuća pokreću etička pitanja u vezi s privatnošću, emocionalnom manipulacijom i rizicima kibernetičke sigurnosti.”