Google je propao u skandalu zbog AI pristranosti

Istraživačica Timnit Gebru, sada bivša ko-šefica Google odjeljenja za etičku inteligenciju, kaže da je otpuštena nakon što su njene kolege od nje dobile e-poštu, gdje se „zalagala za nedovoljno zastupljene ljude“ u istraživanjima AI i među redovima kompanije uopšte.

Google je objasnio zašto je vrhunska istraživačica vještačke inteligencije napustila tehnološkog giganta nakon što je presuđeno da objavljivanje rada o važnom pitanju etike vještačke inteligencije, čija je koautorka, nije dozvoljeno.

Jeff Dean, Googleov šef AI-a, branio je odluku u internom e-mailu poslatom osoblju u četvrtak, rekavši da rad „nije ispunio uslove za objavljivanje“ i napomenuvši odlazak Timnit Gebru, koja je bila kopredsjednica tima AI Ethics u Google, uz odgovor na odbijanje kompanije iz Silicijumske doline da ispuni neke neodređene uslove koje je postavila za ostanak na svom položaju u kompaniji.

Timnit Gebru tvitovala je u srijedu uveče da je otpuštena zbog e-maila koji je poslala dan ranije zaposlenima u kompaniji.

U e-mailu izrazila je svoje razočaranje Googleovim odgovorom na napore nje i drugih zaposlenih da pojača zapošljavanje manjina i skrene pažnju na pristrasnost u vještačkoj inteligenciji uopšte.

“Vaš život počinje da se pogoršava kada počnete da se zalažete za nedovoljno zastupljene ljude. Druge lidere počinjete da uznemiravate”, navodi se u e-mailu. „Nema šanse da će više dokumenata ili više razgovora postići bilo šta“.

”Ućutkivanje marginalizovanih glasova”

U nastavku se žalila da unutar Googlea postoji “nula odgovornosti” oko tvrdnji kompanije da želi da poveća udio žena u svojim redovima. U e-mailu, koji je prvi put objavljen na Platformer, prikazana je i odluka da se njenom radu ne daje zeleno svjetlo kao dio procesa „ućutkivanja marginalizovanih glasova“.

U prošlosti je već bilo napetosti sa upravom Google zbog njenog zalaganja za veću raznolikost, po riječima jednog od Gebruinih kolega. Ipak, ostavljajući razloge po strani, uzrok njenog odlaska navodno je bila odluka kompanije da ne dozvoli objavljivanje istraživačkog rada čiji je koautor, rekla je ta osoba.

Dotični rad je proučio potencijalnu pristrasnost u sveobuhvatnim jezičkim modelima, zaista obećavajućem polju istraživanja prirodnog jezika, pri čemu sistemi poput OpenAI GPT-3 i Googleovog sopstvenog sistema Bert pokušavaju da predvide sljedeću riječ u bilo kom izgovoru.

„Neko u Googleu je odlučio da je to štetno za njihove interese“

Pristup je u osnovi efikasnih automatizovanih sistema za pisanje, a Google ga koristi za bolje razumijevanje izazovnih upita za pretragu. Tekstualni modeli, koji se oslanjaju na korpusnu lingvistiku, podstakli su zabrinutost da bi mogli automatski da apsorbuju rasne i druge pristrasnosti sadržane u materijalima za obuku koji su uglavnom izvedeni sa Interneta.

Prema riječima Emili Bender, profesorke računske lingvistike na Univerzitetu u Washingtonu, koja je vanjska koautorka rada, Gebru-in odlazak izgleda kao da je „neko u Google zaključio da je ovo štetno za njihove interese“.

„Akademska sloboda je veoma važna – postoje rizici kada se istraživanje odvija na mjestima koja nemaju tu akademsku slobodu“, nastavila je, nagađajući da ovo kompanijama ili vladama daje moć da „zatvore“ istraživanje koje oni ne odobravaju.

Bender je rekla da su se u njihovom konkretnom slučaju autori nadali da će rad dodatno ažurirati novijim istraživanjima na vrijeme kako bi bio prihvaćen na konferenciji kojoj će prisustvovati. Dodala je da je uobičajeno da takav rad zamijene novija istraživanja, s obzirom na to kako brzo napreduje rad na ovakvim poljima.

„U istraživačkoj literaturi nijedan rad nije savršen“, rekla je istraživačica.

Udarac u pouzdanost tehnologija

Isto tako, i sama Gebru se pozabavila osnovnim razlozima svog „otkaza“:

„…s količinom cenzure i zastrašivanja koja se nastavlja prema ljudima u određenim grupama, kako neko vjeruje da se može sprovesti neko pravo istraživanje u ovoj oblasti?“, Pitala se 37-godišnja istraživačica u jednom od svojih najnovijih tvitova.

Ugrađena pristrasnost

Gebruin odlazak iz Google izazvao je burne reakcije, ističući nagli porast napetosti između otvorenog osoblja kompanije i višeg rukovodstva, istovremeno izazivajući zabrinutost zbog napora kompanije da se izbori sa socijalnom nepravdom (uključujući navode o seksualnom uznemiravanju), kao i izgradnjom poštene i pouzdane tehnologija.

Konkretno, izražena je zabrinutost da bi ljudi koji dizajniraju sisteme vještačke inteligencije mogli da ugrade svoje predrasude u visoku tehnologiju.

New York Times je izvijestio da je tokom posljednjih nekoliko godina mnoštvo javnih eksperimenata pokazalo da sistemi umjetne inteligencije često različito komuniciraju sa ljudima sa drugom bojom kože – za šta se vjeruje da je uzrokovano njihovom nedovoljnom zastupljenošću među tehničkim specijalistima.