Naučnik Geoffrey Hinton, dobitnik Turingove nagrade, prošlog mjeseca je dao ostavku na Google, gdje je proveo veći dio protekle decenije razvijajući programe generativne umjetne inteligencije (AI) i upozorio na rizike koje njegovo životno djelo može predstavljati čovječanstvu.
Hintonu se pripisuje da je bio temeljna figura u nastupu umjetne inteligencije (AI), ali je za New York Times u podužem intervjuu objavljenom u ponedjeljak rekao da je donio odluku da napusti usred de facto utrke u naoružanju u Silicijumskoj dolini između Googlea i Microsoft.
Kontroverzna tehnologija formirala je osnovu za generativni softver veštačke inteligencije kao što su ChatGPT i Google Bard, dok giganti tehnološkog sektora zaranjaju svoje prste u novu naučnu granicu, za koju očekuju da će biti osnova budućnosti njihovih kompanija.
Hinton je za NYT rekao da je njegova motivacija za napuštanje Googlea bila da može bez nadzora govoriti o tehnologiji za koju sada smatra da predstavlja opasnost za čovječanstvo. „Tješim se normalnim izgovorom: da to nisam uradio ja, učinio bi neko drugi“, rekao je on za američke novine.
Javno okrenuti chat botovi kao što je ChatGPT pružili su uvid u Hintonovu zabrinutost. Dok ih neki smatraju samo novim novitetima na internetu, drugi su upozorili na potencijalne posljedice jer se odnose na širenje dezinformacija na internetu i njihov utjecaj na zapošljavanje. Najnovija verzija ChatGPT-a, koju je u martu objavio OpenAI iz San Francisca, potaknula je objavljivanje otvorenog pisma koje je potpisalo više od 1.000 čelnika tehnološkog sektora – uključujući Elona Muska – kako bi se istaknuli “duboki rizici za društvo i čovječanstvo” koje tehnologija predstavlja .
I dok Hinton nije dodao svoj potpis na pismo, njegov stav o potencijalnoj zloupotrebi AI je jasan: „Teško je shvatiti kako možete spriječiti loše aktere da ga koriste za loše stvari.“
Hinton tvrdi da se Google ponašao “veoma odgovorno” u svom upravljanju umjetnom inteligencijom, ali bi na kraju, kako kaže, vlasnici tehnologije neizbježno mogli izgubiti kontrolu. To bi moglo dovesti do scenarija, kaže on, u kojem se lažne informacije, fotografije i video snimci ne mogu odrediti od stvarnih informacija i dovesti do toga da ljudi više ne znaju “šta je istina”.
“Ideja da bi ove stvari mogle postati pametnije od ljudi – nekoliko ljudi je vjerovalo u to”, rekao je Hinton za NYT. “Ali većina ljudi je mislila da je to daleko. I mislio sam da je to daleko. Mislio sam da je to 30 do 50 godina ili čak i duže. Očigledno, više ne mislim tako.”
“Pametnije od ljudi…”…pa da, sada kada ste vi – mudraci i vizinari – pretvorili Kaliforniju u hrpetinu smeća, beskućnika, napunili ju +++ ideologijama i fentanilom…vrijeme je da se digne sidro. Dakle, vaša morbidna oholost i pohlepa će dovesti do toga da ćete konačno požderati sami sebe i međusobno se potamaniti zbog love i utjecaja…Daj, samo reci šefe: gdje je “fizičko” tijelo tog tvog AI i kako će taj tvoj AI nanijeti štetu čovjeku? — Lažima, manipulacijama, potplaćivanjem poslušnika, još jačom propagandom?…pa to radite već godinama, majstore, sram te može biti, vrati tu nagradu ako si nekakva “moralna vertikala”…Nevjerojatno kakve odvratnosti ti ljudi mogu izgovoriti…lp
Ima savjest.
“To bi moglo dovesti do scenarija, kaže on, u kojem se lažne informacije, fotografije i video snimci ne mogu odrediti od stvarnih informacija i dovesti do toga da ljudi više ne znaju “šta je istina”. Da, u Beogradu imate kamere za prepoznavanje lica na svakom cosku glavnih saobrajnica, ali sve su usmerene prema autobuskim stajalistima gradskog prevoza. Takodje ih ima i unutar vozila gradskog prevoza. Zasto su im obicni ljudi koji koriste gradski prevoz toliko interesantni? Zato sto cemo zahvaljujuci zelenoj agendi uskoro svi koristiti samo taj prevoz (ili pretezno taj prevoz), malo ko ce posle 2030 ili 35 moci sebi da priusti vozilo, a i nece mu trebati u 15 minutnom zatvoru! I pomocu tih kamera ce imati video zapise svake osobe, i od tog kratkog video zapisa od nekoliko minuta moze da se napravi digitalna verzija i lazni video snimak u kome cinite neko tesko krivicno delo! I niko… Čitaj više »
Fama o umjetnoj inteligenciji je marketinški trik za iste one koji vjruju što se na TV dnevniku čita. Čitam reklamu za vešmašine, piše preilica – ima modul za umjetnu inteligenciju. Pa sad netko tko nije nikad zavirio u elektrotehniku možda i povjeruje i plati 300-500 eura više. Statistički gledano takovih ima i bit će ih dovoljno da se stvar debelo naplati i isplati. Prije se to zvalo automatiziranje procesa, a sve je zavisilo o stupnju automatiziranosti. Automatizirati se može otprilike sve, ali sve ovisi koliko se novaca uloži. Ali automatiziranje ne znači inteligencija. Automatiziranje u softveru znači samo bezbroj IF programskih petlji, ali tu inteligenicije nema već samo inteligencija programera da nađe pravi put do pravog (željenog) odgovora, a to znači da je moguća i manipulacija tog programera. U jednostavnim procesima je mala vjerojatnost pogreške a u složenim sustavima vjerojatnost pogreške sve je veća, a pogotovo sustav postaje problematičan, ako… Čitaj više »
nesto se mislim … sto bi AI mogao? sto ce biti prvo sto ce raditi?
pa, prvo ce biti reklame. nagovaranje na kupnju. AI ce proucavati pojedinca, individualni pristup, razumijeti psihologiju. zatim ce razgovarati. reklame ce biti personalizirane. pa kao sto igrica opsjeda, kao sto film rastuzuje, glazba vodi, roman udubljuje, tako ce AI naci najbolji nacin kako da zavede i nagovori svakog pojedinca. bit ce to nagovaranje na kupnju isprva, na ovisnost o programu (igrici, filmu, ulozi (role playing). kad se uvjezba, nauci, postane sve bolji i bolji, steci ce moc jednaku hipnotiziranju.
odmah nakon trgovackih reklama slijedit ce uvjeravanje da se “kupi” “politicki proizvod”. tu dolazi propaganda.
Tako da bih mislio da ce AI obavljati posao hipnotiziranja. AI ce hipnotizirati citav svijet.
je li to biblijska sotona?
ne mora AI biti samosvjestan, ne kontoliran, pobunjenicki. dovoljno da uspjesno radi posao hipnotiziranja u korist onga tko njime upravlja.
Sjetite se kako je Putin prije 2-3 godne problijedio kad je govorio koliko opasna moze biti VI i da je opasnija od atomskog oruzja.
Nakon toga rusi su poceli VI ugradjivati u naoruzanje, ali komnadu za paljbu ne moze izdati VI, vec covjek mora pritisnuti dugme. To je bila Putinova direktna neredba da covjek mora imati dugme za iskuljucenje VI i da konacnu odluku o svemu mora donositi covjek.
Na zapadu je suprotna situacija – hoce da cipuju ljude i da VI upravlja sa treansljudima kao sto sad upravlja berzama i bankakma.
Više puta sam isticao – ova tehnologija se nije pojavila preko noći kao pečurka, odavno je sa nama ali se sada gura u prvi plan i to kao pretnja!
Pokušajte da saberete “egzistencijalne pretnje” koje su se pojavile od 20te naovamo… neće vam biti dovoljni prsti jedne ruke! Ni obe ruke!! Ni zajedno prsti i ruku i nogu!!!
Da se čovek zapita kako smo uspeli da opstanemo desetinama hiljada godina… a onda da uzme motku u ruke i eliminiše onih nekoliko pravih pretnji.
Taj lik je bio profesor na University of Toronto, inače je porijeklom britanac. On je sa svojim studentima uveo pojam “neural networks”. Imao sam jednu profesoricu kineskinju, koja je bila onako nadobudna, širila ideje. Ona je studirala na University of Toronto (u of t) pa nam je jednom prilikom predavala o neural networks (to je bilo prije više od 20 godina). I onda smo kao zadatak morali isprogramirati takav koncept.