“Kum A.I.-ja” dao otkaz u Googleu: Sada ću vam reći pravu istinu o umjetnoj inteligenciji

Geoffrey Hinton bio je pionir umjetne inteligencije. Godine 2012. dr. Hinton i dva njegova diplomirana studenta na Sveučilištu u Torontu stvorili su tehnologiju koja je postala intelektualni temelj za A.I. sustave za koje najveće tvrtke tehnološke industrije vjeruju da su ključ njihove budućnosti.

Međutim, u ponedjeljak se službeno pridružio sve većem zboru kritičara koji kažu da te tvrtke jure prema opasnosti svojom agresivnom kampanjom za stvaranje proizvoda temeljenih na generativnoj umjetnoj inteligenciji, tehnologiji koja pokreće popularne chatbotove poput ChatGPT-a.

Sad žali za svojim životnim djelom

Dr. Hinton u razgovoru za The New York Times rekao je da je dao otkaz na poslu u Googleu, gdje je radio više od desetljeća i postao jedan od najcjenjenijih glasova u tom području, tako da može slobodno govoriti o rizicima A.I. Dio njega, rekao je, sada žali za svojim životnim djelom.

“Tješim se uobičajenim izgovorom: da nisam ja to učinio, netko drugi bi”, rekao je dr. Hinton tijekom podužeg intervjua prošli tjedan u blagovaonici svog doma u Torontu, nekoliko minuta hoda od mjesta gdje su on i njegovi učenici su napravili svoj proboj.

Putovanje dr. Hintona od pionira A.I.-ja do kritičara ove tehnologije označava izuzetan trenutak za tehnološku industriju na njezinoj možda najvažnijoj prekretnici u desetljećima.

Čelnici industrije vjeruju da novi A.I. sustavi mogli bi biti jednako važni kao uvođenje web preglednika u ranim 1990-ima i mogli bi dovesti do otkrića u područjima od istraživanja lijekova do obrazovanja.

Mnoge insajdere grize strah

Ali mnoge insajdere u industriji grize strah da puštaju nešto opasno u divljinu. Generativni A.I. već može biti alat za dezinformiranje. Uskoro bi to moglo predstavljati rizik za radna mjesta. Uskoro bi, kažu najveći zabrinuti za tehnologiju, to mogao biti rizik za čovječanstvo.

“Teško je vidjeti kako možete spriječiti loše ljude da to iskoriste za loše stvari”, rekao je dr. Hinton.

Nakon što je start-up OpenAI iz San Francisca u ožujku objavio novu verziju ChatGPT-a, više od 1.000 tehnoloških vođa i istraživača potpisalo je otvoreno pismo pozivajući na šestomjesečni moratorij na razvoj novih sustava jer AI tehnologije predstavljaju “duboke rizike za društvo i čovječanstvo.”

Nekoliko dana kasnije, 19 sadašnjih i bivših čelnika Udruge za unapređenje umjetne inteligencije, 40-godišnjeg akademskog društva, objavilo je vlastito pismo upozoravajući na rizike od A.I.-ja

Ta je skupina uključivala Erica Horvitza, glavnog znanstvenog direktora u Microsoftu, koji je implementirao tehnologiju OpenAI-ja u širok raspon proizvoda, uključujući svoju tražilicu Bing.

Kad “kum umjetne inteligencije” da otkaz

Dr. Hinton, često nazivan “kum umjetne inteligencije”, nije potpisao nijedno od tih pisama i rekao je da ne želi javno kritizirati Google ili druge kompanije dok ne da otkaz na poslu.

On je prošlog mjeseca obavijestio tvrtku da daje ostavku, a u četvrtak je telefonski razgovarao sa Sundarom Pichaijem, izvršnim direktorom Googleove matične tvrtke Alphabet. Odbio je javno govoriti o detaljima razgovora s gospodinom Pichaijem.

Googleov glavni znanstvenik, Jeff Dean, rekao je u izjavi: “Ostajemo predani odgovornom pristupu A.I.-ju. Kontinuirano učimo razumjeti nove rizike, a istovremeno hrabro inoviramo.”

Dr. Hinton, 75-godišnji britanski iseljenik, doživotni je akademik čija je karijera vođena njegovim osobnim uvjerenjima o razvoju i korištenju umjetne inteligencije.

Godine 1972., kao diplomirani student na Sveučilištu u Edinburghu, dr. Hinton prihvatio je ideju zvanu neuronska mreža. Neuronska mreža je matematički sustav koji uči vještine analizom podataka. U to je vrijeme malo istraživača vjerovalo u tu ideju. Ali to je postalo njegovo životno djelo.

Odbio raditi za Pentagon

U 1980-ima dr. Hinton je bio profesor informatike na Sveučilištu Carnegie Mellon, ali je napustio sveučilište i otišao u Kanadu jer je rekao da nerado prihvaća sredstva Pentagona.

U to vrijeme većinu istraživanja A.I.-ja u Sjedinjenim Državama financiralo je Ministarstvo obrane. Dr. Hinton duboko se protivi korištenju umjetne inteligencije na bojnom polju – onoga što on naziva “roboti vojnici”.

Godine 2012. dr. Hinton i dva njegova studenta u Torontu, Ilya Sutskever i Alex Krishevsky, izgradili su neuronsku mrežu koja je mogla analizirati tisuće fotografija i sama sebe naučiti identificirati uobičajene objekte, poput cvijeća, pasa i automobila.

Google je potrošio 44 milijuna dolara za kupnju tvrtke koju su pokrenuli dr. Hinton i njegova dva učenika. A njihov je sustav doveo do stvaranja sve moćnijih tehnologija, uključujući nove chatbotove kao što su ChatGPT i Google Bard.

Dobio Turingovu nagradu

Sutskever je postao glavni znanstvenik u OpenAI-ju. Godine 2018. dr. Hinton i još dvoje dugogodišnjih suradnika primili su Turingovu nagradu, često nazivanu “Nobelovom nagradom za računalstvo”, za svoj rad na neuronskim mrežama.

Otprilike u isto vrijeme, Google, OpenAI i druge tvrtke započele su s izgradnjom neuronskih mreža koje su učile iz ogromnih količina digitalnog teksta.

Dr. Hinton je mislio da je to moćan način da strojevi razumiju i generiraju jezik, ali je bio inferioran u odnosu na način na koji ljudi barataju jezikom.

Zatim, prošle godine, kad su Google i OpenAI izgradili sustave koristeći mnogo veće količine podataka, njegovo se gledište promijenilo.

I dalje je vjerovao da su sustavi inferiorni ljudskom mozgu na neke načine, ali je mislio da zasjenjuju ljudsku inteligenciju na druge.

Ova sposobnost A.I.-ja je zastrašujuća

“Možda je ono što se događa u tim sustavima,” rekao je, “zapravo puno bolje od onoga što se događa u mozgu.”

Kako tvrtke poboljšavaju svoj sustav, smatra on, A.I.-jevi postaju sve opasniji.

“Pogledajte kako je bilo prije pet godina i kako je sada”, rekao je o A.I. tehnologiji. “Uzmite razliku i propagirajte je naprijed. To je zastrašujuće.”

Sve do prošle godine, rekao je, Google je djelovao kao “pravi upravitelj” tehnologije, pazeći da ne objavi nešto što bi moglo prouzročiti štetu.

Ali sada kada je Microsoft proširio svoju tražilicu Bing s chatbotom – izazivajući Googleovu osnovnu djelatnost – Google se utrkuje u implementaciji iste vrste tehnologije.

Kako će roboti ubojice postati stvarnost

Tehnološki divovi uhvaćeni su u natjecanje koje je možda nemoguće zaustaviti, rekao je dr. Hinton.

Njegova trenutna briga je da će internet biti preplavljen lažnim fotografijama, videima i tekstovima, a prosječna osoba “više neće moći znati što je istina”.

Također je zabrinut da je A.I. tehnologije će s vremenom preokrenuti tržište rada. Danas chatbotovi poput ChatGPT-a obično nadopunjuju ljudske radnike, ali bi mogli zamijeniti pravnike, osobne asistente, prevoditelje i druge koji obavljaju zadatke napamet.

“To oduzima težak posao”, rekao je. “Moglo bi oduzeti više od toga.”

Zabrinut je i da buduće verzije tehnologije predstavljaju prijetnju čovječanstvu jer često uče neočekivano ponašanje iz golemih količina podataka koje analiziraju.

To postaje problem, rekao je, jer pojedinci i tvrtke dopuštaju A.I. sustavima ne samo za generiranje vlastitog računalnog koda, već i da taj kod sami pokreću. I boji se dana kada će istinski autonomno oružje – ti roboti ubojice – postati stvarnost.

Zašto je prestao citirati Oppenheimera

 

“Ideja da bi ove stvari zapravo mogle postati pametnije od ljudi – nekoliko je ljudi vjerovalo u to”, rekao je. “Ali većina ljudi je mislila da je to daleko. I ja sam mislio da je daleko. Mislio sam da je to stvar za 30 do 50 godina ili čak i duže. Očito, više ne mislim tako.”

Mnogi drugi stručnjaci, uključujući mnoge njegove studente i kolege, kažu da je ova prijetnja hipotetska. No dr. Hinton vjeruje da će utrka između Googlea i Microsofta i ostalih eskalirati u globalnu utrku koja neće prestati bez neke vrste globalne regulacije.

Ali to je možda nemoguće, rekao je. Za razliku od nuklearnog oružja, rekao je, ne postoji način da se sazna rade li tvrtke ili zemlje na tehnologiji u tajnosti.

Najbolja nada je da vodeći svjetski znanstvenici surađuju na načinima kontrole tehnologije.

“Mislim da ne bi trebali ovo povećavati sve dok ne shvate mogu li to kontrolirati”, rekao je.

Dr. Hinton je rekao da bi, kada bi ga ljudi pitali kako može raditi na tehnologiji koja je potencijalno opasna, parafrazirao Roberta Oppenheimera, koji je predvodio američke napore da se napravi atomska bomba: “Kada vidite nešto što je tehnički slatko, samo naprijed i učini to.”

On to više ne govori.