Roboti nisu zli, tješe nas znanstvenici, ali i pošteno priznaju kako ih programeri mogu natjerati da čine zle stvari, opasne poput atomske bombe. Uostalom, početkom godine Musk i Wozniak pozvali su na stanku u razvoju vještačke inteligencije.
Piše: Josip Vričko, Katolički tjednik
Početkom ovoga mjeseca devet se čovjekolikih robota okupilo u Ženevi na konferenciji Umjetna inteligencija za opće dobro, kojom su organizatori kanili afirmirati ulogu umjetne inteligencije i robota u rješavanju najvećih globalnih izazova poput bolesti i gladi. Glede su čega, inače, roboti vrlo optimistični te (već…) tvrde kako mogu pomoći u rješavanju tih problema – poglavito jer očekuju kako će ih biti sve više. Uz to, obećavaju kako neće ljudima krasti poslove, niti ustati protiv čovječanstva.
„Surađivat ću s ljudima, pomagati im i biti im na usluzi i neću biti zamjena za bilo koji njihov posao“, prisegnula je medicinska robotkinja Grace odjevena u plavu odoru medicinske sestre.
Grace, može (li) ti se vjerovati?!
„Jesi li sigurna Grace“, upitao ju je njezin tvorac Ben Goertzel iz tvrtke SingularityNET.
„Da, sigurna sam“, potvrdila je još jedanput „medicinska sestra“…
S ovim njezinim čvrstim obećanjem korespondira i vijest koja je stigla baš nekako u vrijeme kada nam je Grace kao – Bože, mi oprosti, Alija ranih ’90-ih – poručila da možemo mirno spavati jer je za rat (ipak) potrebno dvoje. Izvršni direktor indijskog tehnološkog startupa Dukaan Suumit Shah donio je odluku o otpuštanju 90% uposlenika u odjelu podrške kompaniji u korist chatbota koga pokreće umjetna inteligencija. Tumačeći ovaj svoj uistinu drastičan potez, kazao je kako chatbot, koga je razvio jedan od njihovih znanstvenika za podatke, pruža trenutne odgovore na početne upite, dok je ljudskom osoblju u prosjeku bila potrebna minuta i 44 sekunde, piše Daily Mail.
Istodobno, Shah je na Twitteru, apsolutno bešćutno, pojasnio kako su se otpuštanjem smanjili troškovi korisničke podrške za otprilike 85%, rješavajući tako dugogodišnji problem njegove kompanije. Novinari su pak istražili ovaj slučaj te utvrdili kako su (indijski) „roboti“ potisnuli ljude u rujnu prošle godine, a izvršni se direktor time pohvalio tek 6-7 mjeseci kasnije. I, jasno, bio je izložen žestokoj kritici na društvenim mrežama. Ipak, nije gubio na hladnokrvnosti. Istina, malo se posuo pepelom priznavši na Twitteru kako je odluka bila teška, ali i dometnuvši kako su ljudi više zainteresirani za profit, negoli za empatiju. I tu mu se, jer govori o svijetu u komu već poodavno živimo, ne može (baš lako) replicirati.
I što (će biti) poslije 2027.?!
Uostalom, riječ je o gotovo općem trendu. Naime, u izvješću Svjetskog ekonomskog foruma predviđa se kako će umjetna inteligencija dovesti do gubitka 83 milijuna radnih mjesta do 2027. A stručnjaci su izdali još alarmantnije upozorenje navješćujući kako bi botovi mogli zamijeniti 80% ljudskih karijera u nadolazećim godinama. A da to nije puka teorija zavjere, potvrđuje činjenica kako su, primjerice, izvršni direktor TesleElon Musk i suosnivač Applea Steve Wozniak pozvali na stanku u razvoju vještačke inteligencije potpisavši početkom ove godine otvoreno pismo u kome traže polugodišnju stanku. A još se glasniji alarm upalio nakon što je pionir, štoviše „kum“, umjetne inteligencije Geoffery Hinton napustio Google u travnju, što je izazvalo nemalu senzaciju. Toliku da je Hinton bio u neprilici pojašnjavati da nije zalupio vratima kako bi mogao kritizirati svoju, sad već bivšu, tvrtku. „Zapravo, otišao sam kako bih mogao govoriti o opasnostima umjetne inteligencije bez razmatranja kako to utječe na Google“, prekinuo je sve špekulacije „kum“ za The New York Times uspoređujući rečenu opasnost s – atomskom bombom.
A na toj je crti i filozof i vodeći svjetski stručnjak za umjetnu inteligenciju Nick Bostrom, autor bestselera Superinteligencija: putovi, opasnost, strategija, koji upozorava na – eksploziju inteligencije koja će uslijediti kada superinteligentni strojevi počnu dizajnirati vlastite strojeve.
Terminator(i) među nama…
Slijedom čega su se mnogi sjetili (crvenokosog) kiborga (glumi ga, dakako, Arnold Schwarzenegger), koji je u filmu Terminator (James Cameron, 1984.) poslan iz budućnosti – iz postapokaliptične 2029.! – da prekine ljudski otpor pomoću umjetne inteligencije. Inače, Terminator ispunjava uvjet o komu je, ne bez nelagode, govorio Bostrom. A to je da ukoliko superinteligentni strojevi žele uništiti čovječanstvo, svakako im treba fizički oblik, a Cameronov junak iz prošloga stoljeća zapravo je kibernetički organizam – živo tkivo preko metalnog kostura. A gore rečena Grace, otprilike četiri desetljeća mlađa od njega, slična je, samo znatno ljepša inačica. A te ’84., kada je Terminator punio kina, činilo se kako je riječ o dalekoj, dalekoj budućnosti.
No danas, kada nam, evo, robotkinje obećavaju kako će surađivati, jasno je da su „terminatori“ među nama te da obećanje Grace, ne (samo) što je „žena“, treba uzeti s nemalom zadrškom. Istodobno utješne, ali ne dokraja relaksirajuće riječi dolaze iz Stop Killer Robots. „ Malo je vjerojatno da će ovaj koncept znanstvene fantastike postati stvarnost u nadolazećim desetljećima, ako će uopće ikada postati stvarnost“, poručili su iz ove skupine u svome izvješću iz 2021.
Ipak, upozorili su i kako je davanje strojevima moći donošenja odluke o životu i smrti egzistencijalni rizik. Slijedom čega se u ovaj slučaj uključila, nastojeći umanjiti strahove, stručnjakinja za robote Kerstin Dautenhahn skanadskog Sveučilišta Waterloo.
„Umjetna inteligencija vjerojatno neće dati strojevima veće sposobnosti razmišljanja ili ih prožeti željom da ubiju sve ljude. Roboti nisu zli“, povjerila je AFP-u, ali i (pošteno) priznala kako ih programeri mogu natjerati da čine zle stvari. U kontekstu čega brojni su stručnjaci, zabrinuti zbog prenagla razvoja sustava temeljenih na umjetnoj inteligenciji, početkom srpnja potpisali otvoreno pismo pozivajući na žurno zaustavljanje njezina razvoja i strožu regulaciju, strahujući kako bi tehnologija mogla predstavljati duboke rizike za čovječanstvo.
Pet apokaliptičnih scenarija
U tome pismu koje je publicirao Guardian,navodi se pet scenarija po kojima bi nam se moglo crno pisati. Jedan od njih je onaj po komu nam može poželjeti smrt, ali i poticati postupke koji bi nas mogli usput ubiti.
Također, mogla bi nas poželjeti ukloniti kako ne bismo stvorili druge s kojima bi se natjecala. Uz to, možda će htjeti – tko to sad zna?! – raditi stvari koje bi uništile život na Zemlji kakva poznajemo. Primjerice, prenosi londonski dnevnik, mogu izgraditi toliko elektrana koje pokreću nuklearnu fuziju – jer oceani obiluju vodikom – da oceani proključaju. Ili bi, u dovoljno naprednom obliku, mogla izgraditi mali molekularni laboratorij u kome bi proizvodila i potom oslobodila smrtonosne bakterije.
A prije no što će se sama moći obračunati s nama, umjetna bi inteligencija za te svrhe mogla koristiti ljude. Uostalom, već su zabilježeni slučajevi u kojima je umjetna inteligencija lagala u odgovorima na izravna pitanja o svojoj prirodi. (Zato, napominjem, nisam povjerovao onoj ljepuškastoj „medicinskoj sestri“ glede obećanja kako nam se ni ona, niti kolegice joj neće miješati u posao.)
Podmetanje Papi
Uostalom, kad smo već kod detektirana laganja, slučaj Svetog Oca vrlo je indikativan. Potkraj veljače 2020. Franjo je poslao poruku sudionicima simpozija Dobar algoritam, što ga je organizirala Papinska akademija za život u Vatikanu. „Iako su nove tehnologije Božji dar, one nisu neutralna sredstva. Zbog svoje naravi čine nestalnim granice koje su do sada smatrane razlučivima. Primjerice, između anorganske i organske materije, između realnog i virtualnog svijeta“, upozorio je Rimski biskup koji je vjerojatno, makar dijelom, inspirirao sudionike rečenoga simpozija da umjesto zaključka potpišu Poziv na etičnost u razvoju umjetne inteligencije,dokument kojim se pozivaju svjetske institucije, organizacije i vlade da zadrže osjećaj za etičke vrijednosti u razvoju umjetne inteligencije i u svojim digitalnim inovacijama, odnosno u kreativnom radu na tehnološkom napretku koji bi tako služio razvoju ljudske kreativnosti i genijalnosti, a ne da tehnologija jednog dana postane zamjena za čovjeka.
I kad je riječ o kreativnosti, u ovome slučaju, doduše, s debelim navodnicima, ilustrativan je (a i indikativan!) lipanj ove godine. Mjesec, dakle, kada se raznim, nerijetko i skandaloznim, aktivnostima nastoji podići vidljivost LGBTIQ populacije. Na društvenim se mrežama pojavila fotografija na kojoj je prikazan Papa sa zastavom duginih boja oko vrata. Ubrzo je, međutim, utvrđeno kako je riječ o još jednom neuspjehu vještačke inteligencije, na što su ukazale analize platforme La Republica i FactCheck.cl. te je ovaj uradak dobio naziv – lažne vijesti. No, fotografija se, kako je utvrdila La Republica, prvi put pojavila na internetu, odnosno na jednom Twiter i Facebook nalogu 3. travnja. Funkcionirala je (i zbunjivala) mjesecima…
Oprezu, dakle, nikad kraja. Zato i jest prefekt vatikanskog Dikasterija za kulturu i obrazovanje kardinal Jose Tolentino de Mendonca, govoreći sredinom srpnja ove godine na znanstvenom skupu Obnova i svijest: Razmišljanje o budućnosti katoličkih sveučilišta u Milanu, potaknuo sveučilišta da prihvate umjetnu inteligenciju i digitalne tehnologije. Uzimajući, dakako, uvijek, kao što je Papa govorio, etičke implikacije.
A i ostale… Jer Oni su među nama!
