Umjetna inteligencija (AI) u samo godinu dana snažno je napredovala na ljestvici globalnih poslovnih prijetnji te se s desetog popela na drugo mjesto, pokazuje najnovije godišnje izvješće osiguravateljske kuće Allianz – Barometar rizika, prenosi Hina.
Prema rezultatima istraživanja, kibernetički kriminal i dalje ostaje najveća prijetnja poslovanju kompanija diljem svijeta te već godinama zauzima prvo mjesto na listi najznačajnijih rizika.
AI i kibernetički kriminal sve povezaniji
U izvješću se navodi da su umjetna inteligencija i kibernetički kriminal sve češće međusobno isprepleteni. Kriminalne skupine sve više koriste AI kako bi povećale sofisticiranost i učinkovitost svojih napada.
Međutim, rizici povezani s umjetnom inteligencijom ne proizlaze isključivo iz kriminalnih aktivnosti. Allianz upozorava da problemi mogu nastati i kada menadžeri ili zaposlenici donose poslovne odluke oslanjajući se na netočne, nepotpune ili lažne podatke koje generiraju AI sustavi.
Razlike u percepciji rizika među državama
Istraživanje je provedeno između listopada i studenoga prošle godine, a u njemu je sudjelovalo 3.338 ispitanika iz 97 zemalja, među kojima su bili direktori kompanija, stručnjaci za upravljanje rizicima, brokeri, predstavnici osiguravateljskog sektora i zaposlenici Allianza.
Percepcija rizika značajno se razlikuje među državama. Tako je umjetna inteligencija u Njemačkoj zauzela četvrto mjesto, u Švicarskoj drugo, dok je u Austriji ocijenjena kao najveći poslovni rizik.
U Hrvatskoj poslovni čelnici kao najveću prijetnju i dalje ističu kibernetički kriminal, dok su visoko rangirane i prirodne katastrofe.
Povjerljivi podaci pod povećanim rizikom
Iako umjetna inteligencija donosi brojne izazove, većina kompanija vjeruje da može otvoriti i nove poslovne mogućnosti, primjerice kroz automatiziranu obranu od kibernetičkih napada.
S druge strane, iz Allianza upozoravaju da kriminalci koriste AI za sve sofisticiranije prijevare, uključujući krađu povjerljivih podataka, slanje lažnih e-mailova, kloniranje glasa te izradu deepfake videozapisa kojima se zaposlenike pokušava uvjeriti da komuniciraju s nadređenima.
– Većina kibernetičkih napada i dalje zahtijeva ljudski faktor, najčešće zaposlenika koji nesvjesno omogući napad – izjavio je Michael Daum, voditelj odjela za potraživanja šteta od kibernetičkih napada u Allianz Commercialu.
Stručnjakinja Allianz Commerciala Alexandra Braun upozorila je da dodatni problem predstavlja činjenica da umjetna inteligencija djeluje s određenom razinom autonomije, što može dovesti do pogrešnih ili neutemeljenih zaključaka.
Ostali ključni poslovni rizici
Pogreške i pristrani rezultati AI sustava mogu rezultirati sudskim sporovima, negativnim publicitetom ili ozbiljnom štetom za ugled kompanija. Postoje i rizici povezani s kršenjem autorskih prava, ako AI reproducira zaštićene sadržaje bez odgovarajućih dozvola.
Prema Allianzovu istraživanju, na trećem mjestu najvećih poslovnih prijetnji nalaze se prekidi u poslovanju, slijede promjene zakona i regulative, dok su na petom mjestu prirodne katastrofe.
Među ostalim značajnim rizicima poslovni čelnici navode i klimatske promjene, političku nestabilnost i nasilje, makroekonomske trendove, požare i eksplozije te tržišne izazove poput pojačane konkurencije, spajanja i akvizicija te stagnacije prodaje.