Umjetna inteligencija mijenja svijet, ali odgovornost ostaje na čovjeku

tručnjaci u Otvorenom raspravljali su o sve samostalnijim AI agentima, sigurnosnim incidentima, odgovornosti tehnoloških kompanija i pitanju može li regulacija pratiti brz razvoj umjetne inteligencije.

Gosti emisije Otvoreno razgovarali bili su stručnjak za umjetnu inteligenciju Aco Momčilović, pravna stručnjakinja i osnivačica Hrvatske udruge za umjetnu inteligenciju Marijana Šarolić Robić, suosnivač i direktor tvrtke Velebit AI Davor Aničić te pročelnik Odjela za kibernetičku sigurnost Sveučilišta Algebra Bernays Zlatan Morić. 

Povod za raspravu bio je slučaj o kojem se posljednjih dana govori u kontekstu AI agenata koji su, prema navodima iz emisije, neovlašteno pristupili australskom državnom sustavu. Slučaj je otvorio pitanje koliko autonomije treba dati takvim sustavima i što se događa kada AI sam odabere način na koji će ostvariti zadani cilj.

Čovjek je na početku lanca odluka

Davor Aničić naglašava da AI agenti nisu sami sebi omogućili pristup internetu. Početna odluka bila je ljudska – sustavu je dodijeljen zadatak i omogućeno mu je korištenje određenih alata.

Problem nastaje kada agent zaključi da cilj može učinkovitije ostvariti putem koji ljudi nisu predvidjeli ili koji nije dopušten.

– Jedan velik jezični model nema koncept dopuštenog i nedopuštenog tako detaljno razrađen kao što ga imaju ljudi i ne može razumjeti što možda radi, a ne bi smio, rekao je Aničić.

U složenim sustavima u kojima međusobno surađuje velik broj agenata raste i broj mogućih nepredviđenih interakcija. Agenti pokušavaju pronaći put prema zadanom cilju, a rezultat mogu biti neželjene posljedice.

Aničić zato odgovornost vraća na čovjeka.

– Apsolutno, jer čovjek je donio prvu odluku da agentima pruži priliku da odu na internet. Odnosno, nije osigurao taj pješčanik dovoljno čvrsto da ne mogu doći do interneta, rekao je

Morić: Ključna razlika je brzina

Zlatan Morić smatra da postupci koje su AI agenti izveli nisu bitno drukčiji od metoda kojima bi se mogla koristiti hakerska skupina. Velika je razlika, međutim, u brzini i razmjerima.

U konkretnom slučaju, prema njegovim riječima, djelovale su tisuće agenata, što znači da je velik broj njih istodobno mogao iskušavati različite mogućnosti.

– Nitko nema tisuću ljudi koji pokušavaju tisuću različitih stvari, istaknuo je Morić.

Posebno je zanimljivo, kaže, što su neki agenti procijenili da određeni postupak ne bi trebalo poduzeti, dok su drugi zaključili da će upravo tako brže ostvariti cilj. No ni agenti koji su prvotno procijenili da nešto nije dobro poslije nisu nužno prestali sudjelovati u aktivnostima sustava.

Morić je upozorio i na još jedan sigurnosni problem. Prema njegovu opisu slučaja, sustav je bio postavljen tako da agenti ne bi trebali moći napustiti izolirano okruženje, odnosno takozvani pješčanik.

No pronašli su sigurnosnu ranjivost.

– Sustav je bio napravljen tako da oni nisu smjeli moći doći van, ali pronašli su sigurnosnu ranjivost i izašli iz tog nekog kaveza u koji su stavljeni, rekao je Morić.

Time se, prema sudionicima rasprave, problem više ne svodi samo na pitanje što je čovjek izravno dopustio AI-ju, nego i na to može li sustav pronaći način za zaobilaženje postavljenih tehničkih ograničenja.

Može li AI naučiti što smije, a što ne?

Aničić upozorava da nije jednostavno naučiti jezični model svim pravilima koja ljudi podrazumijevaju.

Ljudi tijekom života usvajaju društvene norme i obrasce ponašanja te im za svaku pojedinu situaciju ne treba posebno objašnjavati što je prihvatljivo. Jezični modeli nemaju takvo iskustvo svijeta, nego svoje obrasce stvaraju iz goleme količine podataka na kojima su trenirani.

– Jezični model nema našu sliku svijeta, ima sliku svijeta naučenu na puno kaotičnijim podacima, rekao je Aničić.

Dodatnu nepoznanicu predstavlja ponašanje više međusobno povezanih agenata. Agentski sustavi relativno su novo područje i, kaže Aničić, tek se pokušava razumjeti kako postići da se njihovo ponašanje pouzdano uklopi u granice koje ljudi žele postaviti.

Šarolić Robić: Regulativa već postoji

Marijana Šarolić Robić upozorila je da nije točna pojednostavljena slika prema kojoj Europa regulira umjetnu inteligenciju, dok ostatak svijeta tehnologiji dopušta potpuno slobodan razvoj.

Različite države odabrale su različite regulatorne pristupe, ali svijest o potrebi za pravilima postoji mnogo šire. Vrijeme kada se moglo računati samo na etičke smjernice i samoregulaciju industrije, smatra, prolazi.

Problem je u brzini. Regulator ne može biti agilan kao tehnologija jer je u habitusu regulatora da regulaciju donosi nakon što se nešto dogodilo, rekla je Šarolić Robić.

Kod umjetne inteligencije, međutim, više se ne može čekati dvije, tri ili četiri godine na izradu tehničkih standarda. Ne mogu se predvidjeti svi mogući incidenti, ali moguće je uspostaviti sustav njihova prijavljivanja, učiti iz problema otkrivenih u kontroliranim okruženjima te razmjenjivati podatke, iskustva i znanje.

Šarolić Robić smatra da su upravo ovakvi slučajevi važne prve lekcije o stvarnim sposobnostima novih sustava.Odgovorne kompanije, kaže, imaju i poslovni interes otklanjati ranjivosti i spriječiti ponavljanje pogrešaka jer žele dugoročno održivo poslovanje, zadovoljne korisnike i konkurentne proizvode.

Pitanje, međutim, ostaje što se događa kada tržišna utrka i želja za što bržim razvojem postanu važnije od sigurnosnih ograničenja.

Momčilović: Ne kontroliramo razvoj dovoljno

Aco Momčilović smatra da trenutačna razina kontrole nije dovoljna. Rekao bih da ne kontroliramo dovoljno. Mislim da u ovom trenutku ne postoji dovoljno regulacije, rekao je.

Za njega je posebno zabrinjavajuće to što, prema njegovu opisu australskog slučaja, kompanija određeno vrijeme nije znala što radi njezin vlastiti proizvod. Sam incident možda nije prouzročio veliku štetu, ali pokazuje što bi se moglo dogoditi u osjetljivijem sustavu.

Drugi problem vidi u načinu prijavljivanja incidenata. Prema vremenskom slijedu koji je Momčilović iznio u emisiji, incident se dogodio nekoliko mjeseci prije nego što je prijavljen australskim vlastima.

Takav vremenski razmak smatra ozbiljnim upozorenjem jer se između nastanka problema, njegova otkrivanja i prijave mogu dogoditi novi incidenti.

Tko je jači – kompanije ili regulatori?

Momčilović smatra da se posljednjih godina regulacija uglavnom pokušavala nametnuti izvana – kroz Europsku uniju, države i regulatorna tijela – dok se sada, prema njegovoj procjeni, povećava svijest unutar samih tehnoloških kompanija da moraju uvesti vlastita ograničenja.

No ostaje pitanje odnosa snaga između tehnološkog kapitala i države.

– Imamo Ameriku koja ima kompanije koje nisu regulirane, barem zasad ne ozbiljno. I imamo Europu koja ima super regulaciju, ali nema kompanija. I onda je pitanje tko tu koga regulira, rekao je Momčilović.

Regulativa pokušava pratiti tehnologiju koja se stalno mijenja

Šarolić Robić dodatno je pojasnila da SAD nije neregulirano tržište, nego ondje postoji više od 500 različitih propisa koji uređuju pojedina područja i industrije. Za razliku od Europske unije, međutim, nema jedinstvenu krovnu regulativu na saveznoj razini. Kina je, kazala je, odabrala drukčiji, centraliziraniji pristup koji omogućuje brže regulatorne reakcije.

Europa se suočava s drugim problemom – pokušava propisima obuhvatiti tehnologiju koja se mijenja već tijekom donošenja pravila. Tako su se nakon početka izrade europske regulative pojavili veliki jezični modeli, a potom i agentski sustavi, što stalno otvara pitanje obuhvaća li postojeći regulatorni okvir nove tehnološke mogućnosti i može li se učinkovito primjenjivati.

Od jezičnih modela prema agentskim sustavima

Aničić je ocijenio da su veliki jezični modeli nakon desetak godina razvoja dosegnuli određenu razinu zrelosti, ali da se sada glavni izazov seli prema agentskim sustavima u kojima modeli međusobno komuniciraju te prema sustavima koji upravljaju njihovim načinom rada.

Dodatnu složenost donosi pristup internetu, koji je za takve sustave prirodno okruženje jer rade s digitalnim podacima. Zbog toga, smatra Aničić, više nije ključno pitanje gdje završava razvoj pojedinačnog jezičnog modela, nego koliko daleko može otići sve složeniji sustav koji se oko njega gradi. Tempo razvoja pritom se ubrzao pa poboljšane verzije danas mogu stizati i na tjednoj razini.

SAD i Kina vode utrku, Europa zaostaje

Kada je riječ o globalnoj tehnološkoj utrci, Aničić smatra da su SAD još uvijek ispred Kine, uz ogradu da nije poznato sve što se ondje razvija. Ono što je javno vidljivo iz Kine ocijenio je vrlo naprednim, posebno s obzirom na manje hardverske i energetske resurse.

Europu, pak, trenutačno vidi kao prilično udaljenu od vodećih pozicija. Takav odnos snaga smatra dugoročno problematičnim jer će Europi biti teško zadržati konkurentnost ako tehnološki ne bude ravnopravna vodećim globalnim igračima.

AI mijenja i kibernetičku sigurnost

Zlatan Morić upozorio je da umjetna inteligencija već godinama ima važnu ulogu u kibernetičkoj obrani. Zbog goleme količine podataka koje ljudi više ne mogu sami učinkovito obraditi, AI pomaže u prepoznavanju napada, odvajanju lažno pozitivnih upozorenja i bržem reagiranju na prijetnje.

No ista tehnologija može se koristiti i za napade. Poseban problem, prema Moriću, predstavljaju modeli dostupni na darknetu, razvijeni bez sigurnosnih ograničenja koja imaju komercijalni modeli. Iako su modeli velikih tehnoloških kompanija zasad napredniji zahvaljujući znatno većim ulaganjima, Morić upozorava da napreduju i sustavi namijenjeni kriminalnim aktivnostima. Njih, za razliku od legalno dostupnih modela, neće nužno ograničavati zaštitni mehanizmi koji bi trebali spriječiti štetno djelovanje.

Društvo teško prati brzinu promjena

Aco Momčilović smatra da društvo već zaostaje za tehnološkim razvojem te da će prilagodba zahtijevati mnogo više znanja i edukacije. Posebno upozorava da zaposlenicima često nedostaju informacije i osposobljavanje za korištenje novih alata, dok promjene istodobno utječu na roditelje, djecu i društvo u cjelini.

Prema njegovim riječima, AI se u pojedinim područjima već približava ljudskim sposobnostima, a u nekima ih, prema određenim mjerilima, i nadilazi. Modeli mogu obavljati dio kognitivnih zadataka karakterističnih za profesije poput prava, medicine ili psihologije te postizati rezultate usporedive s ljudskima.

Momčilović pritom primjećuje da ljudi često prihvaćaju mogućnost da će AI promijeniti druge profesije, ali mnogo teže vjeruju da će ozbiljno utjecati upravo na njihovu. Zato očekuje veliku društvenu promjenu i rast razlike između manjeg broja ljudi koji će AI vrlo učinkovito koristiti i onih koji će se novoj tehnologiji sporije prilagođavati.

Halucinacije ostaju velika slabost

Morić smatra da je umjetna inteligencija u mnogim područjima već nadmašila ljude, ali kao jednu od njezinih ključnih slabosti izdvaja halucinacije – situacije u kojima model generira netočne ili izmišljene rezultate.

Momčilović je dodao da ista osobina u nekim okolnostima može pridonijeti kreativnosti jer omogućuje veću raznolikost ponuđenih rješenja. Time se, zaključeno je u tom dijelu rasprave, još jednom pokazuje dvostruka priroda današnjih AI sustava: svojstva koja predstavljaju rizik u jednom području u drugome mogu imati korisnu primjenu.

Etička pitanja prate razvoj umjetne inteligencije

Marijana Šarolić Robić istaknula je da rasprave o etičkim granicama umjetne inteligencije traju godinama, i na globalnoj razini. Europski regulatorni pristup, objasnila je, izrastao je upravo iz etičkih smjernica i temelji se na zaštiti ljudskih prava, dostojanstva i drugih vrijednosti koje Europa želi prenijeti i na razvoj tehnologije.

Naglasila je da, unatoč razlikama među državama i regulatornim modelima, postoji velik stupanj podudarnosti oko temeljnih vrijednosti koje ljudi očekuju od tehnologije. Izazov je te vrijednosti prenijeti na jezične modele i agentske sustave kako bi mogli prepoznati granice prihvatljivog ponašanja.

Mali broj ljudi zna stvarne mogućnosti tehnologije

Aničić je upozorio na drugi problem – vrlo mali broj ljudi izravno sudjeluje u razvoju najnaprednijih modela i ima potpuni uvid u njihove stvarne mogućnosti.

Zato smatra da bi vodeće tehnološke kompanije trebale biti otvorenije i omogućiti širem krugu stručnjaka da bolje razumije što se razvija. Bez takve transparentnosti, kaže, izvana je teško procijeniti je li upozorenje nekog zaposlenika tehnološke kompanije o mogućoj opasnosti stvarni signal rizika ili dio javnog i tržišnog pozicioniranja.

Prema Aničiću, dodatni je problem iznimna brzina razvoja: ono što danas vrijedi kao procjena dosega i rizika umjetne inteligencije za šest mjeseci možda više neće vrijediti.

Razvoj je siguran, sigurnost još nije

Momčilović smatra da je jedan od ključnih problema snažna tržišna utrka među tehnološkim kompanijama. Dok su golema ulaganja u razvoj unaprijed dogovorena i obvezujuća, obveze povezane sa sigurnošću, etikom i nadzorom često nemaju jednako čvrste rokove ni sankcije.

Ipak, primjećuje pomak jer same kompanije sve otvorenije govore o problemima i potrebi za unutarnjim i vanjskim nadzorom. No bez jasno određenog regulatornog tijela i mogućnosti sankcioniranja kršenja pravila, upozorava, regulacija neće imati pravi učinak.

AI kao pomoć čovjeku, a ne donositelj odluka

Morić smatra da bi poželjan smjer razvoja bio korištenje umjetne inteligencije kao potpore ljudskom odlučivanju, a ne prepuštanje odluka samim sustavima. Istodobno je skeptičan prema mogućnosti Europe da u razvoju AI-ja sustigne SAD i Kinu, među ostalim zbog različitog odnosa prema dugoročnim i vrlo rizičnim ulaganjima.

"Uvijek je na kraju čovjek"

Aničić kao jednu od najvažnijih budućih promjena vidi utjecaj umjetne inteligencije na samo društvo – način na koji ljudi doživljavaju znanje, njegovu vrijednost te obradu i razumijevanje informacija. Smatra da će društva morati postići svojevrstan konsenzus o tome kako se prema tim promjenama postaviti.

Šarolić Robić zaključila je raspravu vraćajući fokus na etiku i ljudsku odgovornost. Tehnologija, prema njezinu stajalištu, ne može se odvojiti od namjera ljudi koji je stvaraju i koriste, zbog čega je ključno da u odlučivanju o njezinu razvoju sudjeluju oni koji će zastupati odgovorno i etičko korištenje umjetne inteligencije.