Alen Delić: Neki AI alati nose rizike koji mogu ugroziti živote

Nova pravila o transparentnosti modela umjetne inteligencije stupila su na snagu u cijeloj Europskoj uniji, a prema riječima zamjenika predsjednika Hrvatske udruge menadžera sigurnosti Alena Delića, riječ je o važnom iskoraku u zaštiti prava građana. 

U Dnevniku HTV-a istaknuo je da ova regulativa predstavlja nastavak nastojanja EU-a da zaštiti pojedince u digitalnom dobu.

– Cilj je da znamo kako AI modeli funkcioniraju, kako ih učimo i koju ulogu imaju u stvarnom svijetu. Fokus nije samo na zaštiti autorskih prava, već ponajprije na sigurnosnim rizicima, istaknuo je Delić.

Od zabrana do visokih kazni

Nova regulativa donosi kategorizaciju modela umjetne inteligencije prema razini rizika te zabranu onih koji mogu predstavljati ozbiljnu prijetnju društvu. Dio odredbi već je na snazi, dok ostale stupaju na snagu iduće godine.

Kazne za kršenje mogu biti iznimno visoke, što Delić smatra opravdanim.

– Ako želimo ozbiljnost, kazne moraju biti ozbiljne. U pitanju su sektori poput zdravstva, zračne industrije, pa čak i demokratski procesi. Ovo su alati koji, ako se zloupotrijebe, mogu ugroziti živote, poručio je. 

Hrvatska još bez jasnog nadzornog tijela

Delić je naglasio da sve članice EU moraju imenovati nacionalna nadzorna tijela.

U Hrvatskoj bi, kaže, tu ulogu mogli preuzeti već postojeći subjekti poput Agencije za zaštitu osobnih podataka ili pravobranitelja, ali dodaje da je pitanje konačne odgovornosti političke naravi.

Edukacija i uloga medija

Naglašena je i važnost edukacije o korištenju umjetne inteligencije – od osnovne škole do radnog mjesta.

– Ljudi često nekritički prihvaćaju informacije koje im daju AI modeli, što dovodi do širenja dezinformacija. Edukacija je ključna, ali i uloga medija kao korektiva društva. Ako se mediji uspiju vratiti toj funkciji, možemo očekivati i bolje razumijevanje novih tehnologija, poručio je Delić.

Cijeli razgovor pogledajte u nastavku: