Nova pravila EU-a: Sadržaj generiran umjetnom inteligencijom mora biti označen

Europska komisija od 2. kolovoza, zajedno s nacionalnim tijelima, počinje provoditi pravila Akta o umjetnoj inteligenciji. Istodobno se počinju primjenjivati novi zahtjevi za transparentnost, prema kojima će određeni sustavi morati upozoriti korisnike da komuniciraju s umjetnom inteligencijom te označiti sadržaj koji je ona generirala ili izmijenila.

Chatbotovi i drugi interaktivni sustavi morat će korisnicima jasno naznačiti da komuniciraju s umjetnom inteligencijom, a ne s čovjekom. Slike, videozapisi i audiosadržaji uređeni ili generirani umjetnom inteligencijom, uključujući duboke krivotvorine, morat će biti označeni.

Takav sadržaj morat će sadržavati i strojno čitljive oznake radi lakšeg otkrivanja. Cilj je smanjiti mogućnosti obmane i manipulacije te pomoći građanima da donose informirane odluke.

Komisija je objavila i prvi popis s više od 180 organizacija koje su potpisale Kodeks dobre prakse za transparentnost sadržaja generiranog umjetnom inteligencijom.

Stroža pravila za najnaprednije modele

Ured za umjetnu inteligenciju od sada može provoditi pravila za dobavljače modela umjetne inteligencije opće namjene, koji se mogu upotrebljavati za različite zadatke u brojnim alatima i uslugama.

Dodatne obveze morat će ispunjavati pružatelji najnaprednijih modela koji mogu predstavljati sistemske rizike. To uključuje opasnosti povezane s kemijskim, biološkim, radiološkim i nuklearnim incidentima, gubitkom kontrole, kibernetičkim kriminalom, štetnim manipulacijama i ugrožavanjem temeljnih prava.

Svi pružatelji modela umjetne inteligencije opće namjene morat će dokumentirati određene informacije i dostaviti ih nadležnim tijelima ili drugim pružateljima. Morat će uspostaviti i politiku zaštite autorskih prava te objaviti dovoljno detaljan sažetak sadržaja korištenog za treniranje modela.

Zabranjeni posebno štetni sustavi

Počinje i provedba zabrane posebno štetnih sustava umjetne inteligencije, među kojima su sustavi koji manipuliraju ljudima, na štetan način iskorištavaju njihove ranjivosti ili ih nepravedno ocjenjuju ugrožavajući njihova prava.

Ured za umjetnu inteligenciju provodit će pravila za sustave koje nudi isti dobavljač kao i osnovni model opće namjene te za sustave integrirane u vrlo velike internetske platforme i tražilice. Za ostale sustave bit će nadležna nacionalna tijela, dok će Europski nadzornik za zaštitu podataka nadzirati sustave kojima se koriste institucije, tijela i agencije EU-a.

U provedbi će im pomagati Znanstveni odbor sastavljen od 60 neovisnih stručnjaka. Glavnim znanstvenim savjetnikom Ureda imenovan je profesor Alessandro Abate sa Sveučilišta u Oxfordu.

Alati za prijavu kršenja

Građanima i poduzećima dostupan je alat za podnošenje pritužbi zbog navodnih kršenja Akta o umjetnoj inteligenciji. Osobe koje rade s dobavljačima sustava ili modela umjetne inteligencije mogu moguća kršenja sigurno prijaviti alatom za zviždače, a poseban kanal namijenjen je i dobavljačima koji na modelima opće namjene razvijaju vlastite sustave.

Ured za umjetnu inteligenciju najavio je da će sa svim informacijama primljenima tim kanalima postupati povjerljivo.

Primjena pravila za visokorizične sustave umjetne inteligencije odgođena je do 2. prosinca 2027., a za takve sustave integrirane u regulirane proizvode do 2. kolovoza 2028.

Nove zabrane za sustave koji bez pristanka generiraju seksualno eksplicitan sadržaj i materijale koji sadržavaju seksualno zlostavljanje djece počet će se primjenjivati 2. prosinca 2026.