Britanske agencije upozoravaju roditelje da zbog AI-a ne objavljuju fotografije djece

Britanska agencija za borbu protiv kriminala (NCA) upozorila je roditelje da ne objavljuju fotografije djece na internetu jer ih se pomoću umjetne inteligencije (AI) može pretvoriti u pornografski materijal.

NCA i Zaklada za nadzor interneta (IWF) objavili su nove smjernice za zaštitu djece od sve češće pojave korištenja AI-a za izradu pedofilskog sadržaja.

Do toga je došlo nakon što je škola u Britaniji bila meta kriminalnih skupina koje su iskoristile javno dostupne fotografije učenika da bi pomoću AI-a stvorile pornografski materijal i zatim prijetile da će ih objaviti ako im se ne plati.

Analitičari IWF-a su u 2025. otkrili 3400 video snimki generiranih AI-om, golemi rast u odnosu na 13 u 2024.

- Prijetnja je uznemirujuća, rekao je izvršni direktor IWF-a Kerry Smith. 

- Ne govorimo o tome da fotografije djece ne bi trebalo dijeliti s ljudima koje volite i kojima vjerujete, nego želimo da ljudi budu svjesni potencijalnih rizika i da donose informirane odluke imajući na umu sve činjenice.

Smith kaže da posljednice takvih fotografija mogu biti razorne.

- Šteta je vrlo stvarna. I potencijal za dugoročne posljedice je nešto što vjerujem svaki roditelj želi spriječiti.

Pedofilski sadržaj s napretkom tehnologije postaje sve rašireniji i realističniji, upozorile su organizacije.

Osim toga, fotografije i video snimke sve su nasilnije, pa je tako 65 posto od 3443 umjetno generiranih videa u 2025. klasificirano u kategoriju A prema britanskom kaznenom zakonu, što znači da prikazuju najteža kaznena djela poput silovanja i seksualnog mučenja.

Nove smjernice savjetuju roditeljima da na društvenim mrežama otvore "prijateljske" grupe u kojima dijele fotografije svoje djece ili da prilagode postavke o privatnosti kako bi ih mogli vidjeti samo ograničeni broj ljudi.

IWF je također pozvao tehnološke kompanije da dobro zaštite svoje modele AI-a prije nego što ih ponude korisnicima kako ih kriminalci ne bi mogli zloupotrijebiti za proizvodnju pedofilskog sadržaja.