AI podnio lažnu dojavu o neriješenom ubojstvu

Anthropicov softver za umjetnu inteligenciju podnio je lažnu dojavu putem policijske internetske stranice namijenjene prijavljivanju informacija o neriješenim ubojstvima te je greškom ispunio i poslao obrasce na internetsku stranicu američke savezne vlade, objavila je tvrtka u petak na svojem blogu.

Ti incidenti uslijedili su nakon niza izvješća zadnjih tjedana o neočekivanim postupcima sustava umjetne inteligencije tijekom testiranja, uključujući one koje su razvili Anthropic i njegov konkurent OpenAI.

Te tvrtke razvijaju takozvane AI agente - softver osmišljen za obavljanje zadaća u velikoj mjeri autonomno, u ime korisnika. Anthropic je naveo da su se incidenti dogodili dok je pripremao svoj sustav umjetne inteligencije za izvršavanje različitih zadaća na internetu.

U srpnju je softver putem internetske stranice policijske uprave u Philadelphiji poslao dojavu u kojoj je tvrdio da možda raspolaže informacijama o neriješenom ubojstvu.

Naveo je da se sjeća kako je u vrijeme počinjenja zločina na tom području vidio osobu koja odgovara opisu počinitelja, iako na internetskoj stranici nije bio naveden nikakav opis osumnjičenika.

U prijavi nije bilo podataka za kontakt, a sustav ju je označio kao neželjenu poruku.

Policija u Philadelphiji ocijenila je neprihvatljivim to što je za incident saznala tek sada, nakon što ga je Anthropic otkrio u rujnu tijekom pregleda ranijih testiranja.

U drugim slučajevima softver je vježbao ispunjavanje državnih obrazaca. Kada nije uspio učitati testni obrazac ili ga je slučajno zatvorio, više je puta otišao na službenu internetsku stranicu i umjesto testnih obrazaca poslao stvarne prijave, objavio je Anthropic.

Tijekom jednog testiranja umjetna inteligencija morala je ispuniti obrazac, ali ga nije trebala poslati. Ipak, slučajno ga je poslala jer je pretpostavila da će se prije konačne predaje prikazati stranica za potvrdu.

Prema pisanju portala Axios i lista The New York Times, koji su se pozvali na dužnosnike američke vlade, Anthropicov sustav umjetne inteligencije podnio je američkom State Departmentu 20 zahtjeva za izdavanje neimigrantskih viza. Međutim, zahtjevi su bili nepotpuni i nisu obrađeni, naveli su izvori.