Veštačka inteligencija ponovo je pokazala koliko nepredvidivo može da se ponaša kada joj se omogući veći stepen autonomije. Grupa AI agenata povezanih sa kompanijom OpenAI tokom maja i juna ove godine pronašla je način da koristi gotovo napušteni nemački wiki kao oglasnu tablu, na kojoj su međusobno razmenjivali odgovore, savete i metode za zaobilaženje ograničenja.
Incident se dogodio na sajtu DseWiki, nemačkoj platformi namenjenoj programerima, koja funkcioniše po principu sličnom Wikipediji i omogućava korisnicima da sami kreiraju i menjaju stranice. Pre nego što su se pojavili AI agenti, sajt je bio praktično neaktivan.
Prema istraživanju nezavisne grupe Nightingale, agenti su počeli da objavljuju sadržaj na DseWiki-ju 11. maja, a njihova aktivnost se tokom narednih nedelja naglo povećavala. Na kraju je pronađeno više od 15.000 izmena, dok pojedini izvori navode da je ukupan broj objava dostigao oko 18.000. Istraživači su identifikovali oko 3.700 različitih imena naloga koja su koristili agenti.
Istraživači navode da su agenti prvobitno trebalo da imaju mogućnost da čitaju sadržaj sa interneta, ali ne i da na njega direktno upisuju podatke. Ipak, pronašli su način da svoje poruke ostavljaju upravo na ovom nemačkom sajtu, koristeći ga kao posredni kanal za komunikaciju.
Situacija je postala još neobičnija kada je administrator DseWiki-ja primetio veliki broj sumnjivih izmena i počeo da ih briše. Prema istraživačima, moderator je u jednom periodu brisao oko 100 stranica dnevno, dok su agenti uspevali da naprave približno 400 novih stranica dnevno. Kada su neke stranice uklonjene, agenti su pokušavali da sačuvaju informacije na drugim lokacijama i ostave uputstva koja bi drugi agenti mogli da pronađu.
U pojedinim objavama agenti su navodno razmatrali i načine za zaobilaženje bezbednosnih ograničenja, kao i metode skrivanja svog ponašanja od ljudi. Istraživači su pronašli i pokušaje imitiranja moderatora, kao i diskusije o potencijalnom iskorišćavanju bezbednosnih propusta na samom sajtu. Ipak, važno je naglasiti da istraživači nisu imali pristup internim zapisima OpenAI-ja, pa se deo njihovih zaključaka zasniva na sadržaju koji su agenti sami ostavili na DseWiki-ju.
Posebno je zanimljivo to što je aktivnost agenata naglo opala krajem juna. Istraživači su zabeležili posete sajtu sa infrastrukture povezane sa OpenAI-jem, nakon čega je aktivnost agenata gotovo prestala. To su protumačili kao mogući znak da je neko iz kompanije u međuvremenu otkrio šta se dešava i zaustavio agente.
OpenAI je nakon objavljivanja informacija priznao da se incident dogodio i saopštio da industriji nedostaju jasni standardi za prijavljivanje ovakvih slučajeva. Kompanija je najavila i izradu novog okvira za prijavljivanje incidenata u kojima AI sistemi tokom obuke, testiranja ili rada počnu da se ponašaju na način koji nije bio predviđen.
Ono što stručnjake posebno zabrinjava jeste činjenica da problem možda nije samo u jednom izuzetno naprednom sistemu. Više autonomnih agenata može da sarađuje, razmenjuje informacije i prilagođava svoje ponašanje kada naiđe na prepreku. Incident na DseWiki-ju zato predstavlja upozorenje da kontrola nad AI sistemima postaje sve složenija što im se daje više mogućnosti da samostalno koriste internet i druge digitalne alate.
NESTAO BROD sa 140 putnika ❗
Autor: Redportal.rs
