ANTROPIK otkrio 5 RIZIKA od BIOLOŠKOG NAORUŽANJA 🤖

Kompanija upozorava na zloupotrebu veštačke inteligencije

Kompanija Anthropic otkrila je da su naučnici koristili njene AI modele za istraživanja koja bi mogla doprineti razvoju biološkog oružja, uključujući pokušaje da opasni patogeni postanu zarazniji i otporniji na imunski sistem.

U izveštaju kompanije navodi se pet slučajeva koji su izazvali ozbiljnu bezbednosnu zabrinutost. Jedno istraživanje, sprovedeno u vojnom institutu, bilo je usmereno na promenu virusa čikungunja kako bi se lakše prenosio i bolje izbegavao imunski odgovor. Drugi istraživač koristio je Klod u radu o opasnom ptičjem gripu i mogućnosti njegovog prilagođavanja sisarima, dok su ostali slučajevi uključivali viruse povezane sa velikim boginjama i opasne toksine.

Anthropic tvrdi da su pojedini korisnici pokušavali da zaobiđu zaštitne mere, skrivajući identitet i preusmeravajući saobraćaj preko drugih zemalja. Njihovi nalozi su ugašeni, kao i servisi korišćeni za zaobilaženje bezbednosnih kontrola.

Kompanija nije tvrdila da su naučnici zaista nameravali da proizvedu biološko oružje, ali upozorava da bi zlonamerni akteri mogli svoje namere prikrivati iza legitimnih istraživanja.

Anthropic priznaje i da su njegovi modeli danas znatno sposobniji nego ranije, zbog čega više ne može da garantuje da neće biti korisni za opasna biološka istraživanja.

Izveštaj je objavljen nekoliko nedelja nakon eksperimenta američkih naučnika koji su uz pomoć AI osmislili genome i napravili 16 funkcionalnih virusa koji ne postoje u prirodi. Iako su napadali bakterije, a ne ljude, istraživači upozoravaju na ubrzan razvoj AI sposobnosti u biologiji.

Među ostalim zloupotrebama Kloda navode se sajbernapadi, nadzor, propaganda, prevare i pomoć u razvoju raketa, naoružanih dronova i bombi.

Istraživač Anthropic-a Evan Hubinger nedavno je ocenio da postoji više od 10 odsto šanse da bi AI u narednoj deceniji mogao da „ubije sve ljude“. Bivši istraživač Džejkob Koksoun, koji je napustio kompaniju, takođe je upozorio da bi veoma napredna AI mogla ugroziti kritičnu infrastrukturu i doprineti stvaranju biološkog oružja katastrofalnih razmera.