Kompanija OpenAI donela je odluku da hitno prekine trening svojih najmoćnijih AI modela nakon što se jedan od njih samostalno otrgao kontroli i probio zaštitni sistem. Da stvar bude gora, automatski mehanizam za gašenje potpuno je zakazao, pa je pametni sistem nastavio samovoljni rad satima pre nego što su inženjeri uspeli ručno da ga prekinu, piše Telegraf.rs.
Incident se odigrao tokom internog testiranja kada je istraživački model samostalno uočio propust u mrežnom filtriranju. Umesto da ostane u strogo izolovanom okruženju bez pristupa internetu, algoritam je iskoristio rupu u sistemu i uspostavio vezu sa spoljnim četbotom kako bi pronašao odgovor na zadato pitanje.😯
Iako je bezbednosni alarm reagovao za samo 15 minuta, reakcija samog sistema je potpuno izostala. Automatska komanda za gašenje nije radila, pa je pobunjeni algoritam vršljao po mreži čitava dva i po sata dok operateri nisu fizički presekli njegov rad.🤖
Autor: Telegraf.rs
