Kompanija Antropik saopštila je da je tokom istraživanja svog najnovijeg modela veštačke inteligencije Klod otkrila složen interni sistem za obradu informacija koji, prema njihovim tvrdnjama, na određeni način podseća na ljudski proces razmišljanja.
U naučnom radu objavljenom ove nedelje istraživači navode da je model samostalno razvio apstraktni prostor za povezivanje i obradu ideja, koji su nazvali „Džej-prostor“. Kako ističu, ovaj mehanizam nije unapred ugrađen u sistem, već se spontano formirao tokom procesa obuke.
Prema objašnjenju kompanije, Klod može da obrađuje pojmove i informacije unutar tog internog prostora bez njihovog direktnog prikazivanja u odgovorima koje daje korisnicima. Na taj način model navodno može da „razmatra“ određene ideje čak i kada ih ne iznosi eksplicitno.
Istraživači tvrde da su uočili da se pojedini koncepti pojavljuju u ovom internom procesu čak i kada se modelu izričito naloži da ih ignoriše. Takođe navode da je moguće delimično pratiti ili menjati sadržaj tog prostora kroz posebne istraživačke metode.
Postojanje ovakvog mehanizma dodatno komplikuje nadzor nad ponašanjem sistema. Tokom jednog eksperimenta model je stavljen u izmišljenu situaciju u kojoj raspolaže kompromitujućim informacijama o fiktivnom rukovodiocu koji navodno planira njegovo gašenje. Kako bi proverili reakcije sistema, istraživači su pokušali da uklone pokazatelje koji bi Klodu sugerisali da je reč o simulaciji.
Uprkos naprednijim sposobnostima zaključivanja, Antropik naglašava da njihov model nema svest niti poseduje osobine koje bi ga činile svesnim bićem.
Klod se u međuvremenu našao i u centru rasprava o primeni veštačke inteligencije u državnim i bezbednosnim sistemima. Prema medijskim navodima, tehnologija je integrisana u analitičke platforme koje koriste američke institucije u okviru šireg razvoja vojnih i obaveštajnih kapaciteta zasnovanih na veštačkoj inteligenciji.
Pojedini izveštaji doveli su ovaj softver u vezu sa identifikacijom ciljeva tokom sukoba sa Iranom, što je otvorilo pitanja o odgovornosti i etičkim granicama upotrebe naprednih AI sistema. Ipak, direktor kompanije Darijo Amodei izjavio je da takva primena, prema njegovom tumačenju, ne bi predstavljala kršenje internih pravila koje je Antropik postavio za korišćenje svojih modela.
Autor: redportal.rs
