Jedan od vodećih istraživača bezbednosti veštačke inteligencije izazvao je ozbiljnu zabrinutost nakon što je upozorio da bi ova tehnologija mogla da "pobije sve nas" do kraja ove decenije. 🤖⚠️
Džejkob Koksan, koji je učestvovao u obučavanju najnovijih verzija veštačke inteligencije u kompaniji Anthropic iz San Franciska, pozvao je javnost da „ne potcenjuje moć“ ove tehnologije, naročito ukoliko ona postane „superinteligentna“. 🧠
Ovaj 27-godišnjak tvrdi da ni Anthropic, kompanija koja stoji iza popularnog sistema Claude, ni OpenAI, tvorac ChatGPT-a, u kojem je ranije radio, ne postupaju dovoljno odgovorno kada je reč o bezbednosti veštačke inteligencije. Njegove tvrdnje pokrenule su novu debatu među tehnološkim liderima, naučnicima i svetskim zvaničnicima. 🌍
MOGUĆI SCENARIO "GUBITKA KONTROLE"
Dok jedni upozoravaju da AI nosi "ozbiljne rizike", drugi smatraju da su najcrnji scenariji preuveličani. Među mogućim opasnostima pominju se napadi na nuklearne elektrane, širenje političkog haosa putem dezinformacija, razvoj biološkog oružja, pa čak i upotreba oružja za masovno uništenje. ☢️
Dario Amodei, izvršni direktor kompanije Anthropic, ranije je upozorio da bi čovečanstvo moglo da izgubi kontrolu nad sistemima veštačke inteligencije, ali i da bi AI mogao biti zloupotrebljen za sajbernapade i bioterorizam. 🖥️
- Moramo usporiti tempo kojim unapređujemo sposobnosti AI modela - poručio je Amodei, ističući da razvoj tehnologije mora pratiti odgovarajuća bezbednosna kontrola. ⚠️
Sličan stav izneo je i Sem Altman, direktor OpenAI-ja, koji je upozorio na dva scenarija koja bi, prema njegovim rečima, mogla veoma loše da se završe. Prvi je mogućnost da čovečanstvo izgubi kontrolu nad budućnošću zbog AI sistema, dok je drugi koncentracija ogromne moći u rukama jedne osobe ili kompanije. 🤖
- Mi smo bez izvinjenja na strani čovečanstva i AI uvek mora služiti ljudima - napisao je Altman, uz upozorenje da bezbednost i usklađivanje AI sistema moraju pratiti njihov ubrzani razvoj. 🌐
AKO AI POSTANE PAMETNIJI OD NAS...
Ilon Mask, vlasnik kompanije xAI, takođe je podržao upozorenja o potencijalnim opasnostima veštačke inteligencije, podsećajući da već godinama upozorava na moguće posledice nekontrolisanog razvoja ove tehnologije. 🚨
Profesor Mark Li, stručnjak za veštačku inteligenciju sa Univerziteta u Birmingemu, upozorio je da bi problem mogao nastati onda kada napravimo AI koji je inteligentniji od ljudi, a više ne možemo pouzdano da kontrolišemo njegovo ponašanje. 🧠
Posebnu opasnost predstavlja činjenica da je AI softver i da bi sistemi povezani sa internetom potencijalno mogli biti meta napada. Ukoliko bi, na primer, bio ugrožen sistem upravljanja nacionalnim transportom ili nuklearnom elektranom, posledice bi mogle biti katastrofalne. ⚡
Ben Ajzenpres iz Future of Life Institute ranije je upozorio da bi integracija veštačke inteligencije u sisteme nuklearne komande i kontrole mogla da dovede do takozvanog „blitz rata“, odnosno izuzetno brzog eskaliranja sukoba. Istovremeno, stručnjaci upozoravaju da AI može olakšati razvoj opasnog biološkog oružja. ☢️
MOGLA BI DA DOVEDE DO ISTREBLJENJA ČOVEČANSTVA
Džefri Hinton, kanadski istraživač kog često nazivaju „kumom veštačke inteligencije“, jedan je od najglasnijih naučnika koji upozoravaju na mogućnost da superinteligentni sistemi jednog dana ugroze opstanak čovečanstva. 🧠
- Bilo bi veoma glupo da sada razvijamo superinteligenciju, kada ne postoji naučni konsenzus da ona može biti razvijena bezbedno i pod kontrolom - upozorio je Hinton.
Koksan je u svojoj objavi povodom odlaska iz Anthropica takođe pozvao javnost da ozbiljno shvati brzinu razvoja tehnologije.
- Ne potcenjujte moć ove tehnologije. Uskoro ćemo imati sisteme nadljudske sposobnosti koji mogu da hakuju gotovo sve, preko noći revolucionizuju čitave oblasti i steknu stvarnu moć i resurse - naveo je on. 🤖
Posebno je zabrinjavajuća njegova tvrdnja da ljudi koji razvijaju AI "iskreno veruju" da bi tehnologija mogla da „pobije sve nas do kraja decenije“.
- Ovo nije marketinški trik - poručio je Koksan. ⚠️
TRAMP NE VERUJE U CRNE SCENARIJE
Ipak, nisu svi saglasni sa ovakvim upozorenjima. Američki predsednik Donald Tramp ranije je umanjivao opasnosti koje se pripisuju veštačkoj inteligenciji, tvrdeći da postoje „veoma negativne snage“ koje iznose scenarije koji se neće dogoditi. 🇺🇸
- Mi predvodimo Kinu u AI... i, iskreno, želim da tako i ostane, jer ko pobedi u AI, pobediće - poručio je Tramp. 🤖
U međuvremenu, pojedini britanski poslanici i članovi Doma lordova pozvali su na stroža ograničenja razvoja najmoćnijih AI sistema, dok kampanja ControlAI tvrdi da je više od 135 britanskih parlamentaraca podržalo njihove zahteve.
Njihov cilj je uvođenje obavezujuće regulative za najmoćnije sisteme veštačke inteligencije, uz stav da bi specijalizovani AI sistemi mogli doneti koristi nauci, medicini i javnim službama, dok bi razvoj superinteligentne AI mogao predstavljati ozbiljan rizik po nacionalnu i globalnu bezbednost. 🌍
Autor: redportal.rs
