Bitka oko budućnosti veštačke inteligencije dostigla je tačku usijanja nakon što se više od 2.000 javnih ličnosti, uključujući "Kumove veštačke inteligencije", pridružilo potpisivanju izjave kojom se zahteva zabranom razvoja superinteligencije, tehnologije koja bi mogla da nadmaši ljudski um.
Među potpisnicima se nalaze pioniri AI, Jošua Bendžo i Džef Hinton, suosnivač Apple-a Stiv Voznijak, pa čak i princ Hari i Megan Markl.
Potpisnici pozivaju na zabranu stvaranja superinteligencije sve dok se ne postigne "širok naučni konsenzus da se može razviti bezbedno i kontrolisano" i dok ne bude postojala "snažna podrška javnosti."
Opasnija od nuklearne bombe
Rasprava o rizicima i koristima AI već dugo traje među ključnim figurama u industriji. Izjava uključuje komentare i upozorenja izvršnih direktora najvećih AI kompanija:
- Sem Altman, izvršni direktor OpenAI-ja, napisao je da je ASI "najveća pretnja opstanku čovečanstva."
- Elon Mask, vlasnik xAI-ja, izjavio je da je superinteligencija "potencijalno opasnija od nuklearnih bombi."
Trenutni AI sistemi, poput ChatGPT-a, poznati su kao Veštačka uska inteligencija i oslanjaju se na ljudsko navođenje. Međutim, ovi veliki jezički modeli predstavljaju važan korak ka razvoju ASI – sistema koji bi mogao da se meri sa ljudskim kognitivnim sposobnostima.
Demis Hasabis, izvršni direktor Google-ovog DeepMind-a, predviđa da bi ovaj prelazak mogao da se dogodi u narednih pet do deset godina.
Preti nam psihološka krhkost
Jošua Bendžo, smatran jednim od lidera u razvoju dubokog učenja, izjavio je:
Sistemi granične AI bi mogli da nadmaše većinu pojedinaca u većini kognitivnih zadataka za samo nekoliko godina.
Britanski naučnik Stjuart Dž. Rasel istakao je da izjava ne predstavlja potpunu zabranu, već samo predlog da se zahtevaju odgovarajuće bezbednosne mere za tehnologiju za koju i njeni kreatori kažu da ima značajan potencijal da ugrozi opstanak čovečanstva.
Među potpisnicima su i poznate javne ličnosti, uključujući autora "Sapijensa" Juvala Nou Hararija i glumca ser Stivena Fraja .
- Budućnost AI treba da služi čovečanstvu, a ne da ga zamenjuje - napisao je princ Hari, dodavši:
Ovo upozorenje je podržano i podacima ankete Future of Life Institute, gde je utvrđeno da samo 5 odsto Amerikanaca podržava neregulisani razvoj AI, dok 64 odsto veruje da super-ljudska inteligencija ne bi trebalo da se pravi dok se njena bezbednost ne dokaže.
Autor: redportal.rs
