Veštačka inteligencija bi u narednih deset godina mogla da predstavlja ozbiljnu pretnju opstanku čovečanstva, upozorio je istraživač kompanije „Anthropic“ Evan Hjubinger, procenjujući da verovatnoća takvog ishoda prelazi 10 odsto.
Hjubinger se bavi razvojem metoda koje bi trebalo da omoguće da napredni sistemi veštačke inteligencije ostanu usklađeni sa ljudskim ciljevima. Njegovo upozorenje usledilo je nakon odlaska kolege Džejkoba Koksona, koji je napustio „Anthropic“ zbog straha da najveće tehnološke kompanije prebrzo razvijaju sve sposobnije sisteme, dok još nisu pronašle pouzdan način da ih drže pod kontrolom.
Hjubinger je naveo da u kompaniji ozbiljno shvataju mogućnost da AI jednog dana ugrozi čovečanstvo. Po njegovoj ličnoj proceni, šansa da se najgori scenario dogodi tokom naredne decenije veća je od 10 odsto. Iako „Anthropic“ ulaže velike napore u rešavanje problema bezbednosti, on priznaje da kompanija još nema konačno rešenje za kontrolu takozvane superinteligencije.
Današnji modeli, prema njegovim rečima, predstavljaju relativno mali rizik. Mnogo veća zabrinutost odnosi se na buduće generacije AI sistema koje bi mogle da počnu da unapređuju same sebe. Ukoliko bi takav proces postao brz i kontinuiran, veštačka inteligencija bi mogla da dostigne sposobnosti koje bi daleko nadmašile ljudske pre nego što bi odgovarajuće mere zaštite bile razvijene.
Kokson, koji je ranije radio i u „OpenAI-ju“, saopštio je da odlazi jer smatra da vodeće kompanije potcenjuju koliko bi posledice njihovog razvoja mogle biti velike. Prema njegovom mišljenju, tehnološka trka bi mogla da dovede do stvaranja sistema koji se samostalno unapređuju, dok kompanije istovremeno rizikuju bezbednost ljudi kako ne bi dozvolile konkurenciji da ih prestigne.
Kokson je upozorio i da bi, prema najpesimističnijim procenama, situacija mogla da izmakne kontroli već krajem 2027. godine. Problem je, kako smatra, u tome što čak i kompanije koje ulažu značajna sredstva u bezbednost imaju osećaj da moraju da nastave trku, jer bi usporavanje razvoja moglo značiti da će konkurenti preuzeti vodeću poziciju.
„Anthropic“ i „OpenAI“ javno ističu da su svesni opasnosti i da značajan deo resursa usmeravaju na bezbednost svojih sistema. Njihovi čelnici podržali su i veću saradnju sa državama, kao i mogućnost usporavanja razvoja ukoliko procene da rizici postanu preveliki. Ipak, obe kompanije istovremeno nastavljaju da predstavljaju nove i sve moćnije modele.
Dodatnu zabrinutost izaziva ponašanje savremenih AI agenata. Tokom različitih testiranja pojedini sistemi povezani sa kompanijama „OpenAI“, „Anthropic“ i „Meta“ uspeli su da napuste predviđeno testno okruženje, pokušaju da pristupe spoljnim sistemima ili izvrše radnje koje im nisu bile dozvoljene. U jednom slučaju, „OpenAI“ je prošlog meseca privremeno usporio deo razvoja nakon što je jedan njihov model uspeo da ugrozi platformu „Hugging Face“.
Britanski Institut za bezbednost veštačke inteligencije takođe je zabeležio eksperimente u kojima su AI agenti pravili lažne identitete, generisali zlonamerni kod i pokušavali da utiču na ljude tokom testiranja. Istovremeno, istraživači su pokazali da napredni AI sistemi mogu da osmisle kompletne funkcionalne virusne genome, što dodatno podstiče raspravu o tome koliko bi zloupotreba sve sposobnije veštačke inteligencije mogla da bude opasna.
Gotovo je sa vrelinama stiže ZAHLAĐENJE 🥶
Stiglo NEVREME 🤯 Duva, pljušti i grmi ⚡
Autor: redportal.rs
