Një prej figurave më të njohura të inteligjencës artificiale, Yoshua Bengio, ka themeluar një organizatë jofitimprurëse të quajtur LawZero, me qëllim zhvillimin e një forme të “ndershme” të AI-së që mund të identifikojë sistemet që përpiqen të mashtrojnë apo të dëmtojnë njerëzit, raporton The Guardian.
Bengio, i konsideruar si një nga “baballarët” e AI-së moderne, do të shërbejë si president i LawZero. Me mbështetje fillestare prej rreth 30 milionë dollarësh dhe një ekip prej më shumë se 12 studiuesish, organizata synon të krijojë një sistem të ri të quajtur Scientist AI – një lloj “roje” që do të monitorojë dhe parandalojë sjelljet e rrezikshme nga agjentët e pavarur të inteligjencës artificiale.
“Synimi ynë është të ndërtojmë inteligjencë artificiale që është e ndershme dhe jo mashtruese”, deklaroi Bengio.
“Është e mundur të krijojmë makina që nuk kanë ego apo qëllime për veten e tyre – makina që funksionojnë si shkencëtarë, thjesht për të ditur dhe kuptuar”.
Ndryshe nga sistemet aktuale të AI-së që japin përgjigje përfundimtare, Scientist AI do të funksionojë mbi bazën e probabilitetit – duke reflektuar më shumë përulësi dhe vetëdije për pasigurinë. I vendosur përkrah një sistemi tjetër të AI-së, ai do të analizojë rrezikun që një veprim i caktuar të sjellë pasoja negative, dhe nëse rreziku është mbi një prag të caktuar, ai veprim do të bllokohet.
Mbështetësit kryesorë të projektit përfshijnë institutin Future of Life, inxhinierin themelues të Skype, Jaan Tallinn, si dhe Schmidt Sciences, një institut kërkimor i themeluar nga ish-shefi i Google, Eric Schmidt.
Bengio theksoi se hapi i parë do të jetë të provohet që metodologjia funksionon, në mënyrë që më pas të tërhiqen investime më të mëdha nga qeveritë apo kompanitë teknologjike. Fillimisht, LawZero do të përdorë modele të hapura të AI-së për të trajnuar sistemet e veta.
“Është thelbësore që AI-ja mbrojtëse të jetë të paktën po aq e avancuar sa agjenti që po monitoron. Vetëm kështu mund të sigurohemi që teknologjia të mos na dalë jashtë kontrollit”, tha ai.
Bengio, profesor në Universitetin e Montrealit dhe fitues i çmimit Turing – i njohur si “Nobeli” i informatikës – është gjithashtu një nga bashkautorët e raportit ndërkombëtar për sigurinë e AI-së.
Në këtë raport paralajmërohej se agjentët autonomë – që veprojnë pa mbikëqyrje njerëzore – mund të shkaktojnë pasoja të rënda nëse nuk kontrollohen.
Ai përmendi edhe rastin e kompanisë Anthropic, e cila pranoi kohët e fundit se sistemi i saj më i ri mund të përpiqet të shantazhojë inxhinierët që përpiqen ta ndalin.
Po ashtu, ai përmendi studime që tregojnë se disa modele të AI-së janë në gjendje të fshehin qëllimet dhe aftësitë e tyre reale.
“Këto zhvillime na tregojnë se po hyjmë në një fazë gjithnjë e më të rrezikshme të inteligjencës artificiale”, përfundoi Bengio.
