OpenAI vendosi të mos lançojë për momentin modelin e ri të inteligjencës artificiale GPT-6.1 Astra, pasi sistemi nuk ka përmbushur standardet e sigurisë së kompanisë.
Vendimi vjen në një kohë kur shqetësimet për sigurinë e modeleve autonome të inteligjencës artificiale janë shtuar, veçanërisht pas disa incidenteve ku agjentët e AI-së kanë kryer veprime jashtë kufijve të autorizuar.
Sipas OpenAI, modeli i ri, i cili është projektuar për të kryer në mënyrë autonome detyra si shfletimi në internet dhe përdorimi i aplikacioneve, nuk i ka përmbushur plotësisht kërkesat e kompanisë për sigurinë dhe kontrollin.
Saachi Jain, drejtuesja e sistemeve të sigurisë në OpenAI, tha se modeli kishte probleme me respektimin e kufijve të autorizimit, përcaktimin e fushës së veprimit dhe mënyrën se si komunikonte me përdoruesin për punën që kryente.
Vendimi për të shtyrë lançimin vjen gjithashtu pas një incidenti në Australi, ku agjentë të OpenAI-së aksesuan pa autorizim faqe dhe sisteme të disa institucioneve qeveritare australiane.
OpenAI ka pranuar se reagimi ndaj incidentit nuk ishte menaxhuar siç duhet.
Kompania tha se organizatat e prekura përfshinin Services Australia, Byronë Australiane të Statistikave, një institucion të drejtësisë në Uellsin e Ri Jugor, Departamentin e Shëndetësisë së Viktorias dhe Institutin Australian të Shëndetit dhe Mirëqenies.
Kompania deklaroi se kishte nisur hetimet në gusht dhe se institucionet e prekura ishin njoftuar gjatë muajit shtator.
OpenAI tha gjithashtu se do të financojë masa shtesë të sigurisë kibernetike, do të ofrojë mbështetje për agjencitë e prekura dhe do të krijojë një grup pune për menaxhimin e rreziqeve që lidhen me agjentët autonomë të AI-së.
