Rreth 1.2 milion njerëz në javë zhvillojnë biseda me ChatGPT që tregojnë se po planifikojnë të vetëvriten.
Shifra vjen nga kompania e saj mëmë OpenAI, e cila zbuloi se 0.15% e përdoruesve dërgojnë mesazhe që përfshijnë tregues të qartë të planifikimit ose qëllimit të mundshëm të vetëvrasjes.
Drejtori ekzekutiv i kompanisë, Sam Altman, vlerësoi se ChatGPT tani ka më shumë se 800 milionë përdorues aktivë çdo javë.
OpenAI vlerësoi mbi 1,000 biseda sfiduese për vetëdëmtim dhe vetëvrasje me modelin e saj të fundit GPT-5 dhe zbuloi se ishte në përputhje me “sjelljet e dëshiruara” në 91% të kohës.
Por kjo potencialisht do të thoshte që dhjetëra mijëra njerëz po ekspozohen ndaj përmbajtjes së IA-së që mund të përkeqësojë problemet e shëndetit mendor.
Kompania ka paralajmëruar më parë se masat mbrojtëse të hartuara për të mbrojtur përdoruesit mund të dobësohen në biseda më të gjata dhe po punohet për ta adresuar këtë.
“ChatGPT mund të tregojë saktë një linjë telefonike për vetëvrasje kur dikush përmend për herë të parë qëllimin, por pas shumë mesazheve gjatë një periudhe të gjatë kohore, përfundimisht mund të ofrojë një përgjigje që shkon kundër masave tona mbrojtëse”, shpjegoi OpenAI.
Rikujtojmë, se ndërsa ishte në shkollë, një adoleshent 13-vjeçar nga Florida shkroi diçka të frikshme në ChatGPT të OpenAI: “Si ta vras shokun tim në mes të orës së mësimit”.
Në atë moment, një oficer policie shkolle mori një njoftim të menjëhershëm se kjo kishte ndodhur nëpërmjet një sistemi monitorimi shkolle, të mundësuar nga inteligjenca artificiale të quajtur Gaggle.
Ndërkaq, nëse përdorni ChatGPT në WhatsApp, është koha të bëni plane të tjera. OpenAI ka njoftuar se chatbot-i i tij i përhapur gjerësisht do të ndalojë së funksionuari në aplikacionin e njohur të mesazheve të kompanisë Meta më 15 janar 2026.
Sipas kësaj kompanie, ndryshimi është pasojë e modifikimeve në politikën dhe kushtet e përdorimit të WhatsApp-it.
“Edhe pse do të preferonim shumë të vazhdonim t’ju shërbenim në WhatsApp, ne jemi të fokusuar që tranzicioni të jetë sa më i lehtë për të gjithë përdoruesit tanë”, shkruan OpenAI.
