OpenAI ka njoftuar një përditësim të ri sigurie për modelin e saj popullor ChatGPT pasi një analizë e brendshme zbuloi se mbi një milion përdorues i kanë pranuar chatbot-it prirje vetëvrasëse. Ndryshimet synojnë të përmirësojnë aftësinë e AI-së për të njohur dhe reaguar siç duhet ndaj shqetësimit.
Në një deklaratë të hënën, kompania zbuloi se një vlerësim prej 0.15% e përdoruesve javorë të ChatGPT janë përfshirë në biseda që përfshijnë “tregues të qartë të planifikimit ose qëllimit potencial për vetëvrasje”. Rreth 0.05% e mesazheve thuhet se kanë përmbajtur gjithashtu “tregues të qartë ose të nënkuptuar të idesë ose qëllimit vetëvrasës.”
Më herët këtë muaj, kreu i OpenAI, Sam Altman, pohoi se ChatGPT ka më shumë se 800 milionë përdorues aktivë javorë, që do të thotë se, sipas shifrave të fundit të kompanisë, mbi 1.2 milionë njerëz kanë diskutuar vetëvrasjen me chatbot-in dhe rreth 400,000 kanë shfaqur shenja të qëllimit vetëvrasës.
Kompania po ashtu pohoi se rreth 0.07% (560,000) e përdoruesve të saj javorë dhe 0.01% (80,000) e mesazheve tregojnë “shenja të mundshme të urgjencave të shëndetit mendor të lidhura me psikozën ose maninë.” Ajo vuri në dukje më tej se një numër përdoruesish janë bërë emocionalisht të varur nga ChatGPT, me rreth 0.15% (1.2 milionë) të përdoruesve aktivë që shfaqin sjellje që tregon “nivele të larta” të lidhjes emocionale me chatbot-in.
OpenAI ka njoftuar se ka krijuar bashkëpunim me dhjetëra ekspertë të shëndetit mendor nga e gjithë bota për të përditësuar chatbot-in në mënyrë që të mund të njohë në mënyrë më të besueshme shenjat e shqetësimit mendor, të ofrojë përgjigje më të mira dhe të udhëzojë përdoruesit drejt ndihmës në botën e vërtetë, shkruan Rt.
Në bisedat në lidhje me besimet iluzive, kompania tha se po e mëson ChatGPT-në të përgjigjet “në mënyrë të sigurt” dhe “empatike,” duke shmangur pohimin e besimeve të pabaza.
Njoftimi i kompanisë vjen mes shqetësimeve në rritje rreth përdorimit në rritje të chatbot-eve të AI si ChatGPT dhe efektit që ato kanë në shëndetin mendor të njerëzve. Psikiatër dhe profesionistë të tjerë mjekësorë kanë shprehur alarm për një prirje në zhvillim të përdoruesve që zhvillojnë iluzione të rrezikshme dhe mendime paranojake pas bisedave të zgjatura me chatbot-et e AI, të cilat priren të pohojnë dhe përforcojnë besimet e përdoruesve. Kjo dukuri është quajtur nga disa si “psikoza e AI”.
