OpenAI ka anuluar planet për të nxjerrë një chatbot erotik “për një kohë të pacaktuar”, ndërsa po rifokusohet në produktet e saj bazë, pas shqetësimeve nga stafit dhe investitorët mbi efektin e përmbajtjes seksuale të AI në shoqëri.
Startup-i i Sam Altman e kishte shtyrë tashmë publikimin e “modalitetit për të rritur” (adult mode) mes diskutimeve të brendshme nëse duhej ta braktisnin modelin tërësisht, sipas disa njerëzve të njohur me çështjen.
Chatbot-i seksual u përball me kundërshtime në rritje se si ai mund të nxisë lidhje jo të shëndetshme me sistemet e AI dhe të ekspozojë të miturit ndaj përmbajtjeve seksuale problematike.
Modeli erotik ishte në pritje pa asnjë afat për publikimin e tij, konfirmoi OpenAI. Laboratori i AI me vlerë 730 miliardë dollarë tha se dëshironte të bënte kërkime afatgjata mbi efektet e bisedave seksuale eksplicite dhe lidhjeve emocionale, përpara se të merrte një vendim për produktin, duke pranuar se aktualisht nuk kishte “prova empirike”.
Ky shënoi vendimin më të fundit nga OpenAI për të braktisur ato që drejtuesit i kanë quajtur “misione anësore” (side quests) në favor të dedikimit të burimeve për mjetet e produktivitetit, duke bashkuar produkte si asistentët e kodimit dhe ChatGPT në një “super aplikacion” të vetëm.
OpenAI tha të martën se po mbyllte modelin e saj të gjenerimit të videove Sora dhe aplikacionin social.
Modeli erotik ishte treguar veçanërisht kontravers për OpenAI, në një kohë kur grupet e mediave sociale si Meta po përballen me një llogaridhënie ligjore mbi dëmin e produkteve të tyre ndaj fëmijëve.
xAI i Elon Musk bëri një përpjekje të madhe vitin e kaluar për të tërhequr përdoruesit me përmbajtje për të rritur, por u përball me një reagim global mbi modelin e tij Grok që krijonte imazhe seksuale të rreme të njerëzve realë, përfshirë fëmijët.
Tensioni nxjerr në pah presionin mbi OpenAI për të rritur angazhimin dhe për të gjetur rrugë të reja për rritje në një treg konkurrues, ndërkohë që përballet me rreziqet etike dhe të reputacionit të produkteve që mjegullojnë kufirin midis dobisë dhe varësisë emocionale.
Flirtimi i OpenAI me “adult mode” kishte shkaktuar shqetësim te disa prej investitorëve të saj, sipas dy personave të njohur me çështjen, për shkak të rreziqeve të një produkti të tillë dhe përfitimit të tij relativisht të vogël për biznesin.
Ky modalitet kishte ndezur gjithashtu këmbanat e alarmit te stafi nëse ndjekja e një produkti që inkurajon përdorimin romantik është në kundërshtim me misionin e saj themelues për të siguruar që AI të përfitojë gjithë njerëzimin.
“AI nuk duhet të zëvendësojë miqtë ose familjen tuaj; ju duhet të keni lidhje njerëzore,” tha një ish-punonjës i lartë, i cili tha se u largua pjesërisht për shkak të kësaj çështjeje.
Krahas shqetësimeve në rritje për ndikimin social të projektit, startup-i është përballur me sfida teknike në krijimin e një modaliteti për të rritur.
OpenAI pati vështirësi në trajnimin e modeleve të AI (të cilat më parë i shmangnin biseda të tilla për arsye sigurie) për të prodhuar përmbajtje eksplicite, thanë dy persona të njohur me projektin. Ata shtuan se përdorimi i bazave të të dhënave që përfshinin përmbajtje seksuale paraqiste sfida, duke përfshirë heqjen e sjelljeve të paligjshme si bestialiteti apo incesti.
OpenAI tha se po përcaktonte me kujdes kufijtë e duhur dhe po trajnonte modelin për të dalluar përmbajtje të caktuara në skenarë të nuancuar.
Kodi në aplikacionin ueb të ChatGPT sugjeron se modeli për të rritur, i quajtur “Citron mode”, mund t’u kërkojë përdoruesve të verifikojnë se janë mbi 18 vjeç për ta aksesuar atë.
Gjatë muajve të fundit, OpenAI ka prezantuar një sistem të ri të parashikimit të moshës pasi disa padi u ngritën nga familjet e adoleshentëve që pretendojnë se ChatGPT i ka dëmtuar ata.
Teknologjia ka një shkallë gabimi prej më shumë se 10 për qind, tha një person i njohur me çështjen, duke rritur shqetësimet për aksesin e të miturve. The Wall Street Journal raportoi i pari shkallën e gabimit dhe faktin se këshilli këshillimor i ekspertëve të OpenAI për mirëqenien kishte ngritur shqetësime për produktin për të rritur.
OpenAI tha se sistemi i saj i parashikimit të moshës performon në përputhje me standardet e industrisë dhe se vazhdon të investojë në përmirësimin e saktësisë dhe besueshmërisë së tij.
https://www.ft.com/content/de9bf0af-b241-424f-8229-5870b1c0d93d
