Повеќе од милион корисници на ChatGPT испраќаат пораки секоја недела што вклучуваат „експлицитни индикатори за потенцијално самоубиствено планирање или намера“, соопшти OpenAI во блог пост.
Покрај проценките за самоубиствени идеи и поврзани интеракции, OpenAI исто така рече дека околу 0,07% од корисниците активни во дадена недела, околу 560.000 од проценетите 800 милиони неделни корисници, покажуваат можни знаци на проблеми со менталното здравје поврзани со психоза или манија.
Во постот се предупредува дека овие разговори е тешко да се откријат или измерат и дека ова е почетна анализа.
Додека OpenAI објавува податоци за проблеми со менталното здравје поврзани со нејзиниот популарен производ, компанијата се соочува со зголемен надзор откако против неа беше поднесена тужба од страна на семејството на тинејџер кој извршил самоубиство по обемна интеракција со ChatGPT.
OpenAI тврди дека нејзиното неодамнешно ажурирање на GPT-5 го намалило бројот на несакани однесувања на нејзиниот производ и ја подобрило безбедноста на корисниците во евалуација на моделот што вклучувало повеќе од 1.000 разговори за самоповредување и самоубиство. Компанијата сè уште не одговорила на барањето на Guardian за коментар.
OpenAI изјави дека GPT-5 го проширил пристапот до кризни линии и додал потсетници за корисниците да прават паузи за време на долгите сесии.
За да го подобри моделот, компанијата изјави дека регрутирала 170 медицински професионалци од својата Глобална мрежа на лекари, експерти за здравствена заштита, за да помогнат во истражувањето во текот на изминатите неколку месеци.
„Како дел од оваа работа, психијатрите и психолозите разгледале повеќе од 1.800 одговори на моделите што вклучуваат сериозни ситуации на ментално здравје и ги споредиле одговорите од новиот модел за разговор GPT-5 со претходните модели“, изјави OpenAI.
