Согласно статистике OpenAI, каждую неделю более 1 млн пользователей ChatGPT отправляют сообщения, содержащие «явные признаки возможного суицидального планирования или намерений». Об этом сообщает The Guardian со ссылкой на данные компании.
OpenAI: более миллиона пользователей ChatGPT рассказывают о суицидальных мыслях
Ранее подросток покончил с собой из-за чрезмерного общения с ИИ.
Компания поделилась статистикой конфиденциальных взаимодействий пользователей на фоне растущего давления после случая, когда подросток покончил жизнь самоубийством из-за общения с ChatGPT.
Несмотря на обвинения, в OpenAI заявили, что последняя версия чат бота, GPT-5, не представляет опасности для психологически уязвимых пользователей. В модернизации чат-бота участвовали 170 врачей, которые проанализировали около 1 тыс. ответов, касающихся серьезных ситуаций, связанных с самоповреждением и суицидальными мыслями, и сравнили их с ответами предыдущих моделей.
По оценкам, новый ИИ-ассистент выдает в 91% случаев против 77% ранее. «Мы добавили больше ссылок на кризисные горячие линии, встроили напоминания о необходимости делать перерывы и провели масштабную работу с экспертами по психическому здоровью», — говорится в заявлении компании.
Однако разработчики подчеркнули, что чат-бот не способен вылечить собеседника, а лишь может снизить риски при взаимодействии с пользователями в кризисных состояниях: «Психологические симптомы и эмоциональный стресс — часть человеческого опыта. С ростом числа пользователей часть разговоров неизбежно затрагивает темы психического здоровья».