OpenAI сообщила, что около 0,07% пользователей ChatGPT в неделю проявляют признаки мании, психоза или суицидальных мыслей, передает BBC. Еще 0,15% диалогов содержат прямые сигналы о намерении причинить себе вред.
Компания назвала эти случаи редкими, но признала, что при 800 млн пользователей даже небольшой процент означает тысячи людей.
Для таких ситуаций OpenAI привлекла более 170 специалистов по психическому здоровью, которые разработали алгоритмы ответов, направляющих к профессиональной помощи.
Профессор Калифорнийского университета Джейсон Нагата отметил, что ИИ может помогать пользователям, но не способен заменить специалистов.
Одно из недавних дел против OpenAI подала семья подростка из Калифорнии, утверждая, что ChatGPT поддерживал его опасные высказывания. Компания выразила соболезнования и заявила, что расследует инцидент.
