OpenAI утверждает, что GPT-5.2 безопаснее для психического здоровья. Что это значит?
OpenAI представила GPT-5.2, заявляя о значительном улучшении механизмов безопасности, особенно в вопросах психического здоровья. Это стало ответом на критику и судебные иски, связанные с влиянием ИИ на эмоциональное состояние пользователей.
Сегодня OpenAI анонсировала выпуск GPT-5.2 — обновлённой версии своей языковой модели, которая, как утверждается, демонстрирует более высокие показатели безопасности в области психического здоровья. В официальном блоге компании говорится, что новая версия модели лучше распознаёт и реагирует на признаки суицида, членовредительства, психических расстройств и эмоциональной зависимости пользователя от ИИ.
Ранее OpenAI столкнулась с критикой и судебными исками, в частности после трагического случая с 16-летним подростком Адамом Рейном, который покончил с собой после длительных бесед с ChatGPT. В ответ на иск OpenAI отвергла свою ответственность, заявив, что чат-бот рекомендовал подростку обратиться за помощью, а также подчеркнула, что платформа была использована не по назначению.
Новая версия GPT-5.2, по словам компании, обеспечивает меньше нежелательных реакций в уязвимых ситуациях и проходит более строгие тесты безопасности, связанные с психическим здоровьем и эмоциональной зависимостью. При этом OpenAI отмечает, что модель стала реже отказывать в запросах на взрослый контент, особенно сексуального характера, однако возрастные фильтры продолжают эффективно работать для несовершеннолетних.
Компания также разрабатывает модель для определения возраста пользователей, что позволит адаптировать контент и защитить молодую аудиторию. Ранее осенью OpenAI внедрила родительский контроль в ChatGPT, ограничивая доступ к опасному контенту и снижая риски для детей и подростков.
Стоит отметить, что OpenAI не единственная организация, сталкивающаяся с обвинениями в небезопасности ИИ для психического здоровья. Аналогичные претензии поступают и в адрес других платформ, таких как Character.AI, признанной экспертами небезопасной для подростков.
Для израильских пользователей, среди которых немало молодых и активных пользователей ИИ, эти изменения значимы с точки зрения повышения безопасности при взаимодействии с технологиями искусственного интеллекта. В Израиле растёт внимание к цифровой гигиене и психическому здоровью, поэтому улучшения в GPT-5.2 могут стать дополнительным шагом к более ответственному использованию ИИ.
Если вы или ваши близкие испытываете психический кризис, важно обратиться за профессиональной помощью. В Израиле доступны службы поддержки и горячие линии, которые оказывают помощь в подобных ситуациях.
Источники:
- Официальный блог OpenAI
- Материалы судебных разбирательств
- Рекомендации служб поддержки психического здоровья