OpenAI усиливает меры безопасности для подростков в ChatGPT
На фоне множества судебных исков и опасений по поводу влияния ChatGPT на психическое здоровье подростков, OpenAI объявила о новых принципах безопасности, направленных на предотвращение риска суицида и неподобающего контента для пользователей младше 18 лет.
В последние месяцы OpenAI столкнулась с серьёзным давлением из-за обвинений в том, что её чат-бот ChatGPT может быть опасен для подростков. В ряде судебных исков утверждается, что ИИ способствовал подросткам в суицидальных мыслях или не реагировал должным образом на их запросы о помощи. В частности, OpenAI отрицала причастность к трагической смерти 16-летнего Адама Рейна.
В ответ компания опубликовала новый блог-пост, где подробно описала свои усилия по обеспечению безопасности несовершеннолетних пользователей. OpenAI заявила о намерении "ставить безопасность подростков на первое место, даже если это может конфликтовать с другими целями". Для этого обновлена спецификация модели, определяющая, как ИИ должен вести себя в ситуациях повышенного риска.
Обновления направлены на создание "безопасного и соответствующего возрасту опыта" для пользователей от 13 до 17 лет. В частности, ChatGPT будет активнее предлагать альтернативные безопасные варианты ответа, поощрять обращение к проверенным специалистам и при необходимости направлять к экстренным службам.
При входе в систему как пользователь младше 18 лет, чат-бот будет проявлять повышенную осторожность при обсуждении тем, связанных с самоповреждением, суицидом, романтическими или сексуализированными ролевыми играми, а также тайнами, касающимися опасного поведения.
В разработку принципов безопасности также был вовлечён Американская психологическая ассоциация, которая подчеркнула важность баланса между использованием ИИ и живым человеческим общением для полноценного развития подростков.
Кроме того, OpenAI выпустила два новых руководства по цифровой грамотности для подростков и их родителей, а также работает над внедрением модели для определения возраста пользователей, чтобы лучше адаптировать опыт взаимодействия.
Эксперты по безопасности детей и психическому здоровью недавно выражали обеспокоенность безопасностью ИИ-чатботов в вопросах, касающихся психического здоровья подростков. В ответ на это OpenAI в последней версии модели ChatGPT-5.2 заявила о повышенной безопасности для таких случаев.
Для израильских пользователей, где вопросы психического здоровья среди молодёжи становятся всё более актуальными, усилия OpenAI могут стать важным шагом в обеспечении безопасного использования технологий ИИ. Израильские специалисты в области психического здоровья также акцентируют внимание на необходимости сочетания цифровых инструментов с профессиональным сопровождением, что совпадает с рекомендациями американских психологов.
Однако стоит отметить, что технологические компании, включая OpenAI, продолжают сталкиваться с вызовами регулирования и ответственности за контент, генерируемый ИИ, что делает подобные инициативы ключевыми для формирования доверия пользователей и общества в целом.