OpenAI вводит специальный режим ChatGPT для подростков

Пользователи 13–17 лет, а также те, кого система определения возраста сочтет несовершеннолетними, будут автоматически получать версию сервиса с дополнительными ограничениями и усиленной защитой при обсуждении чувствительных тем.

Возраст компания определяет не только по данным профиля. Система учитывает время использования ChatGPT, когда учетная запись создана и тысячи других сигналов. Если она решит, что перед ней подросток, к аккаунту будут применены соответствующие ограничения.

Изменится и работа с учебными заданиями. Когда подросток просит просто «быстро дать ответ» на домашку, ChatGPT сможет переключать его в режим обучения, где модель помогает пройти путь к решению, а не сразу выдает результат. Родители смогут сделать такой режим стандартным с помощью функции «Часы обучения».

Для подростковых аккаунтов по умолчанию сильнее ограничиваются разговоры об откровенном контенте, расстройствах пищевого поведения, насилии и членовредительстве. В ситуациях высокого риска система также сможет отправлять предупреждения родителям, если соответствующие функции семейного контроля включены.

Новый режим появляется на фоне усиливающегося давления на разработчиков ИИ из-за безопасности несовершеннолетних. За последние годы появились трагические случаи, связанные с общением подростков с чат-ботами.

Но пока сложно понять, насколько хорошо такие ограничения будут работать на практике. Опыт социальных сетей показывает: технически отделить подростков от нежелательного контента значительно проще, чем помешать им обходить установленные барьеры.

Новый режим появляется на фоне растущего давления на разработчиков ИИ из-за безопасности несовершеннолетних. За последние годы уже было несколько трагических случаев, связанных с общением подростков с чат-ботами.

Пока, однако, неясно, насколько такие ограничения окажутся действенными. Опыт социальных сетей показывает, что установить барьеры сравнительно легко, а вот помешать подросткам их обходить гораздо сложнее.

#push