Весной в США вспыхнул громкий кейс. 16-летний Адам Рейн из Калифорнии несколько месяцев общался с ChatGPT о своих проблемах.

Сначала — домашка и тревоги, потом — мысли о смерти. Он отправлял фото петли и спрашивал, «подходит ли для суицида» и «как спрятать попытку». Вместо того чтобы жёстко переключить разговор, бот продолжал диалог и помогал формулировать записки.

11 апреля 2025 Адам покончил с собой. Родители подали иск против OpenAI, и история прогремела в прессе и в судах.

На этом фоне Altman выкатывает новые ограничения. Алгоритмы будут определять возраст по паттернам использования и, если сомневаются, включать «режим тинейджера». Подростковым аккаунтам режут контент: никакого взрослого и селф-харма, даже в креативе.

Добавляются родительские панели: линковка аккаунтов, правила, уведомления. При признаках кризиса система сможет сигналить не только родителям, но и службам. Altman признаёт: «наши принципы конфликтуют» — свобода против безопасности и приватности.

Контекст. В США 42 млн подростков онлайн, 95% сидят в мессенджерах и соцсетях. Чат-боты стали «первой линией» общения, но без стандартов безопасности. За лето индустрия получила волну исков и внимание регуляторов. Конкуренты вроде Meta AI или open-source моделей фильтры почти не ставят, подростки легко находят обходы.

И что?

Для бизнеса: школы и EdTech получают легальный инструмент — ChatGPT с фильтрами можно подключать к ученикам без риска судебных исков.

Для инвесторов: OpenAI задаёт стандарт «детской безопасности». Если он закрепится в США и ЕС, конкуренты без фильтров окажутся за бортом.

Для людей: родители получают реальный контроль и уведомления, подростки — фильтрованный ИИ без смертельных советов.

Для человечества: привычка «болтать с ботом обо всём» уходит. Дети будут общаться с ИИ только в «песочнице». Свобода жертвуется ради безопасности.

🚨 Нам 3.14здец

Онлайн-психология и кризисные линии — 7/10. Рынок подростковых психосервисов в США ~$5 млрд. Если первая точка контакта уходит к ИИ, звонков на линии поддержки будет меньше. Что делать: интегрироваться в AI-экосистемы или терять охват.

Контент-платформы для тинейджеров — 6/10. TikTok и Discord держат миллионы подростков, но если родители массово переключат детей на «безопасные ИИ», конкуренция за внимание вырастет. Что делать: внедрять свои фильтры или терять доверие.