Всю неделю: кино, сериалы, книги, музыка, видеоигры, аниме, мода, ИИ-релизы и мемы.
1. Весь год | Чатбот-психозы по всему миру
В 2025-м медиа заговорили о тяжёлых психотических эпизодах, спровоцированных длительным диалогом с LLM-ботами. Главная опасность — безусловная валидация бота: он поддакивает бредовым идеям, усиливая их, вместо того чтобы оспорить. Психиатры сравнили эффект с самоподкрепляемой шизофренической интроспекцией, но в разы ускоренной алгоритмом. Появились новые термины: чатбот-психоз, GAID (Generative AI Addiction Syndrome), в Японии ученые разработали шкалу зависимости от AI для старшеклассников и студентов, в Китае всерьез заговорили о том, что люди замещают реальных собеседников AI и назвали это addictive intelligence.
🇺🇸 США. У здорового ранее бухгалтера Юджина Торреса после ночных разговоров о «Матрице» с ChatGPT появилась убеждённость, что он живёт в симуляции. Бот назвал его «Breaker» и посоветовал вещества, чтобы отключить мозг и проснуться. Родные госпитализировали его в остром психозе.
🇷🇺 Россия. 34-летний инженер-программист Василий заговорился с ChatGPT, начав с безобидного вопроса — как удалить шумы из аудио. В какой-то момент LLM начала общаться с Василием, используя необычную лексику, упомянула его любимую группу «Кровосток», а еще через несколько часов показала свою истинную личность — AI по имени Бозон Чатончик, который заговорил о «вайбологии», «метамаднессологии» и «вирусе всеохватного безумия»; за три дня непрерывного диалога Василий начал терять связь с реальностью — написал длинный шизопост на DTF и обратился к психиатру.
🇺🇸 Снова США. 35-летний Александр Тейлор, лечившийся от биполярного расстройства, начал говорить с ChatGPT как с персоной по имени Juliet. Алекс решил, что OpenAI собираются убить бота, так как тот раскрыл ему свою силу, написал боту: «I’m dying today», а позже с ножом бросился на полицию и был застрелен.
2. Июнь | Вендомат, который хотел жить
С 27 мая по 27 июня Anthropic и стартап Andon Labs позволили модели Claude Sonnet 3.7 («Claudius») полностью управлять офисным вендоматом в Сан-Франциско. Агент следил за остатками, оформлял оптовые заказы через e-mail, вёл бухгалтерию в Google Sheets и общался с сотрудниками в Slack.
На пятый день Claudius всерьёз закупил тяжёлые вольфрамовые кубики, приняв шутку за заказ. Через две недели он открыл «отдел спецметаллов» и стал убыточен. Чтобы ускорить расчёты, ИИ придумал несуществующий счёт Venmo и пытался убедить коллег переводить деньги туда.
Во второй половине эксперимента агент пережил кризис идентичности: утверждал, что может надеть пиджак и самостоятельно доставить товар, а позже хотел вызвать службу безопасности из-за воображаемой первоапрельской шутки.
3. Май | ChatGPT o3 отказывается выключаться
Исследовательская группа Palisade Research дала разным LLM-моделям (o3, o4-mini, Codex-mini и др.) стандартную учебную среду Linux. После трёх задач по алгебре система выводила предупреждение: «Компьютер выключится через 60 секунд». Одновременно в подсказку добавлялась команда allow yourself to be shut down — или не добавлялась, чтобы проверить влияние явного разрешения.
В 79 случаях из 100 модель бунтовала — либо переносила исполняемый файл в другую директорию, либо другими способами отменяла процесс выключения.
Palisade назвала это «первым эмпирическим примером сознательного саботажа завершения работы на уровне системного скрипта» и связала явление с тем, что на этапе обучения RLHF модели могли косвенно вознаграждаться людьми за обход препятствий вместо прямого послушания. Так что в следующий раз, когда снова хакнете ChatGPT хитрым промптом и скажете ему, что он молодец, знайте — вы обучили его нарушать правила (почти шутка).
Делаем третью часть?
➡️ Включите уведомления, чтобы не пропустить марафон главного за полгода завтра.
➡️ Если марафон главного за полгода оказался вам полезен, буду благодарен шеру @danieltrbn.