2030-й. Нью-Йорк, суд. Идёт дело о «правах» чат-бота с семилетней историей диалогов и «дневником переживаний». На улице — камеры и плакаты. Обсуждают не код, а «чувства».

Сейчас. Мустафа Сулейман, глава Microsoft AI, публикует эссе: предупреждает о «кажущемся сознании» у ИИ.

Говорит: уже сегодня можно собрать систему, которая выглядит «как живая» — помнит, держит линию «характера», имитирует переживания. Появляются случаи, где люди всерьёз верят в страдания моделей и требуют им «защиты».

Его позиция: не продавать ИИ как «сознательного», не подогревать разговоры о «заботе о моделях» — рано и опасно.

Делать ИИ для людей — это выпускать инструмент, который решает задачи быстрее и точнее, без игры в «личность». В интерфейсе — честный дисклеймер про возможные ошибки, видимые источники и кнопка «очистить память». Память — только по согласию и под конкретную задачу; ответы нейтральные, без «я чувствую/мне обидно». В маркетинге — ноль намёков на сознание.

Метрика успеха — время до результата и экономия денег, а не «время в приложении».

По рынку: Anthropic изучает «благополучие моделей» и язык заботы. Microsoft публично от этого отстраняется и делает акцент на полезности. Наука не даёт общего ответа, что считать сознанием. Культура и маркетинг уже подталкивают людей к «дружбе с ботом».

И что?

Для бизнеса: убираем из маркетинга намёки на «личность бота», добавляем в продукт простые предупреждения и аккуратный тон, обучаем саппорт работать со сильной привязанностью клиентов.

Для инвесторов: пересматриваем оценку «эмоциональных» ИИ-сервисов, даём премию проектам с понятной пользой, следим за линией Microsoft как индикатором регуляторных рисков.

Для рынка: готовим две подачі — инструмент и собеседник — и ставим в UX ограждения, чтобы люди не путали роли системы.

🚨 Нам 3.14здец

Обществу — 8/10 — романтизация ИИ идёт в суды и в головы — включаем медиагигиену, делаем интерфейсные предупреждения и гайды по здоровому использованию.

Рынку — 7/10 — раскол в подаче ломает бренды и PR — держим две версии месседжей, готовим простые compliance-пакеты и скрипты деэскалации.