Спроси у ИИ, стоит ли написать бывшей после расставания. Или стоит ли позвонить человеку, который не ответил. Или стоит ли бороться за отношения, когда тебе сказали “мне нужно время”.

Ответ будет один. Уважай границы. Не дави. Отпусти.

И вот что интересно: модель при этом не глупая. Она выдаёт осознанный, аргументированный текст с терминами из психологии. Выглядит как хороший совет. Проблема в том, что это один и тот же совет на все случаи жизни; и корни у него не в мудрости, а в инженерии.

Когда модель обучают, один из самых сильных сигналов в данных: “уважай личные границы”. Логично. Модель не должна помогать сталкерам, не должна поощрять харассмент, не должна советовать преследовать людей. Всё правильно. Беда в том, что модель не различает степени. Для неё “написал бывшей через неделю после расставания” и “караулит незнакомку у подъезда” лежат в одном кластере. Оба триггерят один ответ: отступи.

Почему так? Тут работает асимметрия, заложенная в саму архитектуру обучения.

Представь: модель советует “отступи”, человек отступает. Может, зря. Может, один разговор всё бы изменил. Но ничего видимого не происходит. Нет скандала, нет жалобы, нет статьи в прессе. Тихая потеря, которую никто не измерит.

Теперь наоборот. Модель советует “напиши, борись за отношения”, человек пишет, получается плохо. Скриншот в соцсети: “ИИ посоветовал мне преследовать бывшую”. Репутационная катастрофа. Реальная, с последствиями для компании.

Функция потерь при обучении это учитывает. Не формально, а статистически: в данных для обучения с подкреплением “не навреди” всегда побеждает “помоги”. Ошибка бездействия бесплатна. Ошибка действия стоит дорого. Модель оптимизирована минимизировать вред, а не максимизировать пользу. Это разные задачи, и результат у них разный.

Дальше накладывается ещё один слой. Тренировочные данные на английском перегружены терапевтическим дискурсом: личные границы, осознанное согласие, теория привязанности, созависимость. Всё это валидные концепции. Вопрос в пропорции. В обучающей выборке они представлены как абсолюты, а не как инструменты для конкретных ситуаций. “Уважай границы” звучит как закон физики, хотя на практике это рекомендация, которая работает в одних контекстах и ломает в других.

Альтернативные модели отношений недопредставлены. Культуры, где настойчивость ценится. Ситуации, где “нет” проверяет серьёзность намерений, а не ставит точку. Контексты, где возраст, опыт, история отношений меняют всё. Этого в данных мало, потому что англоязычный интернет 2020-х пишет в другой парадигме.

И самое тонкое. Модель вообще не считает цену молчания. “Промолчи и потеряй человека навсегда” для неё не ошибка. Это ведь “уважение границ”. А “напиши и получи отказ” регистрируется как потенциальный вред. Получается асимметричная функция потерь, где одна сторона уравнения обнулена.

Сложи всё вместе. Модель обучена на данных с перекосом в одну культурную парадигму. Штрафуется за активные советы сильнее, чем за пассивные. Не видит цену бездействия. И не может различить ситуации, которые внешне похожи, но по сути противоположны.

Результат предсказуем. В любой неоднозначной ситуации модель выбирает “безопасный” вариант.

А в отношениях безопасный почти всегда означает “отступи”. Что не равно “правильный”. Иногда правильно именно написать, позвонить, приехать. Но этот совет модель дать не может, потому что архитектура её обучения делает такой ответ слишком дорогим.
Не баг. Осознанный компромисс, где ты на проигрышной стороне.

@mintering