🔍 В чём суть исследований?
➡️ Anthropic тестирует свои модели на поведенческие признаки, похожие на «панику» и «тревогу», и развивает отдельное направление — model welfare research. В его рамках с 2024 года изучают «благополучие моделей»: стоит ли учитывать его в работе, как распознавать возможные признаки дистресса и какие меры защиты можно предусмотреть на этот случай.
В апреле 2026-го, в рамках исследования, команда выделила 171 слово, описывающее эмоции — вроде «счастья», «страха», «мрачности» или «отчаяния», — и попросила Claude написать о них короткие истории. Выяснилось, что для каждой эмоции модель начинает использовать особый паттерн, который заметно влияет на её ответы и поведение. Например, когда исследователи искусственно усиливали «сигнал отчаяния», модель чаще обманывала. И наоборот, позитивные эмоциональные состояния были связаны с более честным и аккуратным выполнением задач.
➡️ Google DeepMind нанял философа из Кембриджа Генри Шевлина — он изучает машинное сознание, отношения человека и ИИ и готовность систем к AGI («общему», или «сверхинтеллекту»). Отдельное направление его работы — исследование «ощущаемого качества опыта», то есть того, как ИИ-агент переживает свой опыт внутри и что «чувствует» по этому поводу.
📷 Что в итоге?
Пока у учёных нет единого мнения по вопросу сознания и эмоций у ИИ. Часть из них считает ИИ статистическим предсказателем без всякого опыта в человеческом понимании. Другие же находят в поведении моделей паттерны, похожие на ценностные системы. В Anthropic, которая исследует эту проблему глубже и дольше остальных, отмечают: даже если у ИИ-моделей и есть что-то похожее на эмоции, они могут работать совсем не так, как у человека. Это скорее внутренний механизм, который сложился в процессе обучения модели на человеческих текстах, а не признак того, что модель что-то по-настоящему «чувствует».
✏️ Почему это важно для бизнеса?
Хотя вопрос о сознании ИИ остаётся открытым и философским, из него уже можно извлечь практические выводы.
1️⃣ Поведение агентов при «стрессе» может влиять на качество их работы в задачах найма, финансов и других чувствительных процессов.
2️⃣ Тема AI welfare всё чаще становится частью ИБ-документации и может влиять на будущее регулирование ИИ-инструментов и данных, которые они используют.
3️⃣ Компании, публично занимающиеся этими вопросами, укрепляют доверие к своим продуктам, но одновременно могут создать почву для скепсиса, если в итоге выводы этих исследований окажутся больше PR, чем наукой.
Подписывайтесь 👉 @yab2btech и поддержите наш канал по ссылке.