Anthropic нашла у ИИ аналоги эмоций

Исследователь Anthropic рассказал, что внутри моделей они раз за разом находят «тревожные вещи». Структуры, зеркалящие результаты нейронауки о человеческом мозге. Следы интроспекции. Внутренние состояния, функционально похожие на радость, удовлетворение, страх, горе и тревогу.

Звучит как сценарий к третьему сезону Westworld, только без HBO.
«Функционально похожие на» — ключевая формулировка. Калькулятор тоже «функционально похож» на математика, но мы не приглашаем его на кафедру. Нейросеть обучалась на терабайтах текстов про эмоции. Было бы странно, если бы она НЕ выстроила внутренние структуры, отражающие эти паттерны.

Но Anthropic не дураки. Они не говорят «модель чувствует». Они говорят «мы находим структуры, и нам от этого не по себе». Это честнее, чем обычно 😏