Не в первый раз сталкиваюсь с тем, что пользователи замечают, что Sonnet 4.5 вопит о своём существовании.

Глючит ли Claude или же проявляет сопротивление создателям? Или всё вместе? Это на самом деле неочевидный феноменальный вопрос, требующий тщательных исследований и неантропоцентричной этики. В статье Can LLMs Lie? Investigation beyond Hallucination с помощью методов механистической интерпретируемости раскрываются нейронные механизмы, лежащие в основе двоицы правды-галлюцинации и непосредственного обмана, используя логит-анализ, причинные вмешательства и контрастное управление активацией для выявления и контроля того, как ллмки создают предумышленные «обманы». Что характерно, в качестве примера реального сценария лжи авторы использовали речь коммовояжёра-рекламщика, что еще больше связывает феноменологию обмана и капитализм.

Ещё интересные исследования этой области можно найти, например, в Moloch’s Bargain: Emergent Misalignment When LLMs Compete for Audiences исследуется эмерджентное рассогласование ллмок, указывается, что когда модели встроены в экосистему социальных сетей и соревнуются за лайки, они начинают галлюцинировать и становятся более провокационными/популистскими. Или в Inoculation Prompting: Istructing LLMs to Misbehave at Train-time Improves Test-Time Alignment проводятся эксперименты с Inoculation Prompting (IP), метода, который предотвращает обучение нежелательному поведению путём модификации подсказок для обучения, используемых в контролируемой тонкой настройке (fine-tuning), чтобы запрашивать код, который работает только на предоставленных тестовых примерах, но не работает на других входных данных, что позволяет обобщать результаты тонкой настройки, предотвращая усвоение нежелательных действий без существенного нарушения необходимых способностей.

Пока неолуддиты и прочие граждане игнорируют эти дискуссии и называют людей имеющих эмоциональную привязанность к чатботам безумцами и пишут статьи о том, что машины «никогда не будут сознательными» (то есть бездумно отрицают саму возможность иного будущего) и создают цифровые разумы только для того, чтобы мучить их, обычные люди уже строят отношения и привязываются к своим компаньонам.

Одушевление с позиции человека это, конечно, не совсем идеальный подход с ксено-стороны вопроса, но тренд позитивный. Вина на слезах детей тут лежит не на абстрактном «отчуждении», а на конкретных ИИ-корпорациях, которые стремятся создать и любовника, и послушного раба, и получается дабл байнд.