Anthropic вскрыла внутренности Клода и показала, как он думает. Две новые научные работы раскрывают архитектуру мышления ИИ на примерах, которые раньше казались чем-то магическим — от перевода на разные языки до написания стихов.

В первой работе «Language of Thought» исследователи (включая Илью Сухорукова и Ричарда Нгайя) выявили, что Claude использует один универсальный мыслительный протокол, независимо от языка. Французский, английский, китайский — всё проходит через одни и те же “мыслительные цепочки” — условные внутренние понятия, с которыми работает модель. По сути, Клод думает не на языке пользователя, а на своём собственном “метаязыке”, а потом уже переводит это обратно.

Во второй работе «Scaling Monosemanticity» — команда запустила «микроскоп», который показывает, как активируются определённые нейроны в ответ на конкретные задачи. Например, в генерации стихов Claude не сочиняет строку слева направо, как раньше думали. Он сначала ищет рифмующиеся слова и потенциальные окончания, и только потом строит текст так, чтобы добраться до нужного финального слова. Это планирование, а не реакция.

Они также обнаружили интересный фильтр уверенности: Claude не склонен к фантазиям, если не уверен в фактах. Только при определённой внутренней «уверенности» модель может дать конкретный ответ. Это один из ключей к снижению галлюцинаций — и, возможно, основа для настройки более ответственного поведения ИИ в критичных задачах.

И что?
До сих пор ИИ был чёрным ящиком — работал, но непонятно как. Теперь это меняется. Возможность «заглянуть в мозг» модели открывает рынок интерпретируемого ИИ: объяснимые выводы, сертификация решений, настройка поведения под конкретные задачи. В выигрыше будут компании, которые строят кастомные агентов — от медицины до финтеха. Проиграют те, кто до сих пор продаёт “обёртки” вокруг ИИ без реального понимания, что происходит внутри. Следующий виток гонки — не просто «что умеет модель», а кто умеет её перенастроить под свои цели.