🛡 Anthropic усложнила обучение чужих моделей на рассуждениях Claude

По оценке компании, новая защита уменьшила объём рассуждений, которые можно извлечь на её платформе, на 90–99%.

Для дистилляции особенно ценны подробные цепочки решения: другую модель обучают не только ответам, но и тому, как они были получены.

Anthropic ввела ограничения на перенос рассуждений между аккаунтами и моделями, добавила классификаторы попыток извлечения и ужесточила блокировки.

Разница заметна: в эксперименте обучение на полных рассуждениях дало 80,4% на SWE-bench Verified, а на сокращённых версиях — лишь 71,8%.

Защита затронула и обычных разработчиков: некоторым пришлось обновить интеграции. Возможны ошибочные блокировки, а за некоторые заблокированные запросы теперь тоже взимают плату.

Компания признаёт: борьба продолжается, и пока неизвестно, как долго сохранится этот результат.

https://www.anthropic.com/research/distillation-defenses

INCUBE.AI | ПОДПИСАТЬСЯ