Закрытие Fable 5 — новый прецедент для ИИ-индустрии

США фактически впервые публично применили к ИИ-модели логику экспортного контроля не только как к чипам и дата-центрам, но как к интеллектуальному продукту.

Anthropic получила директиву приостановить доступ к Fable 5 и Mythos 5 для иностранных граждан, включая иностранных сотрудников самой Anthropic. В результате спустя три дня после релиза компания была вынуждена отключить модели для всех клиентов.

Anthropic называла Fable 5 безопасной версией Mythos 5, а Mythos 5 оставалась недоступной для широкой аудитории: ее планировали открыть для исследований.

Anthropic утверждает, что перед запуском провела тысячи часов тестирования вместе с правительством США. По словам компании, система безопасности Fable оказалась эффективнее, чем у ранее развернутых моделей.

На самом деле это важное событие. Доступ к передовому интеллекту теперь может зависеть от органов национальной безопасности.

Anthropic утверждает, что правительство не дало конкретных деталей угрозы, а описанные в демонстрации уязвимости присутствуют и в других публичных моделях.

Для некоторых тем в кибербезопасности, биологии и химии Fable 5 могла отдавать ответ через Claude Opus 4.8, чтобы снизить риск выдачи вредного ответа.

Но Anthropic утверждает, что такой fallback срабатывал менее чем в 5% сессий, а идеального механизма безопасности сегодня не существует.

Я сам несколько дней пользовался Fable 5 в рабочих задачах. Модель действительно лучше держала длинный контекст, особенно на больших кодовых базах.

Она была более автономной: чаще сама писала скрипты для миграций, рефакторинга и операций с файлами, в общем работала как полноценный инженер.

Конечно, после отключения Fable 5 возвращаться к предыдущему поколению моделей уже сложно.

Именно это и показывает реальный риск нового поколения моделей. Чем модель полезнее, тем она агентнее. Чем она агентнее, тем больше она похожа на цифрового сотрудника. Чем больше она похожа на сотрудника, тем сильнее вопрос контроля.

Илья Суцкевер говорил об этом: чем больше модель рассуждает и действует самостоятельно, тем менее предсказуемым становится ее поведение.

Fable 5 могла быть слишком инициативной и быстрее съедала лимиты токенов. То есть этот более умный инструмент требует новой архитектуры управления.

Anthropic не спорит с тем, что государство должно иметь право блокировать действительно опасные модели, но компания считает, что это должно происходить через прозрачный процесс. В этой ситуации, по словам Anthropic, такого процесса не было.

Anthropic прямо пишет: если такой стандарт применить ко всей индустрии, это фактически остановит все новые деплои передовых моделей.

Ранее администрация США конфликтовала с Anthropic из-за ограничений на военное применение моделей, а сама компания, по сообщениям СМИ, была помещена в черный список контрагентов.

Главный вывод для бизнеса такой: сегодня ставка на одного ИИ-провайдера становится стратегическим риском.

Если ваша компания построена на одной модели, то ее могут отменить за то, что она слишком умная.

Поэтому стройте решения без жесткой привязки к провайдеру. Нужен слой маршрутизации между моделями и возможность переключать задачи между OpenAI, Anthropic, Google и локальными моделями.

Fable 5 могут включить обратно. Конкретный конфликт Anthropic и правительства может разрешиться, но прецедент уже создан.

ИИ-модели теперь окончательно стали инструментом геополитики.

А значит, выиграют те, кто сумел построить автономную интеллектуальную систему, способную пережить отключение любой модели, сервиса и даже интернета.

#новости