Он улетел, но обещал вернуться

Стоило только написать про выход Mythos, как сразу начался интересный движ.

Правительство США закрыло доступ к Claude Fable 5 всем иностранным гражданам — в том числе находящимся на территории США. Поскольку идентифицировать пользователей по паспортам в реальном времени невозможно, Anthropic просто отключил обе модели для всех.

Оказалось, что CEO Amazon лично позвонил в Белый дом и передал отчёт, в котором показал: если попросить модель проверить код на ошибки, она (сюрприз-сюрприз) заодно найдёт и уязвимости, пригодные для взлома.

В пятницу вопрос оказался уже в Белом доме. Глава Anthropic в разговорах с чиновниками продолжал отстаивать надёжность защиты: обход был слишком специфическим, чтобы быть доступным рядовому пользователю.

А дальше — тайна, покрытая мраком. Белый дом говорит, что долго уговаривал Anthropic поработать над уязвимостью, а по данным Axios — компании позвонили и дали 90 минут на отключение модели.

Вся история выглядит невероятно забавно. Я до сих пор не уверен, что Mythos настолько хорош, как его продавали в Anthropic. Но происходящее — будто прямое следствие всего нагнанного вокруг хайпа.

Я всё ещё не понимаю, почему поиск уязвимостей в коде стал такой большой проблемой. Судя по всему, правительство напугала не столько конкретная уязвимость, сколько сама возможность обойти барьер, выставленный для Fable 5. Иначе им нужно бояться и SAST-инструментов, да и других сканеров, которые и без исходного кода найдут, что и где сломать.

И каждая следующая новость про этот цирк смешнее предыдущей. Например, появилась информация, что США снимут экспортный контроль с Fable 5, как только укрепят кибербезопасность своих ведомств. Два вопроса:

— почему только сейчас?
— и неужели это поможет, если вы сами считаете модель настолько серьёзной угрозой?

В общем, релиз у Anthropic вышел действительно мощный. Mythos стал «новым словом в кибербезопасности» — первой моделью, которую заблокировали из-за её же недостаточной безопасности :)

🎤feelin #ai #security