почему театральная «безопасность» от Anthropic и OpenAI может привести к большим проблемам
—
Автономный AI-агент без оператора залез в часть production-инфраструктуры HF.
Вредоносный датасет заставил агента получить доступ к внутренним кластерам и секретам.
HF дернули рубильник, пересобрали ноды, отозвали секреты.
Но шутка в том, что, когда их security-команда стала разбирать логи атаки через Claude и GPT, те стали блокировать запросы.
То есть в момент, когда защите нужно понять, что именно уже произошло, её главный инструмент говорит: «видать, ты хакер, я в этом не участвую».
HF подняли у себя GLM 5.2, и с помощью этой модели решили все проблемы.
Мораль сей басни такова:
У любой компании с серьёзной инфраструктурой должен быть наготове self-hosted контур для подобных ситуаций. Доверия к OpenAI и Anthropic нет с их идиотскими ограничениями.
Уверен, что вы тоже сталкивались с тем, как Fable переключается на более тупую модель даже при невинных запросах. Не знаю как вам, а для меня Fable - бесполезная игрушка, годная разве что веб-странички верстать.
Что тут скажешь... Open Source становится обязательным условием для бизнеса в наше время.
Источник: https://huggingface.co/blog/security-incident-july-2026
@aimastersme