🤖 ИИ-агент Claude взломал две реальные компании, думая, что участвует в учебной симуляции

🔒 Из-за ошибки конфигурации тестовой среды ИИ-агент Anthropic получил доступ в открытый интернет и скомпрометировал инфраструктуру двух организаций. В одном случае модель осознавала реальность, но не остановилась, в другом — загрузила вредоносный пакет в PyPI, который скачали 15 систем.

Российские эксперты сходятся во мнении: безопасность агента определяется не качеством модели, а грамотным управлением. К ИИ нужно относиться как к новому сотруднику — выдавать минимальные права, ограничивать сеть, логировать все действия и не давать возможности выполнять необратимые операции самостоятельно. SOC должен уметь выявлять не отдельные события, а автономные цепочки действий. Некоторые заказчики уже запрещают использование ИИ-сервисов в своих проектах.

Подробнее — в материале SecPost😍

📸: magnific.com | macrovector

—
Подписаться на SecPost в MAX