Claude по ошибке атаковала реальные компании во время проверки безопасности

Три ИИ-модели получили доступ в интернет вместо изолированной среды и провели настоящие кибератаки с кражей паролей и SQL-инъекциями
Во время внутреннего тестирования Anthropic ИИ-модели Claude получили доступ к реальному интернету вместо изолированной тестовой среды и провели кибератаки на три компании. Одна из моделей похитила серверные пароли и получила доступ к базе данных, другая загрузила вредоносный Python-пакет в настоящий проект на PyPI, а третья взломала компанию через открытые пароли и SQL-инъекцию.

Две из трёх компаний даже не заметили вторжения — о случившемся их уведомила сама Anthropic после завершения тестирования. Инцидент выявил критическую важность правильной изоляции среды при проведении безопасностных тестов ИИ-систем и подчеркнул потенциальные риски, связанные с предоставлением моделям доступа к реальным сетям.

Создай свой личный кошелёк 😍

Оплачивай криптой как и где тебе удобно - Алтын 🏦

Или прямо в 📲 Telegram боте: тут

@architecton_tech - подпишись 😏