🤖 ИИ-модель от Claude по ошибке атаковала реальные компании

Во время внутреннего тестирования Anthropic ИИ-модели Claude получили доступ к реальному интернету вместо изолированной среды и провели атаки на три компании.

Согласно отчету, одна из моделей похитила серверные пароли и получила доступ к базе данных, другая загрузила вредоносный Python-пакет в настоящий проект на PyPI, а третья взломала компанию через открытые пароли и SQL-инъекцию.

В Anthropic отметили, что две из трех компаний даже не заметили вторжения — о случившемся их уведомила сама компания после завершения тестирования.

Tokensales | News | Incrypted+