Из 225 уязвимостей, найденных ИИ Anthropic, хакеры использовали всего одну

ИИ, который создатели назвали слишком опасным для публики, нашёл 225 дыр в программах, а хакеры воспользовались только одной. Как пишет The Register, это подсчитал Патрик Гэррити из VulnCheck, это компания, которая следит, какие уязвимости реально атакуют.

Началось всё в апреле, когда Anthropic объявила проект Glasswing. Свою новую модель Mythos компания решила не выпускать для всех, потому что она, по словам самой Anthropic, слишком хорошо ищет уязвимости, и дала её только проверенным партнёрам, чтобы те чинили собственные программы.

Гэррити с тех пор ведёт свой список всех дыр, которые связаны с Anthropic и получили официальный номер в общем реестре. К 21 сентября их набралось 225, и в реальных атаках засветилась одна, в Ghost, это платформа для блогов и онлайн-изданий.

Выходит меньше 0,5%. Гэррити говорит, что найти уязвимость и использовать её для атаки это вообще разные истории, и по последствиям дыры от Anthropic ничем не выделяются среди любых других.

Закрытый доступ к Mythos работает на Anthropic ещё и юридически. Модель получили только проверенные партнёры под конкретную задачу, так что если что-то пойдёт не так, разбирать будут их договор и их действия. Выпусти компания такую модель для всех, вопрос, кто отвечает за взлом с её помощью, скорее всего, встал бы уже к ней самой.

А вот чинить ИИ пока умеет хуже, чем искать. В исследовании 1Password модели полностью закрыли уязвимость только в 26% случаев, так что без людей тут пока никак.