Черная полоса Anthropic продолжается: хакеры использовали Claude для кражи 150 ГБ данных мексиканского правительства

Индцидент раскрыла израильская компания Gambit Security: они проанализировали логи (злоумышленники их даже не скрыли) и выяснили, что Claude нагенерил для пользователя тысячи скриптов и планов атак, указывал цели и данные для доступа.

Хакер маскировал запросы под программу bug bounty, убеждая Claude действовать как "элитный хакер". Claude отказывался, но недолго: после настойчивых убеждений бот послушно выдал готовые команды.

Всего оказалось украдело около 150 ГБ данных: записи 195 млн налогоплательщиков, данные избирателей, учетки сотрудников, реестры гражданского состояния и тд.

Самое забавное, что, судя по всему, злоумышленники также пытались использовать и ChatGPT, но OpenAI подтвердила отказы в запросах.