Claude помог взломать аккаунты OpenAI за 72 часа

Исследователи Hacktron сообщили, что за трое суток смогли пройти цепочку уязвимостей и получить доступ к нескольким аккаунтам ChatGPT сотрудников OpenAI. Началось всё с уязвимости в обработке изображений на форуме Discourse, а затем они использовали ошибку в едином входе OpenAI, которая позволяла захватывать аккаунты без действий со стороны владельца.

Для проверки доступа команда даже создала pull request во внутреннем репозитории OpenAI, не просматривая его код. OpenAI выплатила исследователям $6500, а Discourse уже выпустила исправление и начала изолировать ImageMagick в песочнице.

@forgeeks | @forgeeksflash