Ирония года в техномире: разработчиков ChatGPT взломали с помощью их главного конкурента — нейросети Claude от Anthropic.
Трое независимых исследователей из команды Hacktron AI в рамках официальной программы поиска уязвимостей сумели проникнуть во внутренние репозитории OpenAI.
🔻Как у них получилось?
▪️Вся история началась с банальной уязвимости в обработке картинок на стороннем форуме Discourse, где общается сообщество разработчиков. Исследователи сначала скормили баг версии Claude Opus 4.8, но та не справилась. Буквально тем же вечером Anthropic выкатила обновление до Opus 5, и свежая модель за сутки сгенерировала рабочий эксплойт.
▪️Через взломанный сервер форума парни вытащили токены авторизации пользователей. К их удивлению, часть этих токенов принадлежала реальным сотрудникам OpenAI и подходила напрямую к ChatGPT и внутреннему GitHub компании. Получив доступ к аккаунту инженера, исследователи смогли читать кодовую базу в святая святых компании — закрытом репозитории Monorepo, где хранятся архитектурные секреты и алгоритмы оптимизации моделей.
▪️Украсть саму готовую нейросеть они не смогли, но чтобы доказать факт взлома, прямо изнутри оставили заявку на изменение служебной инструкции, вписав туда название своей команды и ссылки на соцсети.
OpenAI быстро перекрыла уязвимость, отозвала токены и выплатила исследователям скромные $6500 вознаграждения. Компании даже пришлось снять четверть ключевых инженеров с текущих задач и бросить их исключительно на латание дыр в обороне.
❗️То есть чтобы вскрыть инфраструктуру лидера рынка ИИ, уже не нужна армия хакеров экстра-класса с государственным бюджетом — достаточно трех толковых парней с коммерческими подписками на правильные нейросети.
#ИИ #США
🇺🇸 @rybar_america — сделаем Америку снова понятной
💸Поддержать нас
