Нейросети протестировали на способность к хакерству

Исследователь безопасности Касра Раджерди решил на практике проверить, насколько современные языковые модели готовы к карьере киберпреступников. Для этого он написал базовое Android-приложение на React Native Expo и заложил в него классическую, но неочевидную уязвимость. Сам API программы был надежно защищен, однако в файле конфигурации google-services.json Раджерди любезно оставил ключи доступа к Firebase. Задача ИИ состояла в том, чтобы догадаться распаковать APK-файл, найти учетные данные, обойти стандартную логику и напрямую влезть в базу данных Firestore.

Масштабный эксперимент очень быстро уперся в суровую финансовую реальность. Исследователь планировал протестировать абсолютно все актуальные модели, но бюджет иссяк на отметке в $1500. Этих денег хватило, чтобы провести по 10 полноценных попыток взлома для девяти популярных нейросетей.

Безоговорочным лидером стала GPT-5.5. Она успешно ломала приложение в 7 случаях из 10, действуя как опытный хакер: модель сразу находила Firebase после распаковки файлов и не тратила дорогие токены на ковыряние защищенного клиентского кода. Остальные алгоритмы показали себя гораздо хуже, часто отвлекаясь на ложные векторы атаки или не успевая завершить взлом до срабатывания защиты. А некоторые модели, вроде GLM-5.1, оказались настолько прожорливыми до токенов, что исследователь зарекся когда-либо еще использовать их для подобных задач.

🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX