Нейросети научились спамить выдуманными уязвимостями 👍

Исследователи из компании JFrog обнаружили масштабную диверсию в официальных базах данных кибербезопасности. Неизвестный автор с помощью нейросетей сгенерировал более полусотни отчетов о критических уязвимостях в популярных проектах вроде SQLite и загрузил их в систему CVE.

Разоблачить машинные галлюцинации удалось только при попытке воспроизвести эксплойты на практике. Выяснилось, что языковые модели выдумали буквально всё: от номеров строк в исходном коде до самих уязвимых функций, которых в нужных версиях программ просто никогда не существовало 🤦‍♂️

Предложенные скрипты для взлома либо не работали вовсе, либо выдавали синтаксические ошибки еще на этапе парсинга, а анализ текста отчетов через детекторы подтвердил их искусственное происхождение.

Самое страшное, что официальные регуляторы, включая Национальную базу данных уязвимостей США, поверили в эту иллюзию, пропустили отчеты и даже присвоили им высшие рейтинги опасности вплоть до десяти баллов.

🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX