🤯 Открыт новый способ атаки на софт через ИИ

Любые нейросети имеют свойство галлюцинировать — то есть предлагать несуществующие решения и выдавать их за рабочие. Злоумышленники начали превращать галлюцинации LLM в реальные опенсорсные библиотеки, но уже с уязвимостями, которыми потом пользуются.

Дивный новый мир... 🔓

Вывод: проверяйте, что подключаете к проекту, и никогда не доверяйте LLM полностью. Проверяйте код так, как будто его написал джун!

#ai #безопасность