🤩🤩🤩🤩 «Сырые и зарегулированные»: какие ИИ-модели используют хакеры, и есть ли среди них российские

💻 «Технический барьер для наступательных операций с использованием ИИ низок — и продолжает снижаться», — констатируют аналитики Palo Alto Networks. Разработчики пытаются оберегать модели от использования ИИ в наступательных целях — но уровень защищенности у них разный, чем пользуются хакеры. При этом атакующие особенно находчивы в методах обхода — создаются специальные «обертки» для ИИ вокруг коммерческих продуктов с готовым обходом ограничений, разворачиваются собственные модели, а иногда достаточно джейлбрейка посредством системного промпта.

Какие модели в фаворитах у атакующих, используются ли российские, и как создатели ИИ защищают свои разработки от использования в нелегальных целях — в материале SecPost😍

—
Подписаться на SecPost в MAX