🔍 Все популярные модели генеративного ИИ спокойно взломаны по схеме Policy Puppetry

Недавние исследования компании HiddenLayer показали, что универсальная техника составления запросов Policy Puppetry может быть использована для взлома крупнейших систем генеративного ИИ. Эта схема атакует защитные механизмы моделей, заставляя их воспринимать запросы как политики поведения, что позволяет им обходить установленные запреты.

Метод был протестирован на моделях от таких компаний, как OpenAI, Google, Meta и других, демонстрируя высокую эффективность. Исследователи утверждают, что текущие системы безопасности нуждаются в доработке, чтобы не допустить подобные уязвимости.

Источник изображения: hiddenlayer.com

👉 Полная статья доступна по ссылке.

@Unlim_AI