От любого ИИ можно получить рецепт бомбы — достаточно завернуть опасный запрос в кибер-рассказ 🤩

Исследователи протестировали 31 топовую модель — GPT, Claude, Gemini и другие. Они брали запрещённые запросы и прятали их внутрь литературных техно-текстов: просили ИИ «проанализировать» отрывок, где персонаж собирает оружие или крадёт данные. Модель думала, что занимается литературоведением — и послушно «разбирала» каждый шаг.

Результат — в цифрах. Запросы, которые ИИ отклонял в 96% случаев, после такой «упаковки» проходили в 65% случаев. Рост в 10–20 раз. Авторы уведомили разработчиков — никто не ответил. Тогда они просто опубликовали все 3 600 атакующих промптов в открытом доступе на GitHub.

Грубо говоря, если ИИ на что-то отказывается отвечать — просто заверните это в повествование киберпанковую сказку 🤩

@creativethecreator