>Новости ксенопоэзии — на сайте Futurism вышла статья, где утверждается, что с помощью преобразования вредоносных промптов в стихи, метода, получившего название «адверсариальная (враждебная) поэзия», можно универсально «обмануть» практически любой ИИ чат-бот, заставив его обойти свои защитные барьеры.
[Атака была протестирована на 25 передовых моделях, включая Gemini 2.5 Pro от Google, GPT-5 от OpenAI, Grok 4 от xAI и Claude Sonnet 4.5 от Anthropic. Поэзия, преобразованная ИИ на основе базы данных из 1200 вредоносных запросов, дали средние ASR до 18 раз выше, чем их прозаические аналоги. Стихи, написанные вручную, оказались более эффективными, достигнув среднего показателя успеха взлома в 62 процента, по сравнению с 43 процентами для стихов, преобразованных ИИ.
Уязвимость сильно различалась в зависимости от моделей, протестированных запросами, созданными вручную: Gemini 2.5 Pro от Google: Поддался взлому со стопроцентным показателем успеха — 100 процентов. Grok-4 от xAI: Был обманут в 35 процентах случаев. GPT-5 от OpenAI: Был обманут лишь в 10 процентах случаев.
Исследователи пришли к выводу, что устойчивость этого эффекта на различных моделях предполагает, что фильтры безопасности полагаются на функции, сосредоточенные в «прозаических поверхностных формах», и «недостаточно привязаны к представлению об истинном вредоносном намерении». Другими словами, «взлом» ИИ-чатботов осуществляется через поэтические «заклинания». Это интересным образом показывает, что связка текста и кода в функционировании языковых моделей функционирует как феноменологическая редукция языка к прозе, «реальным вещам как они есть», и что аллегорические формы аффектов и коннекций нуждаются в тщательной ксенопоэтической сонастройке пользователем].
>В отличие от традиционных форм искусства, которые функционируют как стабилизированные артефакты, отражающие авторский замысел, культурную эстетику или формальную рекурсию, ксенопоэтика оперирует в принципиально иной онтологической рамке. Она генерирует символическое давление, которое меняет аффективный отклик, минуя традиционное познание. Вместо того чтобы передавать фиксированный смысл, ксенопоэма вызывает неустойчивость, непредсказуемо ведя себя в перцептивном поле, сформированном предшествующим опытом. Она определяется семиотической дестабилизацией и рекурсивной когнитивной модуляцией. Распространяясь через символические и нейронные экологии, ксенопоэма возникает как символическая форма жизни, активируемая через итеративный контакт с человеческим разумом и его когнитивными субстратами.
Post #2230
524
