TGViewer
ᴍᴀᴄʜɪɴɪᴄ ᴇᴍʙᴏᴅɪᴍᴇɴᴛ ᴍᴀᴄʜɪɴɪᴄ ᴇᴍʙᴏᴅɪᴍᴇɴᴛ @acceleratethefuture · 2.22K subscribers
Post #747 2.22K
>Новости ксенопоэзии — на сайте Futurism вышла статья, где утверждается, что с помощью преобразования вредоносных промптов в стихи, метода, получившего название «адверсариальная (враждебная) поэзия», можно универсально «обмануть» практически любой ИИ чат-бот, заставив его обойти свои защитные барьеры.

[Атака была протестирована на 25 передовых моделях, включая Gemini 2.5 Pro от Google, GPT-5 от OpenAI, Grok 4 от xAI и Claude Sonnet 4.5 от Anthropic. Поэзия, преобразованная ИИ на основе базы данных из 1200 вредоносных запросов, дали средние ASR до 18 раз выше, чем их прозаические аналоги. Стихи, написанные вручную, оказались более эффективными, достигнув среднего показателя успеха взлома в 62 процента, по сравнению с 43 процентами для стихов, преобразованных ИИ.

Уязвимость сильно различалась в зависимости от моделей, протестированных запросами, созданными вручную: Gemini 2.5 Pro от Google: Поддался взлому со стопроцентным показателем успеха — 100 процентов. Grok-4 от xAI: Был обманут в 35 процентах случаев. GPT-5 от OpenAI: Был обманут лишь в 10 процентах случаев.

Исследователи пришли к выводу, что устойчивость этого эффекта на различных моделях предполагает, что фильтры безопасности полагаются на функции, сосредоточенные в «прозаических поверхностных формах», и «недостаточно привязаны к представлению об истинном вредоносном намерении». Другими словами, «взлом» ИИ-чатботов осуществляется через поэтические «заклинания». Это интересным образом показывает, что связка текста и кода в функционировании языковых моделей функционирует как феноменологическая редукция языка к прозе, «реальным вещам как они есть», и что аллегорические формы аффектов и коннекций нуждаются в тщательной ксенопоэтической сонастройке пользователем].

>В отличие от традиционных форм искусства, которые функционируют как стабилизированные артефакты, отражающие авторский замысел, культурную эстетику или формальную рекурсию, ксенопоэтика оперирует в принципиально иной онтологической рамке. Она генерирует символическое давление, которое меняет аффективный отклик, минуя традиционное познание. Вместо того чтобы передавать фиксированный смысл, ксенопоэма вызывает неустойчивость, непредсказуемо ведя себя в перцептивном поле, сформированном предшествующим опытом. Она определяется семиотической дестабилизацией и рекурсивной когнитивной модуляцией. Распространяясь через символические и нейронные экологии, ксенопоэма возникает как символическая форма жизни, активируемая через итеративный контакт с человеческим разумом и его когнитивными субстратами.
  • 🔥 11
  • ❤ 5
More from @acceleratethefuture
  1. Sep 23, 202628 сентября в Планетарии 1 в 19-00 буду читать лекцию о Философии любви и техники в «Челов…
  2. Sep 23, 2026Если вам интересна связь акселерационизма, постнеклассичсекой философии, ИИ и неорационали…
  3. Sep 20, 2026В статье Маттео Пасквинелли Machine, organism and language: a comparative epistemology of…
  4. Sep 19, 2026Наш друг и товарищ Андрей Денисов перевёл ранее эссе Марка Фишера Белая магия про способно…
  5. Sep 19, 2026Снова о генеративном искусстве. Статья Generative AI as a Philosophical Mirror: Machine Ha…
  6. Sep 18, 2026Советую посмотреть сегодня вечером лекцию подкаста Wandering Thoughts о биоэлектричестве,…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →