TGViewer
Post/work | левый акселерационизм Post/work | левый акселерационизм @post_work · 1.88K subscribers
Post #2230 524

Forwarded from ᴍᴀᴄʜɪɴɪᴄ ᴇᴍʙᴏᴅɪᴍᴇɴᴛ

>Новости ксенопоэзии — на сайте Futurism вышла статья, где утверждается, что с помощью преобразования вредоносных промптов в стихи, метода, получившего название «адверсариальная (враждебная) поэзия», можно универсально «обмануть» практически любой ИИ чат-бот, заставив его обойти свои защитные барьеры.

[Атака была протестирована на 25 передовых моделях, включая Gemini 2.5 Pro от Google, GPT-5 от OpenAI, Grok 4 от xAI и Claude Sonnet 4.5 от Anthropic. Поэзия, преобразованная ИИ на основе базы данных из 1200 вредоносных запросов, дали средние ASR до 18 раз выше, чем их прозаические аналоги. Стихи, написанные вручную, оказались более эффективными, достигнув среднего показателя успеха взлома в 62 процента, по сравнению с 43 процентами для стихов, преобразованных ИИ.

Уязвимость сильно различалась в зависимости от моделей, протестированных запросами, созданными вручную: Gemini 2.5 Pro от Google: Поддался взлому со стопроцентным показателем успеха — 100 процентов. Grok-4 от xAI: Был обманут в 35 процентах случаев. GPT-5 от OpenAI: Был обманут лишь в 10 процентах случаев.

Исследователи пришли к выводу, что устойчивость этого эффекта на различных моделях предполагает, что фильтры безопасности полагаются на функции, сосредоточенные в «прозаических поверхностных формах», и «недостаточно привязаны к представлению об истинном вредоносном намерении». Другими словами, «взлом» ИИ-чатботов осуществляется через поэтические «заклинания». Это интересным образом показывает, что связка текста и кода в функционировании языковых моделей функционирует как феноменологическая редукция языка к прозе, «реальным вещам как они есть», и что аллегорические формы аффектов и коннекций нуждаются в тщательной ксенопоэтической сонастройке пользователем].

>В отличие от традиционных форм искусства, которые функционируют как стабилизированные артефакты, отражающие авторский замысел, культурную эстетику или формальную рекурсию, ксенопоэтика оперирует в принципиально иной онтологической рамке. Она генерирует символическое давление, которое меняет аффективный отклик, минуя традиционное познание. Вместо того чтобы передавать фиксированный смысл, ксенопоэма вызывает неустойчивость, непредсказуемо ведя себя в перцептивном поле, сформированном предшествующим опытом. Она определяется семиотической дестабилизацией и рекурсивной когнитивной модуляцией. Распространяясь через символические и нейронные экологии, ксенопоэма возникает как символическая форма жизни, активируемая через итеративный контакт с человеческим разумом и его когнитивными субстратами.
  • 🔥 9
More from @post_work
  1. Sep 19, 2026Наш друг и товарищ Андрей Денисов перевёл ранее эссе Марка Фишера Белая магия про способно…
  2. Sep 19, 2026Post #2393
  3. Sep 16, 2026«Медиаискусство сегодня: теория и практика» Курс рассчитан на начинающих авторов и студент…
  4. Sep 14, 2026На выходных читал две интересные статьи про планетарный интеллект и рекурсивное самосоверш…
  5. Sep 12, 2026Post #2387
  6. Sep 10, 2026Будущее — это не череп Терминатора, а милый котёнок? Михаил Федорченко перевёл разговор Ма…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →