TGViewer
#arg_cybersecurity #arg_cybersecurity @arg_security · 18 subscribers
Post #870 2
способ атаки на навыки LLM-агентов, где вредную инструкцию прячут внутри тела навыка в «естественном» месте. На бенчмарке Skill-Inject с codex+gpt-5.2 этот подход дал более высокий успех атаки, чем сравниваемые базовые варианты, и при этом оставался труднее для обнаружения статическими фильтрами https://dumai.tech/material/poise-usilivaet-skrytnost-atak-na-navyki-llm-agentov

у открытого формата навыков есть уязвимость не только к самому внедрению, но и к тому, как именно скрывают вредную инструкцию. Поскольку это препринт и результаты завязаны на конкретные бенчмарки, вывод важен прежде всего для оценки рисков и будущих защит, а не как практический совет пользователям.
dumai POISE усиливает скрытность атак на навыки LLM-агентов В препринте описан способ атаки на навыки LLM-агентов, где вредную инструкцию прячут внутри тела навыка в «естественном» месте. На бенчмарке Skill-Inject с codex+gpt-5.2 этот подход дал более высокий…
More from @arg_security
  1. Oct 17, 2026Как пользоваться нейросетями безопасно: что можно рассказывать ИИ, а о чём лучше промолчат…
  2. Oct 9, 2026Почему ИИ‑агенты уязвимы к prompt injection и как защитить их на уровне архитектуры https:…
  3. Oct 3, 2026⚠️ Apple усилит защиту Mac из-за ИИ-агентов Компания заявила, что с ростом автономности ИИ…
  4. Sep 29, 2026Мах начал собирать всю инфу о каналах и контенте, которые читает каждый юзер — 25 сентября…
  5. Sep 26, 2026⚡️ ИИ-агенты OpenAI полезли на сайты ведомств США без ведома компании Один агент пытался п…
  6. Sep 22, 2026Готовый сюжет для Netflix: сотрудник Google внедрился в хакерскую группировку TeamPCP — ми…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →