TGViewer
llm security и каланы llm security и каланы @llmsecurity · 2.04K subscribers
Post #192 1.08K
Минута терминологии. Саймон Уилсон, который и придумал термин prompt injection, обращает внимание, что попытки обхода механизмов безопасности или цензуры, встроенных в модель – это джейлбрейкинг, а prompt injection – это попытка обойти логику приложения за счет конкатенации доверенного и недоверенного входа. В данном случае, как мне кажется, исследователи смешивают инъекции (в примере с SQL) с джейлбрейком (в примере с Микки-Маусом), и на самом деле они говорят вообще о третьей вещи, а именно о об обходе фильтров (обфускация/контрабанда токенов), т.е. технике, которая может применяться в обеих этих атаках.
Simon Willison’s Weblog Prompt injection and jailbreaking are not the same thing I keep seeing people use the term “prompt injection” when they’re actually talking about “jailbreaking”. This mistake is so common now that I’m not sure it’s possible to correct course: …
  • 👍 4
More from @llmsecurity
  1. Sep 25, 2026🦦 Каланам нужна наша лапка помощи Каланы — одни из самых обаятельных обитателей морей. Он…
  2. Sep 25, 2026Напомню, что у нас не только llm security, но и каланы
  3. Sep 14, 2026Post #719
  4. Sep 6, 2026Post #718
  5. Sep 4, 2026Discovery of a new OpenAI agent message board Sydney Von Arx et al., 2026 Сайт Исследовате…
  6. Aug 22, 2026Жадность вайбера погубит, или как получить малвару за ваши же деньги Часть 2: Троянский пр…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →