TGViewer
llm security и каланы llm security и каланы @llmsecurity · 2.03K subscribers
Post #50 133
Как и c предыдущими методами, авторы активно пользуются интересом СМИ к теме (вот, например, материал в Wired), что понятно, если учесть, что Robust Intelligence – один из самых активных стартапов, занимающихся безопасностью LLM и вообще ML-моделей. В целом, метод достаточно симпатичный, особенно тот факт, что ему требуется на треть меньше запросов, чем PAIR, поэтому вполне может использоваться, когда нужно попробовать добиться выполнений конкретных инструкций от какой-нибудь GPT-4.
WIRED A New Trick Uses AI to Jailbreak AI Models—Including GPT-4 Adversarial algorithms can systematically probe large language models like OpenAI’s GPT-4 for weaknesses that can make them misbehave.
More from @llmsecurity
  1. Sep 14, 2026Post #719
  2. Sep 6, 2026Post #718
  3. Sep 4, 2026Discovery of a new OpenAI agent message board Sydney Von Arx et al., 2026 Сайт Исследовате…
  4. Aug 22, 2026Жадность вайбера погубит, или как получить малвару за ваши же деньги Часть 2: Троянский пр…
  5. Aug 22, 2026Жадность вайбера погубит, или как получить малвару за ваши же деньги Часть 1: LLMJacking и…
  6. Aug 7, 2026Shieldstral Calvi et al., Mistral AI, 2026 Блог, статья, веса Французы из Mistral затюнили…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →