В июле Борис Черный бросил яркую фразу: “The model (Opus 5) does not seem to be prompt injectable anymore”.

Мы все здесь обеспокоены prompt injection и, конечно, не смогли пройти мимо. Никита Беляевский подробнее написал в статье на Хабре, как Anthropic тестировали Opus 5, а также разобрал недавнюю атаку Йоханна Рехбергера на обход классификатора Claude Auto Mode.

Защита от prompt injection в последних моделях стала значительно лучше, чем год назад. Но безопасность агентов гораздо шире, чем устойчивость модели к отдельно взятой атаке.

Статья: https://habr.com/ru/companies/raft/articles/1087448/