Claude Code получил открытое решение против одной из главных угроз агентного AI - prompt injection.
Проект называется claude-hooks от Lasso Security.
Он добавляет защитный слой между Claude и внешним миром.
Что он делает:
Каждый раз, когда Claude:
- читает файл
- открывает веб-страницу
- запускает команду
- получает данные извне
специальный hook проверяет содержимое до того, как модель его обработает.
Он ищет более 50+ паттернов атак:
- скрытые инструкции в README
- вредоносные HTML-комментарии
- base64-инъекции
- попытки переписать системный контекст
- команды вида “ignore previous instructions”
Почему это важно:
Современные AI-агенты работают с:
- файловой системой
- репозиториями
- интернетом
- терминалом
Если внешний контент содержит скрытые инструкции,
AI может выполнить их как часть задачи.
Это уже новый класс уязвимостей:
данные = управление моделью
https://github.com/lasso-security/claude-hooks
Post #1745
2.69K

- 🔥 10
- ❤ 7
- 🥰 3