Ваш Telegram-бот на базе LLM уязвим. Я написал сканер, чтобы доказать это на популярном Open Source проекте

В статье разбирают, насколько легко ломаются Telegram-боты на базе LLM, если разработчик не продумал системный промпт. Автор написал open source-сканер BarkingDog и прогнал через него популярного AI-бота, после чего тот спокойно начал генерировать кейлоггеры, повторять SQL-инъекции и обходить фильтры через Base64. Самое интересное, что для фикса не пришлось менять модель или код - хватило нескольких жёстких security-директив в system prompt.

Серверная Админа | Zeroday | #Статья