Перед праздниками команда HiveTrace поучаствовала в конференции нашего партнера Cloud.ru AI DevTools Conf. Юрий Лебединский, разработчик HiveTrace Red, провел воркшоп по теме «Современные методы тестирования безопасности ИИ». Юрий рассказал про инструменты тестирования приложений на базе LLM для разработчиков и продуктовых команд, обсудили актуальные фреймворки и подходы к AI security-тестированию, а также почему такие системы требуют специализированных средств тестирования🛡

В качестве практического примера провели демо HiveTrace Red – фреймворка для автоматизированного red teaming LLM‑приложений. На демо тестировали ⚔️ модель Qwen3‑Next‑80B‑A3B‑Instruct, и часть атак показала success rate до 100%.

Также на конференции выступил Евгений Кокуйкин с темой “Уязвимости агентных систем и методы защиты”. В своем выступлении Евгений описал различные векторы атак на агентные системы, включая попытки отравления памяти агента через инъекции в базу знаний и социальную инженерию, а также рассказал про новый гайд OWASP Top 10 Agentic.

📺 Полная запись его выступления здесь.