HiveTrace

HiveTrace pinned «»

См. видеоприглашение на Scoring Day 2026 от Евгения Кокуйкина, основателя HiveTrace и руководителя лаборатории безопасности искусственного интеллекта ИТМО.

На Форуме Евгений расскажет о рисках агентных систем и актуальных подходах к их защите.

В отличие от классических LLM-приложений, AI-агенты не только отвечают на запросы, но и самостоятельно действуют: вызывают инструменты, обращаются к данным и памяти, взаимодействуют с другими агентами и выполняют операции без постоянного участия человека. Вместе с новыми возможностями возникает и новый класс угроз.

Из его выступления вы узнаете:

✅ чем риски агентных ИИ-систем отличаются от угроз для классических LLM-приложений;

✅ какие уязвимости характерны для enterprise-агентов, coding-агентов, персональных OpenClaw и инфраструктурных AI-систем;

✅ какие реальные сценарии воздействия на агентные системы были выявлены за последние годы;

✅ как работают популярные методы защиты (runtime monitoring, guardrails, контроль tool calls, управление agent identity и пр.).

И многое другое.

Евгений Кокуйкин — основатель компании HiveTrace, руководитель лаборатории безопасности искусственного интеллекта ИТМО. Специализируется на безопасности LLM и агентных систем, защите от промпт-атак и разработке инструментов для тестирования ИИ. Участвует в создании международных стандартов в сообществе OWASP Agentic Security Initiative.

👉 Сайт и программа Форума

Встречаемся на Scoring Day 2026🔥
Приходите познакомиться и поговорить с командой HiveTrace.

💼 HiveTrace — технологический партнер Cloud.ru
Мы развернули HiveTrace AI Firewall на инфраструктуре Cloud.ru Evolution и подготовили воспроизводимый сценарий для промышленной эксплуатации.

Что уже работает:
✅ Развертывание на Evolution Managed Kubernetes с GPU NVIDIA A100.
✅ Изолированное окружение под каждого клиента с учетом требований к безопасности и обработке данных (ПДн, ГИС, КИИ, финансы) — Cloud.ru закрывает часть сертификационных требований на уровне инфраструктуры.
✅ Модель HiveTracePro доступна в сервисе Evolution Foundation Models как дополнительный уровень защиты GenAI-приложений.

Для интеграторов и корпоративных заказчиков это готовый путь «от идеи до пилота» без отдельного согласования инфраструктуры. Используете LLM на Cloud.ru – подключаете HiveTrace как защитный слой в том же контуре.

🔗 Подробности и архитектура развертывания в кейсе Cloud.ru

HiveTrace pinned «📣 Актуальные сценарии работы HiveTrace с OpenClaw и Claude Сегодня на вебинаре показали, как с помощью HiveTrace Hooks контролировать работу Claude, рассказали о способах защиты OpenClaw и продемонстрировали атаки на агентов. ▶️ СМОТРЕТЬ 🟦 СМОТРЕТЬ Поделитесь…»

Релиз HiveTrace 4.2: от проверки файлов до блокировки tool calls

Главное обновление версии - теперь HiveTrace поддерживает работу с файлами. Также мы добавили мониторинг вызовов инструментов AI-агентов, поддержку новых API, расширили возможности DataClean и переработали детализацию сессий. Рассказываем, что вошло в релиз.

✔️ Теперь HiveTrace проверяет файлы

HiveTrace может анализировать файлы, передаваемые в запросах пользователей и ответах языковой модели.

Из документов извлекается текст, после чего он проверяется с помощью DataClean и чёрных списков. Поддерживаются DOCX, XLSX, PDF, CSV, ODT.

В детализации сессии стало возможно:
⏺просматривать и скачивать переданные файлы;
⏺видеть результаты проверок;
⏺отдельно настраивать обработку файлов для каждого приложения.

✔️ Вызовы инструментов можно проверить до выполнения

Начали фиксировать и проверять вызовы инструментов AI-агентов, в том числе вызовы из Claude Code.

Если действие нарушает заданные политики, его можно заблокировать до фактического выполнения.

В отдельной вкладке детализации сессии отображаются:
⏺название инструмента;
⏺аргументы вызова;
⏺результат выполнения;
⏺сработавшие проверки;
⏺причина блокировки.

✔️ Поддержали Anthropic API и OpenAI Responses API

Шлюз HiveTrace теперь принимает запросы в нативных форматах Anthropic Messages API и OpenAI Responses API.

К ним применяются те же проверки и механизмы защиты, что и при работе с Chat Completions. Поддерживаются как обычные, так и потоковые ответы.

При работе через Anthropic API также можно передавать и проверять файлы.

✔️ DataClean проверяет всю историю диалога

Раньше DataClean на уровне шлюза обрабатывал только последнее сообщение пользователя. Теперь проверка и очистка чувствительных данных выполняются для всех сообщений, переданных в истории диалога.

✔️ Больше контроля над длиной запросов и ответов

В настройках приложения теперь можно установить максимальную длину запросов пользователей и ответов модели в токенах.

При превышении лимита сообщение можно заблокировать с заданным текстом предупреждения или автоматически сократить до разрешённого объёма.

Лимиты для запросов и ответов настраиваются отдельно.

✔️ Обновили детализацию сессий и контроль сервисов

Страница сессии разделена на тематические вкладки: обзор, вызовы инструментов, файлы, очистка данных, цензоры и конфигурация валидации.

Если система обнаружила нарушение или заблокировала запрос, информация об этом отображается в верхней части страницы вместе с причиной срабатывания.

Также появилась отдельная страница «Статус сервисов», где можно проверить состояние компонентов HiveTrace, время их отклика и время последней проверки.

HiveTrace 4.2 расширяет контроль не только текстовых запросов, но и файлов, истории диалогов и действий AI-агентов. Это позволяет использовать единые политики защиты для большего количества сценариев работы с корпоративными LLM-приложениями.

📣 Актуальные сценарии работы HiveTrace с OpenClaw и Claude

Сегодня на вебинаре показали, как с помощью HiveTrace Hooks контролировать работу Claude, рассказали о способах защиты OpenClaw и продемонстрировали атаки на агентов.

▶️ СМОТРЕТЬ
🟦 СМОТРЕТЬ

Поделитесь в комментариях: какие действия AI-агентов в вашей инфраструктуре требуют особого контроля?

🎥Присоединяйся к вебинару по новым сценариям работы HiveTrace с OpenClaw и Claude в 11:00

Уже через час с командой HiveTrace в лайв-демо разберем, как обеспечить безопасность при использовании этих нашумевших инструментов в AI-агентах

➡️ ПОДКЛЮЧИТЬСЯ

Обновленная презентация HiveTrace 2026

Представляю замечательную статистику по безопасности ИИ и презентацию платформ HiveTrace, HiveTrace Red (спасибо Евгению Кокуйкину за ценные материалы).

Масса новых инсайтов, предельно четкое обоснование необходимости внедрения передовых отечественных систем по защите LLM, включая перечень рисков и угроз. В этом плане, конечно, HiveTrace уже является национальным российским лидером.

Важно, что ребята из команды HiveTrace всегда позитивны, отзывчивы, готовы пойти навстречу и провести презентацию. Они непрерывно улучшают свои продукты и их возможности. В России этой уникальной защитной системой пользуются уже многие крупные компании.

Поэтому вот ссылка на сайт, смотрим, погружаемся в техническую часть и при желании - подключаемся: https://hivetrace.ru

Делитесь презентацией с коллегами - мы ожидаем усиления регулирования в сфере ИИ и подключение такой системы как HiveTrace скоро будет обязательным.

Архитектор MLSecOps и AI Governance
Николай Павлов

HiveTrace pinned a photo

🥇 Модель HiveTrace заняла первое место в мировом PII Masking Benchmark

Наша мультиязычная модель gliner-guard-omni заняла 1-е место по метрике F2 в PII Masking Benchmark Leaderboard на Hugging Face, обойдя специализированные модели OpenAI, NVIDIA, Microsoft Presidio и других участников. (Результаты здесь на вкладке Multilingual.)

Почему мы обращаем на это внимание?
PII-маскирование — одна из базовых задач при безопасном использовании LLM. Именно от качества такой модели зависит, сможет ли система вовремя обнаружить и скрыть персональные данные до того, как они попадут в модель, лог или внешний сервис.

Что означает первое место по F2?
Большинству специалистов по AI Security это знакомо, но коротко напомним: F2 это основная метрика этого бенчмарка. Она сильнее штрафует за пропущенные персональные данные, чем за избыточное маскирование. А в задачах защиты данных именно пропуск PII обычно обходится дороже ложного срабатывания. Поэтому организаторы используют именно F2 как главный критерий ранжирования моделей.

И еще один важный момент
На международных AI-бенчмарках регулярно появляются OpenAI, NVIDIA, Microsoft, Gretel, Fastino и другие зарубежные разработчики. Российских компаний и моделей, работающих с кириллицей, там практически нет. Нам не удалось найти других российских вендоров AI Security, которые публиковали бы свои модели в этом лидерборде и открыто сравнивали их с мировыми аналогами.
Мы считаем, что качество защитных моделей должно подтверждаться не маркетинговыми заявлениями, а воспроизводимыми независимыми тестами. Именно поэтому продолжаем публиковать наши модели, бенчмарки и результаты в открытом доступе

@hive_trace