Новый #ПроектНедели, разработанный в рамках совместной лаборатории AI Talent Hub х Raft — AI Security Lab 🪙

Hivertrace — это платформа для непрерывного мониторинга безопасности AI-систем.

▶️ Выявляет аномалии и ошибки в пользовательских взаимодействиях с LLM;
 
▶️ Выявляет атаки, нацеленные на изменение поведения модели, кражу чувствительной информации и системных инструкций;

▶️ Осуществляет очистку сообщений от персональных данных — и не только!

Подробнее о функционале и фичах проекта читай в карточках.

Попробовать HiveTrace:
➡️ Лендинг
➡️ Демо

✈️ Cледить за обновлениями: @aisecuritylab

🎤 Богдан Минко, ML Engineer HiveTrace 🔽

#ПроектНедели
#AITalentHub #ITMO #NapoleonIT