AIRQ Framework – очень классное исследование и подход оценки безопасности использования ИИ-агентов в корпоративной среде: в рамках работы изучили сотню агентов, которые предварительно разбили на десять классов (по специфике работы), на предмет выявления рисков, связанных с предоставлением доступа к данным и выполнению критичных операций.
В итоге все агенты разнесли на четыре профиля риска, основываясь на определенной поверхности атаки, эффективности защитных мер и размере возможного ущерба (в случае компрометации агента):
🟠Exposed Giants – широкие возможности, но слабая защита.
🟠Fortified Leaders – мощные возможности с пропорциональными мерами защиты.
🟠Humble Providers – ограниченные права доступа и слабая защита.
🟠Tight Operators – узкая специализация и сильная защита.

На сайте сделали удобную визуализацию результатов сравнения, а для каждого (из сотни!) агентов есть подробное описание профиля риска, советы по харденингу и ссылки на документацию/связанные исследования/уязвимости.
Помимо точечных выводов по каждому агенту, есть аналитика по каждому классу агентов и рекомендации по выбору решений и организационным мерам защиты.

#ai #framework #airq #risk #controls #research #vulnerability #agent #hardening