🏗 Экс‑сотрудники Anthropic и METR предлагают проверять «бунтующих» AI‑агентов для банков и больниц

📰 Опубликовано: 15 сен 2026, 13:00 UTC

Rune Kvist и Rajiv Dattani основали стартап AIUC и разработали стандарт AIUC‑1 — слой независимого аудита и сертификации для AI‑агентов. Компания прогоняет агентов через набор примерно 5 000 тестов, чтобы проверить поведение в сценариях с «взломом» и нежелательными действиями. AIUC привлекла $40 млн в раунде Series A от Ribbit Capital, всего у компании $55 млн инвестиций.

Крупные покупатели ИИ отказываются от внедрения не потому что модели недостаточно умны, а потому что никто не может гарантировать, что агент не выйдет за рамки обещанного. Независимая проверка может дать организациям уверенность…

Если стандарты вроде AIUC‑1 получат признание у банков, регуляторов и поставщиков, сертификация может стать обязательной частью подготовки AI‑агентов к внедрению.…

🔗 Источник: TechCrunch

🔔 ПОДПИСАТЬСЯ