🇨🇳 Как Китай выстраивает инфраструктуру доверия для 🤖 ИИ-агентов?

29 сентября в Пекине запустили платформу доверенной инфраструктуры для ИИ-агентов 🤖 ATI. Система обеспечивает управление регистрацией, подтверждение соответствия нормативным требованиям, ведение прозрачных журналов и доверенное сетевое обнаружение. Одновременно открыли Пекинскую ключевую лабораторию технологий идентификации и обеспечения безопасности агентов, которая займётся вопросами ✅цифровой идентичности, аутентификации и защиты ИИ-агентов.

Техническую основу Китайский сетевой информационный центр (CNNIC) описывает вполне предметно. Система ATI использует DNS для привязки цифровой идентичности и сетевого обнаружения агентов, а инфраструктуру открытых ключей (PKI) с двойными CA-сертификатами применяет для подтверждения законности их идентичности. Согласно регламенту, агенты обнаруживают целевые узлы через DNS, проходят двустороннюю аутентификацию и создают защищённый канал связи. Прозрачные журналы гарантируют неизменяемость регистрационных данных. Компания Alibaba Cloud уже завершила подключение к платформе в качестве первого партнёра.

Министерство промышленности и информатизации КНР опубликовало для общественного обсуждения проект 19-й партии плана по разработке и пересмотру рекомендуемых национальных стандартов на 2026 год, который включает в себя 29 позиций. Важно подчеркнуть, что это пока только предложения о подготовке будущих нормативных документов, а не утверждённые обязательные требования.

В опубликованном проекте плана заложены три части стандарта для промышленных больших ИИ-моделей, обогащённых знаниями: общие требования, показатели оценки и методы испытаний. На подготовку каждого документа отводится 18 месяцев, а в число ключевых разработчиков первых двух частей вошли Huawei и Lenovo. Таким образом, отрасль готовится стандартизировать не только возможности прикладного ИИ, но и конкретную методологию его аудита.

Отдельный проект регламентирует человеко-машинное взаимодействие промышленных ИИ-агентов, и на его подготовку выделено 16 месяцев. В состав рабочей группы вошли Университет Цинхуа и Национальный центр исследований развития промышленной информационной безопасности, который одновременно выступает соорганизатором запуска платформы доверенной инфраструктуры ATI.

Практическую сторону перехода от анализа к действиям как раз показывает свежий кейс компании ⭕️ 360. По описанию вендора, её программные агенты выявили подозрительные запросы в журналах средств защиты, декодировали скрытую полезную нагрузку, определили уязвимость удалённого выполнения кода (RCE) и воспроизвели атаку в изолированной среде. Первая попытка не привела к ожидаемому результату, после чего система автономно скорректировала параметры эксплойта и добилась запуска калькулятора на тестовом узле.

В данном кейсе принципиально то, что ИИ отталкивался от признаков уже зафиксированной атаки, а не выявлял уязвимость нулевого дня (0-day) с нуля. Итоговый отчёт передаётся на валидацию специалистам, которые принимают решение об отправке отчёта об уязвимости и о мерах реагирования.

ИИ-агентов начинают рассматривать не только как помощников, генерирующих ответы, но и как участников рабочих процессов, которым нужны проверяемая идентичность, оценка результатов и контроль действий. Принципиально то, что подлинность самого агента не гарантирует безопасность каждой выполняемой им команды. Практический вопрос уже сформулирован так, что недостаточно установить факт подключения конкретного агента к корпоративной системе, поскольку важно определить границы его прав и круг лиц, проверяющих результат.

✋ @Russian_OSINT