🇨🇳Китай утвердил правила безопасности для ИИ-агентов

Секретариат Национального технического комитета по стандартизации в области кибербезопасности Китая (TC260) выпустил практическое руководство по безопасному развертыванию ИИ-агентов. Этот документ регулирует полный жизненный цикл умных ассистентов на базе ИИ-моделей.

Ключевые требования, распределенные по пяти основным этапам:

🔍 1. Оценка и выбор решения
▪️Нельзя выбирать проекты ИИ-агентов без обновлений дольше одного месяца, если в них остаются неисправленные проблемы с безопасностью.
▪️Запрещено внедрять программное обеспечение с неисправленными критическими уязвимостями или без базовых функций логирования.
▪️Организациям рекомендуют выбирать готовые коммерческие решения со встроенной защитой от вендора. ▪️К использованию открытых проектов без ИБ-инструментов контроля безопасности следует относиться с осторожностью.

🛠 2. Подготовка ИТ-среды
▪️Установочные файлы разрешено скачивать только из официальных источников, также их рекомендуется проверять по цифровой подписи или хэш-сумме.
▪️При локальной установке ИИ-агента требуется выделенное устройство. В виртуальных средах настраивается полная изоляция от хост-системы.
▪️Интегрируемые ИИ-модели должны пройти официальную государственную регистрацию. Любые внешние запросы допускаются исключительно через официальные API.

🚀 3. Развертывание системы
▪️Запрещен запуск ИИ-агентов с правами администратора операционной системы. Системе выделяют минимальные привилегии и отдельный рабочий каталог.
▪️По умолчанию все сетевые службы настраиваются локально для защиты от удаленного несанкционированного доступа.
▪️До начала работы формируется список критических операций. Форматирование дисков, изменение правил брандмауэра или финансовые транзакции выполняются только после ручного подтверждения пользователем или автоматически блокируются.

🖥 4. Использование и мониторинг
▪️Пользователь должен постоянно видеть статус работы ИИ-агента и иметь возможность экстренной остановки системы.
▪️Рекомендуется регулярно проверять файлы долговременной памяти ИИ-агента. Из них вручную удаляют случайно сохраненные конфиденциальные или персональные данные.
▪️Для защиты аккаунтов от компрометации рекомендуется внедрить многофакторную аутентификацию (MFA).

🛑 5. Вывод из эксплуатации
▪️Перед удалением ИИ-агента полностью останавливают все фоновые процессы и связанные службы.
▪️Вся сопутствующая информация, включая базы знаний, логи и долговременную память, удаляется из облака или локального хранилища.
▪️Администраторы обязаны отозвать все API-ключи, сервисные токены и доступы к сторонним приложениям.

📊 Корпоративный контроль и борьба с Shadow AI: Для компаний документ рекомендует вести строгий реестр всех ИИ-активов. Для борьбы с несанкционированным использованием ИИ (Shadow AI) ИТ-службам рекомендуется сканировать порты и анализировать сетевой трафик, чтобы вовремя выявлять скрытые обращения сотрудников к внешним ИИ-моделям.

Почитать можно 📄 тут.

✋ @Russian_OSINT