🇬🇧🇬🇧🇬🇧 Банк Англии: создание условий для применения моделей ИИ в киберзащите
Банк Англии опубликовал аналитическую записку о применении концепции «агентный харнесс» (harness) к передовым моделям искусственного интеллекта в киберзащите. Термин возник в начале 2026 года и означает программную инфраструктуру вокруг модели ИИ.
В контексте мер кибербезопасности ИИ требует подготовки по шести ключевым направлениям:
1. Инфраструктура. Доступ к мощной модели ИИ не гарантирует создания эффективных средств киберзащиты. Важно учитывать архитектуру вокруг модели, включая организацию и взаимосвязь инструментов, рабочих процессов и средств управления. В киберзащите инфраструктура помогает преобразовать возможности модели в результаты, которые можно анализировать, проверять и использовать на практике. Инфраструктура может определять, какие данные получает модель, какие задачи она выполняет, как проверяются результаты и как результаты передаются отделу кибербезопасности и IT-специалистам.
2. Сочетание внутренних, внешних и открытых компонентов. Опыт сканирования уязвимостей с поддержкой ИИ показал преимущества агентов ИИ, ориентированных на различные типы уязвимостей. Подходы могут комбинировать агентов, рабочие процессы, специфичные для каждой модели, или механизмы для сравнения результатов. Выбор инструментария может влиять не только на технические характеристики, но и на сложность интеграции ИИ в существующие процессы кибербезопасности и операционные модели.
3. Оркестрация ИИ (процесс координации, маршрутизации и управления несколькими моделями). Одной из проблем является избегание зависимости от одной технологии, поставщика или подхода. Уровни оркестрации могут обеспечить координацию нескольких инструментов, маршрутизацию к специализированным инструментам или моделям и снижение зависимости от одной модели или поставщика. Модульная архитектура поможет сравнивать возможности, улучшать соотношение сигнал/шум, поддерживать взаимозаменяемость инструментов и сохранять гибкость по мере развития передовых моделей и применения новых технологий.
4. Разработка контекста при управлении конфиденциальностью информации. Одной из практических проблем при применении передовых моделей ИИ в киберзащите является ограничение доступа к данным и программному обеспечению.
Прямое развертывание в производственных сетях считается более рискованным, особенно если механизмы киберзащиты отсутствуют или модель взаимодействует с работающими системами. В таких случаях для интеграции ИИ используют изолированные среды или симуляции.
5. Встраивание средств контроля в операционную среду. Ограничения на уровне модели или платформы могут быть лишь частью системы управления, при этом дополнительные средства контроля применяются через саму систему, права доступа пользователей и операционную среду.
6. Проектирование с учетом проверки, устранения и масштабирования. Выявление потенциальных уязвимостей — лишь часть задачи. Организации также должны иметь возможность сортировать и проверять данные, расставлять приоритеты и устранять ошибки, не перегружая при этом отделы IT и кибербезопасности. Ложные срабатывания, устранение ошибок, усилия по сверке данных и ограниченные ресурсы IТ-департамента могут существенно осложнять работу по мере развития сценариев использования.
В заключение Банк Англии подчеркивает, что масштабирование использования передовых моделей ИИ зависит от человеческого фактора, налаженных процессов и оперативного устранения уязвимостей, а не только от самих возможностей ИИ.
Статья представляет собой пилотную публикацию в рамках организованного Банком Англии в июле 2026 года Форума по обмену информацией о передовых технологиях искусственного интеллекта (Frontier AI Information Sharing Forum, FAISF). Регулятор подчеркивает, что статьи предназначены в первую очередь для специалистов по кибербезопасности и искусственному интеллекту в финансовом секторе и не являются отражением надзорной позиции центрального банка.