Группа бывших руководителей британских спецслужб, включая сэра Джереми Флеминга, экс-главу Правительственного центра связи Великобритании (GCHQ), запустила компанию, цель которой — защитить корпоративные секреты от непреднамеренного раскрытия системами искусственного интеллекта.
Платформа AI Score предоставляет программное обеспечение, которое можно установить в корпоративных сетях. Система отслеживает взаимодействие сотрудников с ИИ-инструментами, сканирует вводимую информацию на наличие конфиденциальных данных и определяет, какие платформы используются.
На момент запуска компания уже сотрудничает с крупной юридической фирмой, потребительским брендом и финтех-компанией. Проект поддержан инвестициями от компании Gallos — фирмы, основанной бывшими сотрудниками разведки и консультируемой сэром Джереми Флемингом.
Gallos была создана в 2021 году Джошем Берчем, бывшим высокопоставленным сотрудником британских спецслужб, и ветераном вооружённых сил Дином Джонсом.
Компания AI Score будет возглавляться Алексом Харландом, одним из основателей Национального центра кибербезопасности GCHQ.
В
совет консультантов AI Score
вошли:
- сэр Джереми Флеминг, экс-директор GCHQ;
- Джош Берч, сооснователь Gallos;
- Гэвен Смит, бывший технический директор GCHQ;
- Том Хёрд, экс-советник по внутренней безопасности Великобритании.
По данным Gallos, 80% корпоративных директоров по безопасности не могут эффективно отслеживать, как и где в их организациях используется искусственный интеллект.
Технология и предупреждения
Система AI Score предназначена для обнаружения потенциальных утечек, отслеживая вводимые сотрудниками фразы в чат-ботах. Программа выявляет «триггерные слова» и выражения, которые могут указывать на то, что пользователь делится конфиденциальной информацией.
Канцелярия Кабинета министров Великобритании также рекомендовала госслужащим никогда не вводить секретные или чувствительные сведения в ИИ-системы.
#Великобритания
😎 Лаборатория
