🇺🇸 США: формируется единая система контроля безопасности перспективных моделей ИИ
Администрация США и руководители Google, Anthropic, Meta, OpenAI, xAI и Nvidia подписали «Соглашение Белого дома о сверхинтеллекте», устанавливающее общий подход к контролю безопасности наиболее совершенных моделей искусственного интеллекта.
🔻 Механизм построен по принципу многоступенчатой проверки. Сначала разработчик самостоятельно оценивает модель в ходе обучения и после её развёртывания. Затем результаты перепроверяет отдельная внутренняя группа безопасности. Третий этап – оценка независимой внешней организацией. Наконец, специальный комитет совета директоров контролирует выявленные проблемы и их устранение.
Основное внимание уделяется рискам применения ИИ для кибератак, создания биологических и химических угроз, а также предотвращению несанкционированного доступа моделей к информационным системам.
Компании также договорились совместно вырабатывать единые требования и методы обеспечения безопасности. При этом соглашение пока добровольное: государственный надзорный орган, обязательные сроки выполнения требований и санкции за их нарушение не предусмотрены.
➡️ Наиболее существенно то, что соглашение может стать основой последующего федерального регулирования. Сам документ допускает закрепление этих принципов в законодательстве и нормативных требованиях. Параллельно отдельные штаты уже вводят собственные обязательные механизмы контроля ИИ.
Таким образом, в США постепенно складывается система, при которой разработчики сначала внедряют единые правила контроля добровольно, а затем отдельные элементы этой практики могут получить обязательный правовой статус. В перспективе внешний аудит, контроль на уровне совета директоров и документированная оценка рисков способны стать стандартными требованиями к разработчикам наиболее мощных моделей.