У AI-компаний появляются независимые аудиторы

Anthropic планирует допускать внешних специалистов к проверке своих AI-систем примерно с тем же уровнем доступа, который имеют внутренние команды по оценке рисков.

OpenAI также намерена допустить независимых проверяющих. При этом часть информации сможет оставаться закрытой, если её раскрытие создаёт угрозы безопасности, юридические или коммерческие риски.

Фактически вокруг AI начинает формироваться новый рынок — независимый аудит моделей и систем. По мере того как AI получает доступ к деньгам, данным и реальным бизнес-процессам, проверять придётся уже не только финансовую отчётность и информационную безопасность, но и поведение самого AI.

@roadtoagi