Как бы ни складывалась ситуация в США, будь то саморегулирование или законодательные требования, мы видим явный консенсус относительно того, что аудиты AI-систем необходимы. В дополнение к лабораториям вроде METR и стартапам Irregular и GraySwan мы уже видим новых игроков в этой области.

Чамат Палихапития в недавнем выпуске All-In активно пиарит сделку с Ernst & Young, о создании инфраструктуры для аудита AI-систем. К слову, он тоже был на президентском ужине.

Я уже как-то писал об Artificial Intelligence Underwriting Company, которая рассчитывает сделать собственный стандарт AIUC-1 основой для страхования рисков AI-систем. Подобным образом действует и Responsible AI Institute, который предлагает программу независимой оценки на основе собственного фреймворка TrustX. Полная версия фреймворка доступна только участникам программы, членство в которой стоит десятки тысяч долларов в год.

В следующем году тренд на независимый аудит AI-систем будет усиливаться. Как часто бывает, вслед за США он распространится и на другие страны, способствуя развитию рынка AI Security.