ИИ-лаборатории плохо контролируют свои системы

Guidelight AI Standards, основанная бывшими сотрудниками отдела безопасности OpenAI, провела независимое исследование и выяснила, что ни один из разработчиков не использует в полном объёме даже базовый контроль над своими моделями.

Компания изучила открытые материалы Anthropic, OpenAI, Google, xAI и Meta*: карточки систем (system cards), рамочные документы по безопасности (safety frameworks), отчёты о рисках (risk reports) и другие источники.

Совокупные оценки контроля систем по шкале от максимальной А+ до минимальной  F- :
🟢 OpenAI и Anthropic — C+
🟢 Google — D+
🟢 xAI — D-
🟢 Meta* — F.

Нужны такие исследования?

👍 — да, люди должны знать
😱 — меньше знаешь — крепче спишь

Компания Meta признана экстремистской и запрещена в России.

🟩 GPT, помоги!