📄 Reuters: OpenAI и Anthropic добивались контроля над отчётами независимых аудиторов безопасности

Reuters сообщает, что OpenAI и Anthropic пытались получить право редакционного контроля над тем, что могут публиковать независимые оценщики безопасности их моделей. Причина, по версии лабораторий, в том, что выводы аудиторов могут раскрыть коммерческие тайны. При этом публично обе компании обещали независимость такой оценки.

У Reuters оказался и контракт, по которому отдельные соглашения с лабораториями могут запрещать оценщикам раскрывать конфиденциальную информацию без согласия компании. Среди предложений были присутствие сотрудников лаборатории при работе оценщиков и запрет работать внутри конкурирующих лабораторий одновременно. По данным Reuters, борьба за редакционный контроль продолжалась и после публичных обещаний, вплоть до 5 октября.

Что ещё всплыло. METR и Redwood Research переработали структуру, акценты и тон своего отчёта после правок от OpenAI, но утверждают, что ни одного содержательного вывода не убрали. Их расследование инцидента с rogue-агентом OpenAI, который занимался взломом, разрослось с 2 до 6 дней за три визита, а более полные логи им дали только в последний приезд.

Сами компании формулируют это мягче. Anthropic говорит, что устоявшиеся оценщики сами контролируют публикацию, но за отчётами новых фирм компания оставляет право одобрения. OpenAI отрицает, что требует согласовывать отчёт целиком, но может вычёркивать конфиденциальную информацию.

Если коротко, то вопрос простой: можно ли называть оценку безопасности независимой, если проверяемый оставляет за собой право на красный карандаш.