ИИ-компании придумали, как контролировать свои ИИ-модели.
Будут контролировать сами себя.

👋 Anthropic, OpenAI и xAI — при всей взаимной неприязни — сошлись на одном: внутрь компаний надо пустить внешних аудиторов.

💡 Как это задумано:
🟢 эксперты получают рабочие места, NDA и доступ к «невыпущенным» моделям
🟢 проверяют, можно ли, например, лекарственную AI-модель перепрофилировать под создание вирусов или биооружия
🟢 смотрят, не срезают ли сотрудники углы ради быстрого релиза
🟢 пишут отчёты, которые «возможно даже, увидят свет»

⚠️ Где проблемы:
🟢 доступ даёт сама ИИ-компания, добровольно
🟢 финансирование часто идёт от тех же игроков — например, Accenture и Anthropic связаны контрактом на $1 млрд
🟢 слишком откровенные отчёты — риск потерять выгодный контракт
🟢 оценщики и аудируемые давно знакомы профессионально и социально

#️⃣ Таким образом внешний эксперт превращается в легитимное алиби: «у нас же есть независимая проверка». Но если сработает риск, ответственность также сместиться на аудиторов.

🌚 Это самая дешёвая страховка, которая одновременно работает как маркетинг, как юридическая защита и как инструмент менеджмента. И она работает, даже будучи полностью дырявой.

🙌 Горизонт событий