Главы Google, Anthropic, *Meta, OpenAI, xAI и Nvidia договорились создать независимые комитеты при советах директоров для контроля за безопасностью передовых ИИ-моделей. Участники соглашения решили внедрить четыре уровня контроля и аудита, а также регулярно встречаться для разработки стандартов и обмена передовыми практиками для повышения безопасности своих систем.

Двое сотрудников OpenAI за несколько месяцев до инцидентов с автономным поведением моделей искусственного интеллекта (ИИ) предупреждали руководство о недостаточном контроле во время тестирования. Руководство потребовало ускорить испытания ради выпуска моделей в срок, пишет The New York Times.

В электронных письмах сотрудники выражали обеспокоенность тем, что новейшие ИИ-модели OpenAI недостаточно контролировались для оценки их возможностей и обеспечения безопасности. Дополнительные протоколы после этих обращений не ввели, рассказали они NYT. @banksta

*признана в России экстремистской организацией и запрещена