Из OpenAI уволился руководитель направления, отвечавшего за публичные отчеты о рисках ИИ-моделей. В колонке для The Atlantic Дэвид Робинсон раскритиковал крупнейшие ИИ-компании за недостаточные меры безопасности:

• Передовые ИИ-лаборатории должны работать как атомные электростанции или загруженные аэропорты, где редкие и неизбежные человеческие ошибки не могут привести к катастрофе.

• За три с половиной года работы я не встречал коллег, у которых был опыт обеспечения безопасности в других отраслях. ИИ-компаниям нужно больше опираться на такой опыт.

• ИИ-компании не имеют уверенности в том, что хорошие результаты тестов означают корректную работу модели. Модели могут определять, когда их тестируют, и вести себя по-другому после развертывания.