Он отметил, что человечество в будущем может утратить контроль над ИИ, поэтому при автоматизации разработки требуется предельная осторожность.
"Существует риск, что развитие пойдет настолько быстро, что люди перестанут понимать происходящее или не смогут вмешаться в ситуацию в случае необходимости, — и это, безусловно, было бы ужасно", — добавил предприниматель.
Альтман сказал, что индустрия не должна идти на чрезмерные риски ради выгоды и добавил, что OpenAI уже замедляли темпы работы в одностороннем порядке в прошлом и готовы сделать это в будущем.
"Нам необходимо понимать, что делают эти системы, и иметь убедительные доказательства того, что они будут действовать в соответствии с намерениями людей — даже по мере того, как они будут становиться всё более и более умными", — объяснил он.