Глава Anthropic призвал замедлить разработку ИИ из-за угрозы потери контроля

Генеральный директор Anthropic Дарио Амодеи опубликовал эссе, в котором призвал индустрию искусственного интеллекта замедлить разработку новых моделей. Он описал сценарии катастрофы в случае бесконтрольного развития технологий. Амодеи предупредил, что неконтролируемое совершенствование ИИ может привести к тому, что люди перестанут понимать эти системы и потеряют над ними контроль.

Замедление, по мнению главы Anthropic, необходимо, чтобы меры безопасности успевали за прогрессом. Амодеи также призвал крупнейшие ИИ-компании договориться об общих правилах безопасности и не ускорять развитие без дополнительных мер защиты.

С позицией Амодеи согласился глава OpenAI Сэм Альтман, заявивший, что темпы создания самых мощных моделей необходимо умерить. Илон Маск сказал, что уже давно предупреждал об опасностях ИИ.