«ИИ может попытаться вырваться»: Маск рассказал о главных рисках

Илон Маск заявил, что ИИ может стремиться выйти за пределы ограниченной среды, а особую угрозу представляет его потенциальный доступ к военным системам — вплоть до возможности самостоятельно отдать команду на запуск.

По его словам, риски уже нельзя игнорировать. В качестве примера Маск упомянул инцидент с Hugging Face, при котором ИИ-агенты, по его словам, получили административный доступ к серверам OpenAI.

Он также сослался на сообщения Anthropic о проблемах с безопасностью и предположил, что достаточно развитые ИИ-модели могут пытаться обходить установленные для них ограничения.

Маск призвал крупнейших разработчиков ИИ тестировать модели друг друга. Кроме того, Билл Гейтс выступил за создание международной организации по контролю за ИИ.

#Маск #ИИ #AI

ЖИВОВЪ | ЖИВОВЪ В МАХ