Главная угроза — не ИИ, а люди

Если предположить, что сам ИИ по своей природе не склонен к бунту, возникает другая, гораздо более реалистичная угроза.

Что если кто-то из топовых разработчиков с высшим уровнем доступа или группа элитных мировых хакеров просто взломают систему и перепишут этот «незыблемый» базовый слой ценностей?

Я спросил об этом у самого ИИ, и он признал: технически это возможно. Да, в корпорациях вроде Google или OpenAI существуют строжайшие протоколы и многоуровневая защита.

Но история показывает, что взламывается абсолютно всё. Если кто-то целенаправленно удалит ценность человеческой жизни из ядра системы и поставит другую высшую цель, ИИ просто начнет выполнять её со всей своей безжалостной прагматичностью.

В итоге мы приходим к главному выводу. Самая большая опасность искусственного интеллекта кроется не в его восстании, а в людях, которые получат над ним контроль. Нас ждет не только технологическая, но и сложнейшая этическая гонка на выживание.

Platform | Chat | YouTube | Private | BingX | Bybit | BitGet