😳 «Мы все можем умереть» – создатели AI понимают риски, но продолжают гонку.

В интервью CNN бывший исследователь OpenAI и Anthropic Джейкоб Коксон заявил, что сотрудники ведущих AI-лабораторий действительно допускают уничтожение человечества. Руководители могут смягчать формулировки публично, но в частных разговорах выражают настоящий страх.

Главная угроза появится, когда AI сможет самостоятельно улучшать себя. Это запустит «взрыв интеллекта» – модели будут становиться умнее без участия человека, пока не превзойдут людей настолько, что контролировать их станет невозможно.

В интервью NBC Джейкоб Коксон добавил, что внутри компаний уже всерьез обсуждают сценарии, при которых AI сможет взламывать критическую инфраструктуру или способствовать созданию смертельно опасного вируса.

И самое интересное – разработчики понимают риски, но продолжают гонку. Anthropic опасается OpenAI и Китая, поэтому не хочет замедляться первой. Компании фактически оказались в ловушке – каждая боится, что конкурент доберется до сверхмощного AI раньше.

Ранее: AI уничтожит человечество

Crypto Headlines