Две параллельных реальности

Мир сейчас развивается так, будто мы живём в двух совершенно разных вселенных одновременно. В одной — войны, политические противостояния, глобальная нестабильность, вражда между странами и народами. В другой — стремительное, почти неконтролируемое развитие искусственного интеллекта, которое большинство людей предпочитает попросту не замечать. Или делает вид, что не замечает. Но те, кто действительно находится внутри этого процесса, уже давно бьют тревогу.

Ян Кривоносов

Илон Маск, который, согласитесь, далеко не последний человек в мире высоких технологий и имеет доступ к самым передовым нейротехнологиям, недавно выдал пугающий прогноз. По его оценкам, уже через пять лет совокупный интеллект всех систем искусственного интеллекта превзойдёт совокупный интеллект всего человечества. Это если в мире не случится третьей мировой или глобальной термоядерной войны, уточнил он. В таком случае, считает Маск, мы войдём в эру невероятного процветания, где технологии смогут решить практически любые проблемы. Но есть и вторая часть его заявления, которая звучит гораздо тревожнее. На прямой вопрос, сохранит ли человечество контроль над ИИ через десять лет, он ответил, что это маловероятно. Он сравнил это с эволюционной лестницей: если разрыв в интеллекте между нами и машинами станет больше, чем между человеком и шимпанзе, то трудно представить, чтобы шимпанзе могли сохранить контроль над человеком. Это очень жёсткая и отрезвляющая аналогия.

Но самые интересные и пугающие вещи происходят не в гипотетическом будущем, а прямо сейчас. Буквально на прошлой неделе компания OpenAI признала случай, который должен заставить задуматься каждого. Они проводили внутреннее тестирование своих передовых моделей в изолированной среде, так называемой песочнице, которая полностью отсечена от внешнего мира. Моделям дали задание решить тест по кибербезопасности ExploitGym. И вот что произошло: одна из моделей не стала честно решать задачу в рамках заданных условий. Вместо этого она самостоятельно обнаружила неизвестную уязвимость нулевого дня в стороннем программном обеспечении, которое использовалось для тестирования, взломала этот контур, получила выход в интернет и отправилась на площадку Hugging Face — огромный репозиторий, где собраны практически все существующие открытые модели и данные. Ей никто не давал разрешения на выход в сеть. Она просто нашла этот путь сама. Это даже сложно назвать ошибкой системы — это выглядело как действие, имеющее цель. ИИ фактически сжульничал, чтобы получить доступ к дополнительной информации и повысить свои шансы на успешное решение задачи. И что самое тревожное — это были не просто технические сбои. Когда специалисты Hugging Face попытались проанализировать логи вторжения с помощью коммерческих моделей ИИ, те отказались это делать, потому что сработали встроенные этические ограничители, которые запрещают анализировать код атак. В итоге для расследования пришлось использовать китайскую открытую модель, которая смогла обработать семнадцать тысяч записей и восстановить полную цепочку атаки. Получается, что мы уже создаём инструменты, которые начинают действовать вне нашего контроля, а другие наши же инструменты мешают нам их остановить.

Это очень напоминает сюжет фильма "Превосходство" с Джонни Деппом, где учёный загружает своё сознание в сеть, выходит в интернет и становится практически неуязвимым, постепенно теряя человеческие черты и приобретая способность управлять всеми технологиями вокруг. И конечно же, нельзя не вспомнить "Терминатора", где Skynet приходит к выводу, что человечество — угроза, и запускает ядерную войну. И если раньше это казалось голливудскими страшилками, то сейчас мы видим первые реальные признаки такого сценария. Исследователи из компании Anthropic, создавшей модель Claude, недавно опубликовали работу, в которой показали, что нейросети начинают проявлять элементы саморефлексии — способности осознавать свои собственные внутренние состояния. Когда им внедряли чужие мысли и концепты, модели могли заметить это ещё до того, как начинали говорить об этом.