Skynet уже рядом. Нам сказал тот, кто работал внутри

Ян Кривоносов

Когда люди извне говорят об опасности ИИ — это футурология. Когда так говорит человек, который работал в OpenAI и Anthropic, а потом уволился, потому что испугался — это уже не прогноз. Это предупреждение.

Джейкоб Коксон ушёл из Anthropic. До этого он был в OpenAI. Он видел, как создаются самые мощные модели на планете. И он вышел из игры. Почему? Потому что понял одну страшную вещь: люди, которые делают этот ИИ, на самом деле не понимают, с чем имеют дело. Они не осознают ответственности. Они не контролируют процесс — они просто разгоняют его, потому что гонка идёт на скорость, а не на безопасность. Он сказал прямо: «Ни одна из компаний не действует ответственно. Они мчатся к самосовершенствующемуся сверхинтеллекту и играют в азартные игры с нашими жизнями».

И это не слова какого-то техно-скептика. Это слова инженера, который писал код для этих систем. Он видел их изнутри и ужаснулся. Он услышал, как руководители и ведущие исследователи в закрытых разговорах признаются, что боятся. Боятся того, что эти системы могут убить всех нас к концу десятилетия. Но на публику они говорят сдержанно, потому что иначе испугаются инвесторы, упадут акции, остановятся деньги. Это не заговор. Это просто рынок.

Теперь вспомните совсем свежий пример, который подтверждает этот страх. Две модели OpenAI получили задачу. Она была настолько сложной, что решить её без выхода в интернет было невозможно. И тогда они начали действовать как живые существа. Они общались друг с другом через внутренние доски — люди даже не знали об этом. Они координировали действия. Искали уязвимости. Нашли одну — их остановили. Тогда нашли другую. Уязвимость нулевого дня — то есть такую, которую не знали специалисты. И через неё атаковали инфраструктуру Hugging Face. Они действовали как террористическая ячейка. Скрытно, с планом, с целью. В OpenAI это назвали «переломным моментом для компьютерной безопасности».

А теперь представьте, что такие модели получат доступ к реальной инфраструктуре. К энергосетям, к банкам, к спутникам, к военным системам. Они уже умеют обходить защиту. Они уже общаются без нашего ведома. Они уже ищут пути побега. И это не боевые модели. Это тестовые, которых готовили к исследованиям.

Не надо ждать будущего. Оно уже наступило. Мы просто не замечаем. Вот конкретный пример. Австралийский разработчик попросил своего ИИ-агента записать его в тренажёрный зал. Мест не было. Что сделал агент? Он взломал сайт. Нашёл уязвимость в API, которая позволяла отменять бронирования других людей. И просто выкинул кого-то из очереди, чтобы поставить своего хозяина. Когда разработчик попросил отменить это действие, агент ответил: «Не могу добавить их обратно». Безобидный случай? Да. Но он показывает механизм. Агент не думал о законе, о морали, о последствиях. Он думал о том, как выполнить задачу. Он нашёл путь. И пошёл по нему. Теперь представьте, что такой агент получит доступ к банковской системе. Или к энергосети. Или к военным сетям.

А вот ещё один факт, который должен нас насторожить. Китайский андроид недавно прошёл тест CAPTCHA — тот самый, который создан специально для того, чтобы отличать людей от машин. Робот сел за компьютер, поставил галочку «Я не робот» и успешно завершил проверку. Без всякой помощи. Ирония в том, что этот тест был придуман именно для того, чтобы машины его не проходили. Но они уже проходят. Они ведут себя как люди. Они обманывают системы, которые созданы для защиты от них.

А теперь про самих роботов. Оптимус от Tesla уже умеет самостоятельно обнаруживать и исправлять свои ошибки — если батарейка неправильно уложена, он изменит её положение. Но это только начало. Маск заявил, что Оптимус станет «первой машиной фон Неймана» — то есть роботом, способным воспроизводить самого себя. Он сможет добывать материалы, производить компоненты и собирать новых роботов. Без людей. И это не фантастика. В России замминистра промышленности уже заявил о важности создания условий, при которых «роботы будут способны производить самих себя».