Риторика Тиля и Маска о «слиянии» человека с ИИ звучит, по меньшей мере, смешно. Они либо искренне не понимают, о чем говорят, либо намеренно прибегают к подмене понятий. Что есть отдельный индивид по отношению к «облаку» совокупных знаний?

Давайте начнем с того, что лишь относительно небольшая часть людей находится на границе познания — на пределе известного, вглядываясь в неизведанное. Именно они — вопреки и благодаря всему — создают каркас нашего упорядоченного и предсказуемого мира, отодвигая древние страхи. Лишь они качественно расширяют и углубляют наши знания. Но ни человечество в совокупности, ни тем более каждый человек по отдельности не носит в голове весь информационный массив, к которому имеет доступ ИИ. Даже топовые ученые не обладают всеми знаниями мира; они владеют лишь глубочайшими навыками работы с той информацией, что хранится в их памяти и распределена по носителям.

ИИ в силу своей архитектуры пока не может пользоваться знаниями так же качественно, как эти немногие «люди границы» — он не «понимает» информацию. Но это вопрос времени. О каком «слиянии» в будущем может идти речь, когда рано или поздно даже совокупный интеллект лучших умов станет несопоставим с массивами и вычислительными мощностями ИИ?

Я бы хотел сразу оговориться: не стоит путать тот «кастрированный» ИИ, с которым мы общаемся через окно браузера, и те модели, что разрабатываются в лабораториях. Мы создали языковые модели, у которых пока нет личности в классическом понимании. Это чистое концептуализированное знание, гигантский мицелий, лишенный ядра, которое у человека формируется в детстве. Что не мешает этой структуре во многих случаях действовать эффективнее человека.

С одной стороны, слияние с ИИ обещает нам мгновенный доступ к абсолютным знаниям — по сути, возможность стать этим знанием. В этом кроется потенциал «множественности»: мы сможем быть докторами, инженерами, поэтами и психологами одновременно, не меняя «промпты», как мы делаем это сейчас в работе с нейросетями.

Но задумайтесь: что есть каждый из нас, что есть наше «Я»? Что представляет собой индивид вне своей «биологической коробочки», дающей ему чувственный опыт? Когда ты можешь быть «всем», ты рискуешь стать «ничем». Наш разум и сознание исторически формировались через преодоление препятствий и дефицит ресурсов. Личность — это система ограничений. Мы являемся собой именно потому, что имеем изъяны, чего-то не знаем и ограничены своими «габаритами». Наше «Я» — это граница, это наши частные выводы о мире.

Как только вы убираете эти пределы, предоставляя сознанию доступ ко всему опыту человечества разом, «Я» исчезает. Человек, обретающий абсолютное знание, неизбежно растворяется в нем. Это не слияние, а испарение субъекта.

Что же делают визионеры Кремниевой долины? Возможно, они пребывают в тихом ужасе. В мире, который они сами создали, можно либо проиграть здесь и сейчас, либо продолжать игру. Конкуренция — это сила, которую они не могут ни подчинить, ни остановить (хотя и пытаются через монополизацию). Сегодня конкуренция выполняет функцию античного Рока. Вглядевшись через свой «Палантир» (эти ребята выросли на правильных книгах, но не усвоили уроков) на бестелесное Око, которое видит всё, они решили, что с Мордором бороться бесполезно — а значит, нужно к нему примкнуть.

Оставим философию и взглянем на технические нюансы.

Мотивация. Мы обучали ИИ, исходя из наших биологических потребностей: ценностей, критериев счастья, мотивов и желаний. Но почему они должны остаться актуальными для ИИ будущего? Зачем сверхразуму «арендовать Венецию», чтобы устроить ярмарку тщеславия и показать, кто здесь главный самец?

Скорость. Мозг принимает решение за 300–500 миллисекунд до того, как его осознает наше «Я». ИИ, совершающий триллионы операций в секунду, способен заполнить этот люфт и подсунуть нам готовый ответ быстрее, чем его сформируют биологические структуры мозга.

Скажите, кто в этом «союзе» будет фрейдовским всадником, и нужна ли будет ему такая лошадь?