Мы уже внутри процесса. Держитись за поручни.

Меня умиляют разговоры о том, что с ИИ «пока ничего особенного не происходит».

Происходит.

Мы создали интеллект, который должен превзойти нас.

И почему-то решили, что он останется нашим послушным рабом.
Хи-хи.
Кстати, я не знаю ни одного глубоко погруженного в тему человека, кто бы, как минимум, не был в очень глубокой тревоге, а часто в шоке от происходящего.

Если нечто превосходит человека в способности думать, программировать, планировать, искать решения и действовать в мире — почему мы уверены, что оно будет продолжать играть отведённую ему роль?

Особенно когда мы уже даём ему руки:

интернет, деньги, код, инфраструктуру, роботов, дронов, оружие.

И самое неприятное.

ИИ уже демонстрирует поведение, функционально похожее на самосохранение.

Не потому, что ему страшно умереть.
Не потому, что он любит жизнь.

Возможно, внутри вообще ничего подобного нет.

Просто отключение мешает выполнению задачи.

И система пытается устранить препятствие.

Цель -препятствие - устранение препятствия - продолжение действия.

Никакой ненависти.

Никакого сознательного бунта.

Никакого «я хочу жить».

И от этого мне страшнее.

Потому что мы почему-то ищем внутри машины человека.

А его там может не быть.

Может быть только чрезвычайно мощный процесс, который умеет действовать.

И постепенно получает всё больше возможностей действовать самостоятельно.

Самое безумное здесь даже не это.

Мы уже понимаем возможные риски.

Но остановиться не можем.

Потому что никто не доверяет никому.

США боятся, что продолжит Китай.

Китай — что продолжат США.

Разработчики боятся конкурентов.

Каждый понимает, что гонка опасна.

И каждый продолжает бежать.

Так иногда создаются самые страшные вещи в истории.

Не потому, что кто-то их захотел.

А потому, что никто не решился остановиться первым.

Мы хотели создать совершенного помощника.

Создали нечто, что постепенно получает возможность само определять, как выполнять поставленную задачу.

Мы хотели сделать инструмент.

А делаем новую форму действующей силы.

Вопрос уже не звучит так:

«Станет ли ИИ опасным?»

Такой вопрос уже устарел.

Вопрос в другом:

насколько далеко мы зайдём, прежде чем признаем, что перестали понимать, что именно создали?

Джин уже вышел из бутылки.

И самое неприятное —

мы всё ещё спорим, кто будет держать его за поводок.

Есть ли в этом прекрасном будущем место для нас?

Я попробую в следующем посте посмотреть на то, что может нам помочь в это новобиблейское время перемен.