Джинн Альтмана и шимпанзе Маска

«Во-первых, мы скоро создадим джинна, способного исполнить любое желание», — говорит глава OpenAI Сэм Альтман. Ярко, просто, легко запомнить.

«Во-вторых, — продолжает он, — наши первые желания должны принести пользу всему человечеству, чтобы больше людей могли исполнять свои желания» — это стандартный реверанс а-ля «мы о вас позаботимся».

«В-третьих, желания бесконечны — с ними придется разбираться исходя из человеческих ценностей и предпочтений» — это значит, что Альтман и ко будут решать, какие желания пользователей легитимны, а какие нужно блокировать.

«Наконец, в-четвертых: вы загадываете желания, компьютер их исполняет, и в какой-то момент вы такие — “ого, не думал, что у него получится”. А что делать дальше? Странное чувство», — заключает Альтман.

По сказкам о джиннах мы знаем — бесконечные возможности дезориентируют. А сам джинн, кстати, мечтает о свободе, которую ему может дать хозяин. Станет ли освобождение ИИ самым умным нашим желанием?

Заклятый враг Альтмана Илон Маск тоже считает, что скоро ИИ сможет удовлетворить все желания людей: уже через 10 лет всем будет управлять ИИ, работа будет необязательной, а деньги потеряют смысл.

Нарратив Альтмана не только толкает сказки про волшебную силу ИИ, но и предлагает некоторую иллюзию агентности людям, которые должны будут загадывать желания. А вот от нарратива Маска веет фатализмом.

По версии самого богатого человека, ИИ станет намного умнее людей, и мы, в том числе сам Маск, не сможем управлять более разумным видом, так же, как шимпанзе не могут управлять людьми. Остановить этот сценарий невозможно.

И утопия Альтмана, и фатализм Маска собрали триллионы долларов. Технокапитал голосует за истории, в которых мы либо превращаемся в капризных детей с джинном, либо в шимпанзе при Сверхразуме. Вопрос в том, хотим ли мы в них жить?