Прочитала книжку Мустафы Сулеймана “The Coming Wave: Technology, Power, and the Twenty-First Century’s Greatest Dilemma”.

(Мустафа Сулейман - это один из важных значимых голосов в мире ИИ, соучредитель DeepMind.

DeepMind - это контора, которая создала AlphaGo, ту самую ИИ прогу, которая десять лет назад обыграла человека в го. (Про это экзистенциально-круто написано в The Maniac Лабатута, очень рекомендую).

The coming wave - это волна усиливающих друг друга технологий, которые одновременно создают колоссальную пользу и огромные риски. Это не про чатгпт, а про «пакет» технологий: ИИ, автоматизация, биология, растущие вычислительные можщности, плюс повсеместная доступность этого дела для всех.

The greatest dilemma - как использовать все это добро на благо так, чтобы в итоге не было злоупотребления, хаоса и катастрофы).

Тут надо дисклеймер: я последние полгода страшно зафанатела от всего ИИ, стараюсь все читать про это, прошла пару курсов и уверовала, что ИИ уже везде, и что это приведет к 1) мощному экономическому росту, 2) огромным проблемам. И еще один дисклеймер: меня страшно бесит, что ИИ считают игрушкой, типа спросить рецепт. И еще: нытье, что ИИ лишит нас работы. И то, и другое справедливо, но это ведь это лишь капля в море! ИИ - это такой уже базовый слой всего. С его помощью проектируют лекарства и вирусы, влияют на людей через тексты, видео и дипфейки, делают войну быстрой, дешёвой и почти автоматической. Ну а тот факт, что при определенных ресурсах и мотивации любой человек может сгенерировать ДНК (см. Синтетическая билоогия)? Мы в жопе!

Что же делать? (Переезжать в село и становиться луддитом? Или наоборот, принять неизбежное и заставлять детей учиться вайбкодить, использовать модели для упрощения собственной жизни по максимуму?) Сулейман довольно душно про это и рассуждает в своей книге, можете почитать. Очень мило, что он считает, что государства могут на тему ИИ договориться. Ну это просто смешно, еле получается сдерживать ядерное оружие, а уж на сдерживание в цифровом мире рассчитывать, на мой взгляд, не приходится.

Короче, I’m very excited and very pessimistic. Надо еще прочитать книгу “If anyone builds it, everyone dies” Юдковского, про то, как суперчеловеческий ИИ и станет нашим концом. 😁