Человеческий мозг в дата-центре или зачем Google DeepMind открывает собственный институт AGI.

Представьте себе ИИ, который не просто рисует котиков в стиле Ван Гога, а может перечитать все когда-либо изданные медицинские журналы и разработать лекарство от рака с нуля. Эту точку невозврата в мире технологий называют общим искусственным интеллектом — Artificial General Intelligence, AGI.

И чтобы переход человечества к новой эпохе не обернулся катастрофой, Google объявила о запуске собственного Института DeepMind, главная особенность которого лежит в его междисциплинарности. Иными словами, за одним столом соберутся не только программисты и математики, но и биологи, социологи, юристы, экономисты и даже эксперты из мира искусства, чтобы урегулировать сообщества тысяч автономных ИИ-агентов, пока они не начали конкурировать друг с другом или с нами самыми непредсказуемыми способами.

В DeepMind прямо говорят: потенциальная отдача AGI колоссальна — научный ренессанс в медицине, доступная чистая энергия и новая ступень развития экономики.

Однако у этой медали есть и обратная, куда более тревожная сторона. Создание общего ИИ несет в себе риск появления сверхразума, который выйдет из-под контроля своих создателей. И тогда мы окажемся в положении муравьев, чьи интересы будут попросту стерты в пыль ходом процессов, которые мы сами инициировали, но логику которых больше не способны осознать.