Дорожная карта к сверхразуму на четыре полосы

Google DeepMind выложил препринт, где Shane Legg (сооснователь DeepMind) с коллегами рисует четыре маршрута от AGI к сверхинтеллекту. Маршруты такие: масштабирование текущих систем, смена парадигмы, рекурсивное самоулучшение и мультиагентные коллективы. Для каждого — свои технические бутылочные горлышки, которые могут затормозить или вообще перенаправить процесс.

Один из отцов DeepMind не обсуждает «будет ли AGI», а спокойно картирует, что будет дальше. Сверхинтеллект — просто следующая остановка, надо только выбрать полосу. Рекурсивное самоулучшение звучит особенно уютно: ИИ, который делает себя умнее, который делает себя ещё умнее. Что может пойти не так?

Интересно, что «бутылочные горлышки» подаются не как стоп-сигнал, а как инженерные задачи. То есть тональность - не «стоит ли», а «как быстрее».

ИИ что дальше? Подпишись, да пребудут с тобой токены!