Оба с сильными инсайдами по рынку, они точно что-то знают. Но я думаю, AGI не конечная точка. Развитие пойдёт дальше к ASI, и границу между ними мы вряд ли успеем заметить. Как только нейронке станет доступно рекурсивное самоулучшение, контроль над ней мы потеряем мгновенно.

Если хотите понять мой основной тейк, посмотрите отличный фильм Превосходство 2014 года, с Джонни Деппом в главной роли.

Мысленный эксперимент привёл меня к неожиданному выводу. Мы стоим на пороге не очередного технологического витка, а, возможно, полной смены концепции жизни. Не уровня «пересесть с лошади в автомобиль», а уровня «из рыбы» в «млекопитающее».