Построение AGI и цифровых личностей высокого уровня усложняется тем, что мы не знаем что мы собственно строим.

Я объясняю это студентам по такой аналогии: когда в 19 веке пошло быстрое развитие механики, многие изобретатели хотели заменить коня на механического. Это был красивый концепт, как бы сейчас сказали - стимпанк, но в практической реализации совершенно сложный и излишний. Автомобиль изобрели именно тогда, когда первый инженер понял - в этой конструкции конь не нужен. Карета без коня в последствии уже просто подстроилась под практику.

У цифрового интеллекта абсолютно аналогичная история. Мы уже понимаем, что не нужно копировать органический мозг, со всей его легасней. Но пока не понимаем даже, где конь.