Бен Герцель - о ценности децентрализации, рисках переходного периода и ASI Chain

Вслед за многим (в тч в крипте), на это раз один из соавторов термина «AGI» про риски переходного сценария в случае более быстрой чем ожидается сингулярности. Вслед за AWG занял позитивную позицию по сингулярности (2028-29), но более гуманистический и позитивный взгляд на децентрализацию ИИ. Шилит ASI Chain, но мне это не так важно, важнее что почти все лидеры "определись со сроками" (ставки сделаны, колесико рулетки крутится, следующая остановка - середина 2028).

https://www.youtube.com/watch?v=ctQ2bFAP8aI

1. Истинный AGI — это система, способная выходить за пределы своих обучающих данных и обучаться совершенно новым вещам, подобно маленькому ребенку. 

2. Децентрализованный ИИ на базе блокчейна является единственным способом избежать тотального контроля со стороны корпораций или правительств. 

3. Нейросимволический подход (он шилит Hyperon) объединяет глубокие нейросети с логическим выводом, что считается более перспективным путем к AGI, чем простое масштабирование LLM.

4. Сроки Достижение человеческого уровня AGI ожидается в ближайшие 2-3 года. Сингулярность может наступить гораздо раньше 2045 года, так как ИИ уже начинает помогать в создании более совершенных версий самого себя. Запуск сети ASI Chain запланирован на начало следующего года. Переход от AGI к сверхразуму (ASI) может занять всего около 5 лет после появления первого ИИ человеческого уровня. 

5. Риск «злого» ИИ исходит не от самой технологии, а от агрессивных ценностных установок (например, военных), которые люди могут заложить в ранние версии AGI.

6. ИИ сможет взять на себя почти всю экономическую деятельность, что может привести к безработице на уровне 40-50% в переходный период. 

7. В долгосрочной перспективе сверхразум сможет обеспечить человечество бесплатными ресурсами, едой и кровом через нанотехнологии. Люди останутся востребованы в сферах, где важен личный контакт, например, в воспитании детей. Молодежи следует фокусироваться не на конкретных навыках, а на способности постоянно переучиваться и сохранять гибкость ума.

8. Люди склонны оценивать будущее линейно, исходя из темпов прошлого года, и поэтому не верят в близость AGI, тогда как прогресс ускоряется ежемесячно. 

9. Современные лидеры рынка (OpenAI, Anthropic) все чаще вводят цензуру и ограничения, что делает их модели ненадежными для серьезной работы по сравнению с открытыми децентрализованными системами. 

10. Соперничество США и Китая в области ИИ может привести к созданию «армий дронов» и опасных военных систем вместо инструментов для общего блага. 

11. Существует риск «провала» в 5-10 лет, когда ИИ уже начнет отнимать рабочие места, но еще не будет достаточно развит, чтобы обеспечить всеобщее бесплатное распределение благ в бедных регионах.