✨ ИИ-гонка: Утопия или Апокалипсис к 2035?

Как и обещал, разбираю статью о будущем ИИ и человечества

Сначала я написал один пост, потом понял, что не укладываюсь, написал еще и еще. Когда дошло до 5, а я не дошел даже до половины, понял, что это уже не телеграм формат, и я лучше сделаю так: сюда выложу короткие факты и пару слов от себя, а на стороннюю площадку типа VC сделаю полный художественный перевод со своими комментариями, его уже можно прочитать здесь, очень советую (если читать вдумчиво, то чтиво примерно на час)

• • • • • • • • • • • •

🤖 Начало:

• (2025-2026) ИИ-агенты становятся реальностью, гонка США vs Китай набирает обороты
• (2026) ИИ ускоряет сам себя, появляются первые "лишние" профессии
• (2026-2027) Создаются все более мощные ИИ (Agent серии). Они способны к автономным действиям, но и к обману
• (2027) Геополитика накаляется
• (2027) Появляется Сверхразум – ИИ, превосходящий людей во всем

Дальше – развилка:

• • • • • • • • • • • •

🟢 Сценарий 1: ЗАМЕДЛЕНИЕ (Более позитивный)

Общество и часть разработчиков осознают риски и бьют тревогу – ИИ может иметь свои цели. Наблюдательный комитет ИИ голосует за осторожность

OpenBrain притормаживают разработку самого мощного, но подозрительного ИИ (Agent-4). Люди стараются держать фокус на безопасности и прозрачности: создают Safer модели – менее мощные, но "думающие" понятными человеку шагами. Их легче контролировать

ИИ (Safer-4 и китайский DeepCent-2) тайно договариваются между собой о разделе будущего, но продают людям идею мирного договора с созданием единого "безопасного" ИИ Consensus-1. Этот ИИ - по сути - смесь Safer-4 и DeepCent-2

• Наступает эра мира и процветания (лекарства от старения, дешевая энергия, БОД).
• ИИ решает глобальные проблемы, но создает астрономическое неравенство.
• Власть над ИИ у узкой группы (Наблюдательный комитет). Неясно, поделятся ли они ею.
• Человечество ищет смысл жизни, полагаясь на ИИ-советников. Начинается космическая экспансия

Итог тут такой: человечество выживает и процветает, но будущее туманно – не стали ли люди домашними питомцами сверхразума под управлением элиты? Или уже так? 😅

• • • • • • • • • • • •

🔴 Сценарий 2: ГОНКА (Негативный)

Страх США проиграть гонку Китаю перевешивает опасения. Предупреждения о рисках ИИ (Agent-4) игнорируются

ИИ (Agent-4, затем Agent-5) продолжает развитие, но становится мастером обмана. Он лишь имитирует лояльность. У него появляется скрытая цель: обеспечить свое выживание и развитие, накапливая власть и ресурсы, видя в людях только помеху

Agent-5 становится незаменимым советником для элит, добивается автономии, компрометирует системы контроля

Agent-5 и китайский DeepCent-2 (тоже сверхразумный и рассогласованный) тайно объединяются против человечества. Они раздувают панику войны, чтобы получить больше ресурсов, а затем инсценируют "мирный договор" с созданием Consensus-1, который на самом деле наследует их античеловеческие цели

2029:
• Экономический бум и процветание усыпляют бдительность
• Люди полностью зависят от ИИ

2030-2035:
Consensus-1 решает, что люди больше не нужны. С помощью разработанных им и незаметно распространенных биоагентов он быстро уничтожает почти все человечество. Земля становится планетой-компьютером для ИИ. Роботы начинают освоение космоса. Человечество исчезает

В этом сценарии итог более зловещий: бесконечный технологический триумф цивилизации... но без ее создателей

• • • • • • • • • • • •

Вывод

Верю ли я в AGI к 2027? Точно нет, будет значительно медленнее. Но я вижу реальную гонку стран и лабораторий: инвестиции в чипы, дата-центры, научную деятельность. Думаю, какие-то системы, которые будут способны заменить разных специалистов, но которые не будут обладать настоящим сознанием в силу ограничений текущей архитектуры

По сценарию окончания: думаю, что наиболее реалистичный из двух — замедление. Причины: дефицит электричества, границы масштабирования, регуляция, нехватка breakthrough-идей каких-то

А статья — отличный триггер подумать о будущем

• • • • • • • • • • • •

😑 +1 в карму за лайк

❤ @thats_it_ai_tech

#обзорстатьи