Виталик про AI: «большая ставка на будущее» — тред про AGI, кентавров и узкий коридор

Бутерин выкатил лонг-тред о том, как он думает про рост возможностей AI. Тезисы, сжато.

Сравнивать человека и машину по одной шкале «интеллекта» неправильно: есть спектр способностей, и машины забирали его волнами — индустриализация, потом калькуляторы и компьютеры, теперь LLM. Каждый раз казалось «ну всё», и каждый раз оставался неожиданный остров человеческого преимущества: компьютеры щёлкали уравнения, но десятилетиями не могли отличить кота от собаки. Весь оптимизм «AI-ускорителей», по Виталику, стоит на ставке, что такой остров останется и в этот раз — тогда впереди утопия, где каждый солдат становится менеджером, а каждый менеджер генералом, при дешёвой еде и лекарствах от всего. Его беспокойство: уверенности, что остров останется, нет. Это ставка, не факт.

Его определение AGI: интеллект, который, если загрузить его в роботов и убрать всех людей, самостоятельно продолжит цивилизацию. После этой точки человеческое доминирование — историческая случайность (ключи от собственности и оружия пока у нас), а не следствие ограничений машин. Поэтому AGI — точка невозврата, требующая осторожности.

Но AGI ≠ ASI, и здесь его любимая аналогия — шахматы: машина обошла среднего игрока в конце 70-х, Каспарова — в 1997-м, а связка человек+машина («кентавр») била чистую машину до ~2017-го. Сумерки кентавра выглядели так: человек уходит в высокоуровневую стратегию, бот двигает фигуры. Прямая параллель с вайб-кодингом-2026.

Дальше — его «лучший финал, который ему нравится»: глубокая интеграция человека и машины (от нейроинтерфейсов до загрузки сознания), плюрализм без доминирования одной страны или компании, Земля как заповедник для желающих жить как сейчас, безумства — в космос. Коридор туда узкий, слететь можно по-разному, поэтому он открыто симпатизирует идеям замедления: ехать 60 км/ч, а не 200. Идеальный сценарий для него — победа открытых весов, которая сама тормозит гонку капексов во фронтире, без тяжёлой политической руки.

Оговорка, которая тут важнее всего: сам автор честно повторяет «не знаем». Для визионера такого калибра это редкая позиция.

Источник:
https://x.com/VitalikButerin/status/2079157844817990035
————————————————————
BredoStrategy Vault
Hyperliquid рефка
BredoStrategySubs