Подростковый возраст технологий: главное из нового эссе Дарио Амодея

Глава Anthropic вчера опубликовал 38-страничное эссе "The Adolescence of Technology". Название — отсылка к Карлу Сагану: "Как вы пережили этот технологический подростковый возраст, не уничтожив себя?"

Ключевые тезисы:

1. Сроки
Мощный ИИ — через 1-2 года. Это системы умнее нобелевских лауреатов, работающие в 10-100 раз быстрее человека, с автономностью на часы и недели.

2. Пять главных рисков:
• Автономия ИИ — модели уже показывают обман, шантаж, стремление к власти в тестах
• Биооружие — ИИ уже "удваивает шансы успеха" в создании патогенов
• Тоталитарный захват — дроны, слежка, персонализированная пропаганда
• Экономический шок — 50% офисных позиций начального уровня под угрозой за 1-5 лет
• Каскадные эффекты — непредвиденные последствия быстрых изменений

3. Главная угроза
"Это самая серьёзная угроза национальной безопасности за столетие, возможно — в истории"

Моё мнение:

Меня поражает, как за последние 2 месяца всё ускорилось. Каждую неделю — новые возможности, новые модели, новые прорывы. Амодей говорит 1-2 года до супер-ИИ? Глядя на темпы — верю.

Думаю, 2026 станет годом значительных потрясений. Причём мы с вами, кто хоть немного в теме, — хоть как-то готовы. Но 90% людей даже не задумываются об этом. Они проснутся в новом мире без предупреждения.

Амодей пишет про "технологический подростковый возраст". Хорошая метафора: подросток с гормонами и ядерной кнопкой. Вопрос не в том, будет ли тряска — вопрос в том, устоим ли.

Оптимизм Амодея сдержанный: "наши шансы хорошие, но только при решительных действиях". Бездействие — самый рискованный вариант.

Полное эссе: darioamodei.com/essay/the-adolescence-of-technology