Экономический Рост в эпоху AGI / Леопольд Ашенбреннер

Сельскохозяйственная революция ускорила рост примерно в 100–1000 раз по сравнению с эпохой охотников-собирателей, а промышленная — ещё примерно в 10–100 раз относительно аграрной эпохи. Вполне возможно, что искусственный интеллект станет следующим таким ускорителем. И что важно: сценарии, в которых искусственный интеллект становится по-настоящему опасным, — это те же сценарии, в которых возможен действительно взрывной рост. Если это просто «еще один интернет», то и риски, вероятно, гораздо меньше.


Вполне возможно, что искусственный интеллект окажется просто еще одним очень успешным инструментом, который автоматизирует какую-то часть экономики и какой-то кусок нашей работы, но не автоматизирует все. Это, в общем-то, и есть сильное априорное ожидание, потому что большинство технологий были именно такими. Возьми программирование: если ты пишешь программу сейчас и сравнишь это с тем, что было пятьдесят лет назад, то сейчас ты гораздо эффективнее, потому что у тебя есть библиотеки, чужой код, языки программирования вместо нулей и единиц. Мы автоматизировали значительную часть сельского хозяйства. Когда-то были целые комнаты людей, которые вручную делали вычисления, а теперь у нас есть электронные таблицы. Многие технологии автоматизируют девяносто процентов задачи, но оставшиеся десять процентов оказываются узким местом, и именно это ограничивает рост. Поэтому, даже имея серию технологий, которые автоматизируют девяносто процентов, мы все равно получаем только устойчивый, умеренный рост, потому что эти последние десять процентов по-прежнему делают люди. Может быть, с искусственным интеллектом будет именно так. Тогда он будет примерно масштаба интернета: очень большое дело, огромная польза, все технологические компании будут над ним работать, он, возможно, немного ускорит рост, но общая картина не изменится. И если смотреть на последние сто пятьдесят лет, то эта картина и так удивительно постоянна: если изобразить на логарифмическом графике, мы видим почти постоянный рост порядка двух процентов в год. Но может быть и другой сценарий: искусственный интеллект не остановится на девяноста процентах автоматизации, а пойдет ближе к ста процентам. И если получится автоматизировать сто процентов, это действительно все изменит. Особенно если удастся автоматизировать исследования и разработки. Если системы смогут делать науку и технологии, то они смогут создавать гораздо лучшую науку, лучшие технологии, лучшие изобретения, а ведь именно научно-технический прогресс и движет долгосрочным экономическим ростом. Тогда наша точка отсчета перестанет быть просто последними ста пятьюдесятью годами устойчивого роста.