Сейчас все* обсуждают новую статью Ника Бострома, - может позже тоже поделюсь своими мыслями, - но сейчас захотелось вспомнить одну из его первых статей, написанную ещё в 1997 году, когда ему исполнилось 24 года, а на дворе была вторая зима искусственного интеллекта. Статья называлась «Сколько осталось до суперинтеллекта»**, и в ней Бостром защищал смелый по тем временам прогноз:

«Существует несколько подходов к разработке софтвера. Один из них заключается в эмуляции фундаментальных принципов работы биологического мозга. Вполне допустимо предположить, что в течение 15 лет эти принципы будут изучены достаточно глубоко для успешной реализации данного подхода - при условии наличия соответствующего оборудования. Застой в области ИИ в 70-х и 80-х годах мало влияет на вероятность успеха в будущем, поскольку нам известна причина этого застоя (а именно то, что доступное исследователям оборудование было ограничено мощностью порядка 10^6 операций), и этот фактор более не актуален.

Будет сильное и всё возрастающее стремление довести ИИ до человеческого уровня. Если будет найден способ гарантировать, что превосходящие человека искусственные интеллекты никогда не причинят вреда людям, они будут созданы. Если же гарантировать это окажется невозможным, они, вероятно, будут созданы всё равно».

Как ни посмотри, Бостром не только умён, но и невероятно последователен, действуя в одном направлении на протяжении десятилетий, независимо от текущей моды. Надо отдать ему за это должное.

* В моём информационном пузыре
** How long before superintelligence?