Они говорят: «Сверхразум (Artificial Superintelligence) справился бы с раком за пару лет, решил бы проблему долголетия и победил бы саму смерть». Это распространённое заявление со стороны лоббистов ИИ, акселерационистов и наивных технофетишистов. Но это заявление не имеет смысла.

Недавний успех больших языковых моделей никоим образом не означает, что сверхразумы смогут легко победить болезни или решить проблему долголетия — по крайней мере, по двум причинам.

1) Проблема данных

Генеративный ИИ для искусства, музыки и языка преуспел главным образом потому, что ИИ-компании смогли украсть миллиарды примеров искусства, музыки и языка из интернета, чтобы построить свои базовые модели. Они обучались не только на академических статьях об искусстве, музыке и языке. Они обучались на реальных примерах искусства, музыки и языка.

Не существует аналогичных биомедицинских наборов данных с миллиардами точек данных, которые позволили бы точно моделировать каждую биохимическую деталь физиологии человека, болезней и старения. Сверхразум не может просто прочитать академические статьи о биологии человека, чтобы решить проблему долголетия. Ему понадобился бы прямой доступ к огромным объёмам биомедицинских данных, которые просто не существуют в удобных для использования формах. И ему потребовались бы очень детальные, надёжные, валидированные данные о широком круге людей разного возраста, пола, этнической принадлежности, генотипа и с разными заболеваниями.

Более того, законы о врачебной тайне сделали бы сбор такого огромного набора данных у реальных людей обо всех молекулярных деталях их тел чрезвычайно сложным и откровенно неэтичным.

2) Проблема обратной связи

Большие языковые модели также хорошо работают потому, что ИИ-компании смогли уточнять свои выходные данные с помощью дополнительной обратной связи от человеческого мозга. Но для моделирования человеческого тела, биохимии и болезней нет ничего аналогичного.
...
В биомедицинских исследованиях не будет быстрых циклов обратной связи от человеческого тела о том, как предложенные сверхразумом вмешательства на самом деле влияют на человеческое тело в долгосрочной перспективе, в разных образах жизни, со всеми компромиссами и побочными эффектами.

Любопытно, что большинство людей, утверждающих, что «сверхразум вылечил бы все болезни и старение», — это молодые техно-братаны, которые много знают о компьютерах, но почти ничего не знают об органической химии, геномике человека, биомедицинских исследованиях, эволюционной биологии старения, медицинской этике или о десятилетиях разочарований и неудач в исследованиях долголетия.

Они думают, что «починить человеческое тело» так же просто, как отладить несколько тысяч строк кода.

Слушайте, я полностью за то, чтобы лечить болезни и способствовать долголетию. Если бы мы взяли те сотни миллиардов долларов в год, которые сейчас тратятся на попытки построить сверхразум, и направили бы эти деньги вместо этого в исследования долголетия, это увеличило бы объём финансирования в этой области как минимум в 100 раз.

И мы бы, вероятно, решили проблему долголетия гораздо быстрее, напрямую работая над ней, чем пытаясь призвать сверхразум в качестве волшебного панацеи.

У сверхразума есть некоторые потенциальные преимущества (а также много серьёзных рисков и недостатков). Но совершенно безответственно со стороны лоббистов ИИ утверждать, что сверхразумы могут волшебным образом и быстро вылечить все болезни человека, или решить проблему долголетия, или победить смерть.

Джеффри Миллер, эволюционный биолог, профессор университета Нью-Мексико.