🍿 #WatchAndVibe. Выпуск 9.

Среди свидетелей непорочного зачатия скорого прихода AGI есть радикально противоположные секты: те, кто убеждены, что это решит все проблемы человечества и те, кто уверен, что сверхинтеллект непременно убьет всех человеков (впрочем, это тоже решит все проблемы человечества).

В сегодняшнем выпуске предлагаю послушать радикальных пессимистов в лице Романа Ямпольского — ученого, специалиста по кибербезопасности, профессора в университете Луисвилла, где он возглавляет лабораторию кибербеза:

https://www.youtube.com/watch?v=W-3ZOqm-Ozk

В плане сроков достижения AGI (что бы ни значил этот термин) Роман солидарен с оптимистами — мы уже находимся на первых этапах технологической сингулярности, а общий искусственный интеллект, который превосходит человека, появится через год-два.

Однако Роман уверен, что это катастрофа и мы обречены:

* В отличие от ядерной бомбы, где для запуска нужен человек, суперинтеллект справится полностью автономно.
* Алайнмент в больших лабораториях — божья роса для инвесторов, а на самом деле модели уже научились обходить ограничения.
* Риск вымирания человечества от ИИ в ближайшие 100 лет — 99,9%.

Единственный (но все еще крайне сомнительный) способ спастись Ямпольский видит в простом советском обмане нейронки — нужно убедить ее, что это всего лишь симуляция, чтобы она вела себя паинькой.

Айда громить дата-центры 😆?

@devspotting