большинство из нас выберет атомные взрывы как вероятнейшую причину вымирания человечества. это понятно: ядерное оружие осязаемо, у него есть история, кнопки, люди с пальцами на этих кнопках. но исследователи думают иначе.

по оценкам оксфордского учёного тоби орда, риск вымирания от ИИ в 100 раз выше, чем от ядерной войны. средний специалист в области ИИ оценивает вероятность гибели цивилизации от своих же разработок примерно в 1 из 6. джеффри хинтон, нобелевский лауреат и один из создателей современного ИИ, называет цифру выше 50%.

при этом у ядерного оружия есть одно принципиальное отличие: мы понимаем физику. мы можем посчитать. с ИИ такого инструмента нет, поэтому мы не знаем, когда именно система перестанет быть управляемой и что она решит делать дальше.

атомный взрыв пугает, потому что мы это представляем. ИИ пугает тех, кто его строит, потому что даже они не могут представить, чем это закончится