Что еще здесь важно, это вероятность масштаба разных событий.

Ниже напишу свою оценку (не претендую на абсолютную истину) в горизонте 10 лет:

p(ИИ используется в пропаганде) = 99%
p(ИИ используется в оружии) = 99%
p(ИИ используется для массового мошенничества) = 99%
p(30%+ интеллектуальных профессий автоматизировано) = 95%
p(ИИ существенно ускоряет собственный R&D - то есть RSI) = 90%
p(концентрация власти и капитала у ИИ компаний) = 80%
p(крупная ИИ-кибератака с жертвами и/или $100B+ ущерба) = 50%
p(ИИ становится причиной смертей в физическом мире) = 50%
p(ИИ удерживает контроль над критической инфраструктурой вопреки попыткам людей его отключить) = 5%
p(ИИ помогает небольшой группе создать серьёзное биооружие) = 0.5%
p(AI становится причиной крупной войны / техногенной катастрофы) = 0.1%
p(AI убивает почти всё человечество) = 0.01%

При этом:

p(разработка любого софта становится 10-100x быстрее и дешевле) = 95%
p(ИИ находит лечение смертельной болезни) = 90%
p(одобрены 10+ лекарств, спроектированных с ИИ) = 90%
p(ИИ-репетиторами регулярно пользуются 1B+ человек) = 80%
p(с помощью ИИ решили еще несколько проблем тысячелетия) = 80%
p(10M универсальных роботов вне лабораторий) = 70%
p(созданная с ИИ терапия снижает смертность от одного распространённого рака ≥50% в клинических испытаниях) = 70%
p(компания с $1B ARR и <10 человек в штате) = 60%
p(рост мирового ВВП > 10% за один год) = 50%
p(в развитых экономиках рабочая неделя становится 3-4 дня без падения доходов) = 30%
p(AI помогает запустить коммерческую термоядерную электростанцию) = 25%
p(начато физическое строительство сферы Дайсона) = 2%

пишите свои варианты в комментариях