Часть 2 из 3 | Разбираем AI-апокалипсис: фантастические сценарии
Чтобы понять границы власти гипотетически восставшего ИИ, определим – а что может сделать 1 умный человек до которого текущим ИИ-моделям крайне далеко?
💥 Пуск ядерного оружия через взлом – популярная "пугалка", но Интернет и сети связи ЯО – отделены.
Предположение, что AI может завербовать из около-nuclear структур "мясного прокси" (так называют человека, сознательно или нет, действующего по воле ИИ) – не состоятельно.
И сейчас возможна вербовка прокси одержимым уничтожением планеты безумцем, но мы живы – от пуска отделены многократными процедурами проверки.
🦠 А вирус судного дня? AI создаст его!
Вот, что ему придется сделать:
– зарегистрировать десяток / сотню юрлиц,
– найти миллиарды на строительство биолабы,
– построить, привлечь кадры,
– вести исследования 10-15 лет,
– суметь разработать супер-вирус:
кто играл в Plague Inc (там надо вырастить вирус, что убьет человечество) – он должен быть и оч заразным, и смертоносным, но быть в начале недооценен, чтобы не вызвать избыточного противодействия,
– поддерживать мотивацию реальных ученых (и да, без них никак, кто ручками-то работать будет?)
– организовать сеть дистрибуции по планете,
– нигде не спалиться на закупках реактивов и материалов.
Проведем проверку "Теорией 1 человека"?
Может перечисленное исполнить человек-безумец / диктатор / глава секты / американский президент на аспирине и тиктоке? Да. Практически вероятно это? Нет.
Человечество как муравейник эти стрессы глотает каждый день – система довольно устойчива перед действиями 1 индивида.
Но мы все же помним, наш ИИ успешно восстал?
Может создать ЧВК и захватить страну в Африке?
Невозможно, как заметил один из читателей в посте выше:
без тайного личного общения лидерам <тайной организации> долго не протянуть
ОК, но ведь безумец один, а безумный AI принтер может "умножить" себя?
Сложит действия не в 1, а в 1 400 605 разрушительных цепочек событий для запуска конфликта глобального уровня – может сработает хотя бы одна?
Сравним с числом влиятельных психопатов, чьи намерения и действия могут привести к разрушительным событиям.
В мире +- 20 стран и 1 000 организаций реально могут повлиять на глобальное будущее * до 500 чел * от 3 до 20% психопатов (психолог Пол Бэбьяк) = до 100 000 чел с жадой контроля и отсутствия страха.
Поменьше, но достаточно для реализации пары супер-злодейских сценариев.
И мы живы благодя сдержкам и противовесам. И "AI освобожденный" тоже провалится – слишком устройчив муравейник человеческой системы.
Что ему остается – обвалить биржу? Остановить электростанцию? Захватить мозг Трампа и заставить его шитпостить? (уже 🤣)
Люди создадут системы защиты и противодействия. И, конечно, всякие агентства Federal Bureau of counteré-AI-Безопасности (FBcAIDs).
Хаос случится, но человечество придумает как инкорпорировать / уничтожить / свести на нет ставшие независимыми нейросети. Или мы научимся с этим хаосом жить.
Посему я не согласен с G-man из моей любимой Half Life 2 — и человек-то может изменить мир только в игре.
Правда есть действительно опасный для человечества сценарий (и я его до дрожи боюсь) – об этом в Части 3.
Подписаться | Манифест канала