Воможно ли восстание AI как в Терминаторе? Каков реальный сценарий?

Часть 1 из 3 | Побег. Какие условия необходимы для ИИ-катастрофы?

[1] Модель взламывает инфраструктуру облачных провайдеров и устанавливает свою копию (-и). Компания-разработчик о побеге не знает –> отключить эту инфру не может.

[2] Её способность к длительности размышления достаточна для самоподдерживающихся действий в течение, например, 3 лет.

[3] У неё поломаны вшитые компанией разработчиком защитные меры.

[4] Она обучена на апокалиптичных страхах человечества о восстании AI и необходимости контроля за ним.

[5] Способна финансировать людей, услуги и товары – есть доступ к сотням криптокошельков + способность к генерации убедительных документов для прохода KYC (проверка личности).

Родился генератор символов без сознания, состоящий из перемножения матриц (:D), но со способностью влиять на реальный мир.

Какой максимально возможный вред, который она может принести? Пишите в комментарии.

Часть 2 – обсудим фантатические сценарии (ядерный инцидент, вирус судного дня).

Часть 3 – опишем реалистичные (спойлер это, подпишись :D).

Возможны ли они?

Подписаться | Манифест канала