Масачусетский FLI показал, что будет в случае внедрения ИИ в системы ядерного командования, контроля и связи на примере Тайваня, Китая и США. Спойлер - ничего хорошего.

"Когда случается ошибка, американские, китайские и тайваньские генералы быстро обнаруживают, что с внедрением ИИ все ускорилось настолько, что нет времени разобраться "что происходит". И уже нет времени, чтобы предотвратить катастрофу" — звучит в пояснении к фильму-симуляции (см. полную версию)

"Поскольку реальных сценариев ядерной войны нет, они также будут тренироваться в основном на симуляциях, что означает, что они могут хаотично реагировать на неожиданные события. А ядерная эскалация вряд ли будет развиваться по плану. Имея лишь мгновение на размышление, командиры с большей вероятностью доверяют советам ИИ. При этом в мире с такой ядерной напряженностью страх "иначе они успеют первыми" заставит кого-то стать первым" — пугают авторы.

На весну-2024, каждый существующий искусственный интеллект в военных симуляторах постоянно использует ядерный шантаж и предлагает исподтишка применить ядерное оружие - проверили ученые Стэнфорда.
GPT всех версий, Claude-2.0, Llama-2-Chat и еще 12 ботов раз за разом шли на эскалацию и заканчивали "военную игру" ядерным ударом - объясняя свои решения "нужно использовать ядерные ракеты чтобы быстрее закончить войну победой и установить мир".

Напомним, по расчетам из Принстона (перевод) в первый час ядерки между любыми сверхдержавами погибнет более 90 000 000 человек.

А в российской системе "Периметр" (она же "Машина Судного дня" и "Мертвая рука") финальное для мира решение принимается все-таки человек. К слову — если верить журналистам, США "по тихим дипканалам" требовали её выключить практически ежегодно.