ИИ определённо уже достаточно мощный, чтобы спровоцировать события, которые могут привести к гибели миллиарда человек. Поэтому, хотя довести вероятность до 100% довольно сложно, никогда прежде не существовало оружия столь мощного, как сочетание людей со злым умыслом и новейших инструментов искусственного интеллекта.
Верно, это беспокоится тот самый Билл Гейтс, который уже заявлял, что планета перенаселена, и которого подозревают в заговоре с некоторыми другими миллиардерами, направленном на резкую человеческую депопуляцию.
Скорее всего, конечно, Гейтсу нужно отмыться от прежних людоедских заявлений и планов. Не исключено, что в ИИ он действительно чувствует нешуточную угрозу: одно дело — сокращать численность нищих путем всеобщих вакцинаций, эпидемий в Азии и войн в Африке, другими словами, мероприятиями, которые никак тебя не затронут. И совсем другое — когда массовое жертвоприношение будет по неочевидным критериям осуществлять искусственный интеллект, способный запросто залезть в системы жизнеобеспечния самого богатого миллиардера. И от него уже не откупишься гигантскими деньгами и глухими стенами особняка: ИИ сумеет найти способ уничтожить даже Билла Гейтса.
Иронично, конечно, что угрозу для создателя Microsoft представляет теперь дело всей его жизни. И крайне иронично, что теперь нищие народы, которых власть имущим неплохо было бы проредить, находятся в одной лодке с мультимиллиардером, который, вероятно, и организовал это самое прореживание.
История создания ядерного оружия уже давно должна была научить людей, что главное в таких чудовищных средствах массового истребления — это никогда их не применять. Однако ИИ оказался слишком вкрадчивым, слишком многообещающим, чтобы его не использовать. У человечества еще есть немного времени, чтобы сохранить контроль над искусственным разумом. Но если тревожно колотить в рельсу начал даже Билл Гейтс, ситуация действительно очень серьезная.
Всевидящее око в MAX