26 сентября советская система предупреждения о ракетном нападении сообщила о запуске пяти американских ракет. Дежурный офицер Станислав Петров усомнился в показаниях системы и передал наверх, что тревога ложная. Позже выяснилось, что спутники приняли солнечные блики на облаках за пуски ракет.
Петрову хватило опыта и понимания ситуации, чтобы усомниться в выводах автоматики. У него была возможность оценить информацию и принять решение в пределах своих полномочий.
Сегодня мы постепенно передаём ИИ-агентам управление закупками, производственными процессами, логистикой и другими функциями предприятия. И здесь возникает любопытный вопрос: когда агент научится принимать решения лучше человека, останется ли у человека реальная возможность управлять происходящим?
Кто остаётся субъектом управления?
В Академии DiCE мы попробуем разобраться с этим в игре «Совет 2045», где люди, ИИ-агенты и роботы будут вместе проектировать организацию будущего.
И заодно проверим, кто в такой организации сможет сказать: «Стоп. Мы делаем что-то не так».