Вчера имел удовольствие поиграться с такой прекрасной штукой, как "Машина морали" - проект МИТ (http://moralmachine.mit.edu/), в котором пользователю предлагаются разные сценарии с участием беспилотных авто, эмулирующие катастрофу.
В каждом вопросе показывается два сценария аварии, где кто-то гарантированно погибает, и пользователю предлагается выбрать, кто должен умереть. Создатели проекта заявляют, что собранные ответы будут использованы для ИИ автопилота.

Вопрос решения, которое принимает беспилотный автомобиль в случае гарантированной аварии, рассматривается давно и мучает немалое количество ученых и инженеров со всего мира. Кого сбивать? Ребенка или женщину? 10 женщин или 10 мужчин? Богатого или бедного? На такие вопросы и нужно отвечать пользователю.

Безусловно эту тему надо обсуждать и поднимать каждый раз, когда решения ИТ проникают в жизнь простых людей и общества.

Но я, как инженер, не понимаю риторики.

Когда я проектирую решение, я в первую очередь рассматриваю различные риски и способы их ликвидации, но помимо этого - как сделать так, чтобы решение не ломалось в принципе. Если я буду проектировать беспилотное авто, первое, на чем я буду фокусироваться - это недопущение подобных дилемм .

Задача беспилотного автомобился не определять, кто должен жить, а кто нет. Его задача - не допускать смертей в принципе.