«Die for her philosophy” пела группа System of a down в 1998 году. Удивительно, как эта песня подходит для развития современных беспилотных автомобилей. Помните «проблему вагонетки», где нужно было решить, кого она должна переехать: пятерых людей или одного? MIT в 2017 году запустила сайт, где люди могли выбрать разные варианты поведения беспилотного автомобиля и эти данные впоследствии могут быть загружены в настоящий автомобиль. Все хорошо, но хотели бы вы, чтобы неизвестные люди (или даже боты) решали Вашу судьбу? Дэвид Фурнье из Сингапурского института технологии предложил более элегантный вариант: почему не загружать в каждую отдельную машину Ваш «моральный профиль», основанный на Ваших этических и философских предпочтениях? Если Вы утилитарист, машина будет давить как можно меньше людей и, возможно убьет Вас, если понадобится. Если Вы либертарианец, то машина будет ориентироваться на то, чтобы не задавить отдельного человека (и видимо, ее жертвами с большей вероятностью станут животные). Если Вы за права животных, то Вашу питомцы (и случайные псы на дороге) останутся в живых. В отличие от Вас. Фурнье полагает, что такое решение позволит реализовать возможность сохранять контроль над автомобилем опосредовано, а людям – на зависеть от решения инженеров и иных экспертов.
Пока такое решение сталкивается с барьером того, как правильно реализовать ту или иную моральную философию в алгоритмах и машинном обучении? Насколько это возможно? Насколько часто такая философия должна обновляться? Должна ли тогда система отслеживать, как давно Вы читали Ницше или Достоевского? (Черное зеркало? Какое такое черное зеркало? @nck_rudie)