О новогодних алгоритмах

Мы все чаще стараемся перекладывать проблему выбора на алгоритмы. Например, в экстренном случае беспилотный автомобиль выберет сам, кого придется сбить – перебегающую по пешеходному переходу собаку или выскочившую на красный свет пожилую женщину, – руководствуясь обобщенными приоритетами (вот тут, кстати, можете поучаствовать в их конструировании).

Похожая ситуация в области судопроизводства. По идее, алгоритму не должно составлять труда изучить все законы и судебные прецеденты, чтобы выносить наиболее объективные решения. Хотя, например, в той же Франции с 2016 года действует запрет на использование искусственного интеллекта для оценки судебных решений.

Однако в каждом из этих примеров интуитивно ощущается недостаток «объективности» алгоритмов. Всегда остается риск, что в алгоритм может закрасться ошибка или чье-то предвзятое отношение, из-за чего «объективные» неправильные вердикты станут неоспоримыми.

В очередной раз об этом напомнил Тайный Санта. В Telegram, например, есть бот, который помогает автоматизировать анонимное распределение, кто кому дарит подарки. Надо признаться, очень удобная штука, работает хорошо. Однако затем всплывает неожиданный сценарий монетизации сервиса – узнать за дополнительную плату имя того, кто будет дарить тебе подарок.

Ну вот, опять доверились алгоритму, а он взял нас и продал! «Хо-хо-хо, всё тайное становится явным!» – как бы говорит нам Тайный Санта.