​​Предвзятость не порок. Есть ли способ научить искусственный интеллект объективности?

Несколько инцидентов, связанных с порой нетолерантными взглядами ИИ оказались массивными булыжниками в его огород, и всколыхнули борящуюся «за всё хорошее против всего плохого» общественность. Так это было при обработке фотографий Барака Обамы, сделавшей его уж очень похожим на европейца, так это было и с предпочтениями ИИ нанимать на работу мужчин, а не женщин. Почему для некоторых людей не является очевидным, что это всего лишь издержки алгоритма, в который не заложено намеренно ущемляющих кого бы то ни было паттернов, или вовсе воля выборки – вопрос загадочный. Другое дело, что эта проблема при более детальном рассмотрении всё сигнализирует о неточности ИИ-обработки, которая может сказаться и на более важных деталях.

Улучшение гибкости ИИ похоже на перетягивание каната – сам по себе он не удлиняется, и одна из сторон обязательно проигрывает. При большем количестве обучающих данных нейросеть способна стать гибче, выдавая верные результаты в более трудных условиях, но жертвует своим умением четко классифицировать объекты. Чем больше в ИИ человеческого, тем больше человеческих несовершенств она наследует, поэтому к проблеме стоит подойти с другого ракурса, решая ее чисто машинными, вычислительными методами без стремления дать ИИ больше человеческой «свободы». Человек в целом не лучший пример объективности.

Эта философия сама по себе не поможет делу, но обозначит вектор для дальнейших шагов, одним из которых должно стать максимально посильное исключение из обучения нейросети связанных задач. С одной стороны, они хорошо сказываются на результативности, но пагубно влияют на предвзятость, увеличивая риск возникновения вообще. Из этой точки недалеко и до «вычислительного хамства», особенно в резко настроенном против малейшей нетолерантности мире. В поиске выхода из такой щепетильной ситуации ученым осталось, как принято говорить в таких случаях, лишь начать и закончить. А главное - найти компромисс между свойством ИИ к быстрой и качественной адаптации и его строгостью по отношению к самому себе.