На этой неделе Тревор Паглен, художник и исследователь больших данных и Кейт Кроуфорд, ведущий исследователь в Майкрософт, выпустили приложение ImageNet Roulette, которое приписывает загруженным фотографиям людей различные профессиональные, этнические, культурные лейблы. Нейронная сеть приложения натренирована на одной из самых больших баз данных фотографий в интернете ImageNet, но ее лейблы людей очень странные: человек с сэндвичем может быть назван «самодовольным», а темные волосы вокруг лица (похожие на платок) могут заставить нейросеть подумать, что перед ней – монашка.

Приложение Image Net Roulette создано как раз в качестве иронического жеста, которое идет параллельно с желанием автором – Паглена и Кроуфорд – показать политические и социальные основания любой категоризации людей. Очень советую почитать их статью по этому поводу: https://www.excavating.ai/, она мне показалась очень достойной и написанной на высоком уровне. Авторы проводят параллели между категоризацией визуального материала искусственным интеллектом и вульгарными физиогномическими исследованиями конца XIX века, где визуальный облик человека пытались соединить с психологическими и социальными характеристиками (ну типа большой лоб – склонность к грабежу).

Любая категоризация делается в определенном месте и времени с надеждой, что она может потенциально вместить и объяснить все остальное разнообразие вещей, которые не попали в обучающую выборку. Такова классификация растений, придуманная Карлом Линнеем (который категоризировал все растения по кол-ву половых органов, но этот метод был отброшен уже в XIX веке). Однако с категоризацией людей, и конкретно, всего человечества – вещь почти обреченная не невозможность.

Американский социолог Ирвин Гоффман говорит о том, что сохранение "лица" - т.е. некоторой своей самости, есть одно из уникальных черт западной культуры. В этом плане наше визуальное изображение — это ипостась нас, нашей самости и потому не может быть однозначно объективировано. К тому же самость - ведь динамическая. Встав на следующее утро, человек может решить сменить работу, а через пару лет может сменить свой класс, уехав из провинции в столицу и начав подниматься по карьерной лестнице. И его самость - включая его визуальное изображение - может измениться. Поэтому любое однозначное приписывание категорий человеку - не будет эффективным и приемлемым в западном социальном мире.

Весь проект ImageNet Roulette - про то, что категоризация людей по визуальному изображению абсурдна и странна. Поэтому распознавание объектов ИИ сегодня идет полным ходом, а людей - плетется у нее в хвосте. Но в этом есть некоторая философская мысль по поводу построения современного мира, где люди сильно отличаются от вещей не потому, что могут иметь интенции и действовать, а потому что в западном мире работает множество институтов, которые охраняют человека, его самость и права от объективирования. В том числе от умного объективирования со стороны умных машин.

https://imagenet-roulette.paglen.com/
https://www.excavating.ai/