Последствия использования AI — это важно и стоит обсуждать. Но я решил обратить внимание на другой аспект. Этическое суждение принадлежит человеку, поэтому первый вопрос в цепочке — не столько про последствия, сколько про способность распознать в некоторой ситуации этическую проблему. То есть этический вопрос — не про искусственный интеллект, а про естественный.

Здесь накоплено довольно много исследований, которые показывают, что человек в связке с AI ведет себя очень интересно и по-разному. Иногда доверие к AI уменьшается, в других случаях — увеличивается, иногда мы готовы полагаться на решения машины, а иногда — отвергаем, даже не вчитываясь. Критическая оценка результатов работы AI — это совсем не такая очевидная проблема, и она не сводится только к «осторожности».

Кроме критического мышления во взаимодействии с AI своеобразно себя ведет то, что называется моральным сознанием, moral awareness. Здесь речь идет не о какой-то абстрактной порядочности, а о когнитивной способности распознавать в некоторых ситуациях морально-этический компонент. Эта способность в каждом человеке воспитывается с детства, тесно связана с культурой и традициями, поэтому не работает у каждого одинаково. И все-таки, если спросить 10 человек про то, можно ли съесть последнюю конфету из коробки, то 9 из 10 поймут, в чем подвох (при этом неважно, ответят они да или нет).

Оказывается, что во взаимодействии с человеком и с AI эта способность ведет себя по-разному. Здесь участвует много факторов, но если упростить, то можно сказать так: этика была придумана для отношений между людьми; когда же место человека занимает машина, то этические интуиции начинают сбоить — даже когда мы понимаем, что по другую сторону от машины тоже находятся люди, или что результатами этого взаимодействия будут пользоваться люди.

А ведь цифровизация архитектурного производства — это долгий процесс, который начался лет 30–40 назад, и AI — только новый рубеж этого процесса. Человеческое взаимодействие уже очень давно замещается цифровым, от банальной электронной почты в качестве главного инструмента коммуникации до BIM вместо ручных чертежей.

Это не значит, что параллельно архитекторы становились все менее этически чувствительными, а теперь нас ждет окончательный моральный апокалипсис! Но некоторые проблемы возникают, и некоторые решения тоже можно придумать (мы с организаторами встречи написали об этом небольшую заметку на сайте МАРШ).

Вот об этом всем — в четверг, в МАРШе (онлайн): «Невидимая этика: сложные решения в эпоху AI», 18:30 (мск), нужна регистрация.

#технологии #практика