Роли, этика и роботы

В 15 выпуске подкаста мы с Егором обсудили курс «Системное саморазвитие» и 4 книги о системном мышлении. Разбирая примеры из своей жизни, Егор поделился историей, которая с ним произошла на таможне.

В Германии, если таможня задерживает твою посылку — тебе приходит письмо. С этим письмом нужно прийти в отделение. Там при тебе посылку открывают и ты должен объяснить, что тебе прислали и почему пошлину платить в этом случае не нужно. Но иногда письмо теряется. Проблема в том, что без письма разговаривать с тобой клерки не хотят, а если посылку не забрать, то через 2 недели ее отправят назад.

Егор решил эту проблему показав трекинг посылки, в котором было написано, что посылка лежит в отделении. Клерк, как и любой человек не смог сопротивляться тексту перед глазами. Когда нам вот так показывают текст — мы его читаем. Прочитав текст, клерк согласился поискать посылку. Посылка была найдена, проблема решена.

Егор предположил, что клерк просто стал человеком системы. Пребывал в состоянии роли и действовал строго по инструкции. Так и есть. Проблема в том, что система не учитывала интерес человека, которому письмо не пришло. Соответственно клерк с монотонностью робота повторял: «Никаких „но“. Письмо должно быть» и вел себя совершенно не этично. В системе выдачи посылок клерк взаимодействовал с письмом, а не с человеком.

Представим, если вместо человека роль приёмки исполнял бы настоящий робот, которого нельзя переключить обратно в человека? У этого робота наверняка было бы устройство для считывания кода из письма. Никакой другой трек-номер робот прочитать бы не смог. Роботизированная система, в которой не учтены интересы всех ролей — это ужасно фрустрирующий опыт.

Поэтому очень важно такие системы не только проектировать с учетом всех интересов, но и оставлять возможность вызвать оператора.

Если вы хотите посмотреть весь выпуск.