Всем привет!
Весь октябрь в нашем канале часть постов выходит под общей тематикой о передаче ИИ части задач в корпоративном обучении. Изначально я планировало написать о главе Белой книги этики в сфере ИИ, которая прямо так и называется «Этично ли преподавателю вести предмет через свою цифровую имитацию без личного присутствия в аудитории?», но сделаю несколько шагов назад в эпоху, когда зарождалась дисциплина этики ИИ.

В середине прошлого века американские банки столкнулись с одним из последствий потребительского бума – выросло число чеков, которые требовали ручной обработки. Решением стала разработка специальной ЭВМ ERMA для автоматизации процесса. История захватывающая, достойная отдельной публикации (так, для распознавание текстов даже попутно придумали технологию OCR, которой в итоге не воспользовались).

Один из участников этого проекта - Джозеф Вайценбаум - создал из любопытства программу «Элиза», которая могла поддерживать диалог с пользователем – по сути, первый электронный чат-бот в истории.

Сам Вайценбаум относился к «Элизе» как к техническому эксперименту, Его коллеги-технари тоже прекрасно понимали, что имеют дело с простым алгоритмом, выдающим шаблонные фразы. Но дальше произошло нечто, что заставило его всерьез заняться вопросами этики.

Во-первых, некоторые сотрудники начали относиться к программе как к живому собеседнику: обсуждать с ней личные вопросы и даже закрывать дверь в комнату во время общения.

Во-вторых, и это было еще более ошеломительным: после диалога с программой, люди изменили свою манеру общения с другими людьми. Живые собеседники стали восприниматься ими просто как «более продуманные машины».

В 1976 году он изложил эти наблюдения в книге Computer Power and Human Reason. Вайценбаум утверждал: в некоторых сферах мы не должны передавать машине те задачи, которые требуют подлинных человеческих качеств — эмпатии, сочувствия, искреннего желания помочь.
Машина может имитировать участие, но она не может участвовать по-настоящему. И чем больше мы позволяем ей это делать, тем больше рискуем начать относиться друг к другу как к NPC в компьютерной игре.

Сейчас ИИ уже отлично генерирует контент, проверяет тесты и может вести вебинар через цифровой аватар.
Как вы считаете, обязательны ли эмпатия и «человеческое присутствие» для преподавателя в корпоративном обучении? Или нам достаточно просто качественной передачи знаний?

Делитесь в комментариях 👇

Марат Немешев
директор департамента цифровых решений ООО ЛАНИТ-ТЕРКОМ
преподаватель кафедры системного программирования СПбГУ
член комиссии по реализации кодекса этики Альянса в сфере ИИ
https://ethics.a-ai.ru