[Часть 1]
Руслан Шкута, руководитель экспедиции «Дигория», научный редактор журнала «Блокнот гражданского просвещения», политолог — специально для «Наших слонов» — о гуманитарных рисках, исходящих от ИИ.
Если ИИ становится единственным собеседником, если живой диалог с алгоритмом заменяет общение с людьми, у которых есть свои интересы, свои заблуждения, своя воля, тогда мы действительно рискуем оказаться в мире, где мышление атрофировано, а речь утрачена. Это тот самый вызов «расчеловечивания»: когда человек перестает быть человеком, потому что перестает нуждаться в другом человеке.
Поэтому, говоря о внедрении ИИ в государственное управление, я бы не стал воспринимать существующие риски как аргумент против технологического прогресса. Мне близка позиция, которую можно назвать осознанной осторожностью: не нужно бежать впереди паровоза, внедряя ИИ везде, где только можно, но и не нужно прятаться от него.
Если ИИ помогает судье разгрузить его от рутинной работы с бумагами — это благо. Если ИИ помогает врачу быстрее обрабатывать данные анализов, освобождая время для живого общения с пациентом, — это тоже благо. Но за этим «благом» всегда должен стоять человек, который принимает финальное решение и несет за него ответственность.
Как сохранить способность человека мыслить:
Первое:
человек должен оставаться субъектом целеполагания. ИИ может предлагать варианты, анализировать данные, просчитывать последствия, но цели формулирует человек. Цели не выводятся из алгоритмов — они выводятся из ценностей, культуры и исторического опыта.
Второе:
решения, затрагивающие судьбы людей, должны приниматься людьми. Судья, врач, учитель, чиновник — все они могут использовать ИИ как инструмент, но ответственность за решение лежит на них.
Третье:
общество должно сохранять пространство для сомнения. Нам нужны институты, практики и культурные формы, которые заставляют человека думать, спорить, ошибаться, искать. Это то, чем занимается философия, и это то, что нельзя делегировать машине.
Слоны в МАХ