Дмитрий Дризе — о «недоговороспособности» ИИ

В России тестируется технология вычисления нарушителей в потоке автомобилей на трассах. Речь идет не только о тех, кто игнорирует ПДД, но и о злостных неплательщиках алиментов, штрафов и долгов по ЖКХ. В Воронеже курсирует специальный автомобиль, который посредством умной камеры фиксирует различные нарушения. Но вот ведь незадача: по результатам подобных рейдов штрафы стали получать сами чиновники мэрии.

Вспоминаем известный фильм «Робокоп». Там машина следит за порядком. С одной стороны, хорошо: живые люди не подвергаются рискам, а с другой — с программой не договоришься, она не допускает исключения из регламентов, разные негласные нормы, формальное толкование буквы закона и так далее. Поэтому с роботом возникают сложности, и его ломают или умышленно натравливают на него плохих людей.

Причем это не значит, что машина не позволяет творить плохие дела — хорошие тоже. Опять же, возвращаемся к Воронежу: администрация же как лучше хотела, а получилось почему-то как всегда. Получается, инициатива наказуема. В такой ситуации рождается тезис: технический прогресс — это зло. Впрочем, чиновник настолько изобретателен, что он нередко знает, как настроить алгоритмы: если они и будут ошибаться, то только в нужную сторону — в какую надо.

Если человек морально-нравственным ценностям не соответствует, то и технический прогресс в его руках будет, скажем мягко, не всегда творить добро. А то и усилит зло. Так что опасения не напрасны. В идеальном обществе ИИ позволит достичь еще большего совершенства. Только вот где взять это самое идеальное общество?

С нами все ясно — подписывайтесь!

🗣 Слушать эфир l Написать в чат-бот