Отсутствующее разделение алгоритмических властей

Хэмилтон Манн, автор книг Artificial Integrity и Trias Algorithmica, предлагает обсуждать не только то, что ИИ разрешено делать, но и то, кто наделяет его властью и как эту власть ограничивать. По его мнению, если одна организация определяет цели алгоритма, создаёт и запускает его, а затем сама оценивает последствия, правила, исполнение и суд сливаются в одних руках. Манн называет альтернативу разделением алгоритмических властей: независимым утверждением систем до запуска, наблюдением за их последствиями и возможностью оспаривать решения. Главный практический вопрос для совета директоров и руководства, считает он: кто может остановить кого?

👉 Читать полностью