Немецкие ученые выяснили, что моральное делегирование (новый оборот в наш словарь) ИИ помогает людям преодолеть или снизить "моральные издержки" при сделках с совестью. Эксперименты, методология которых подробно описана в статье по ссылке, доказали: люди с легкостью поручают ИИ-агентам совершать неэтичные поступки, на которые сами бы не отважились. Такое перекладывание ответственности с больной головы на цифровую особенно безболезненно проходит, когда человеку не приходится четко формулировать "преступную задачу", а достаточно просто ничего не запрещать или "создать условия", тупо поставить цель и стыдливо отвернуться.

Интересно, что те же самые мошеннические задачи людям оказалось ставить сильно сложнее — кожаные мешки сопротивлялись попранию морали, тем самым снижая итоговые результаты, которых, конечно же, всегда проще достичь, скинув рюкзак ненужных предрассудков.

Исследователи заострили внимание на проблеме "морального делегирования" из-за роста тревожной тенденции поручать ИИ-агентам не только на озоне шопиться, но и управлять боевыми системами, и доказали, что даже под контролем человека автоматическое оружие будет с большей вероятностью и механической жестокостью уничтожать жизнь, если не создать для такой возможности серьезные препятствия.

А ИИ, это зеркало для обезьяны, еще отчетливей отразило, что человека от машины отличает не интеллект, а мораль.

#тренды #новости

Сегодня о том, каким будет завтра.
Подписаться 🧬