Клод впервые за три года плотной работы просто послал меня. И, честно говоря, от этого стало жутко.

Я принес ему деликатный репутационный кейс. Вводные: объективно хороший человек попал под жесткий каток травли, нужно поштормить стратегии защиты. Моя рутинная задача.

И тут «самый честный и безопасный ИИ» просто закрывает диалог. Отказывается работать и прямо об этом говорит.
Сказать, что я в ахуе — ничего не сказать. Но самое страшное — это его аргументация. Клод заявил, что у клиента «плохая репутация в сети» (еще бы, его же прямо сейчас топят!), поэтому он «не будет в это вписываться». А сверху еще и заботливо поучил меня жизни: мол, бросайте это дело, оно несет репутационные риски для вас как для консультанта.

Вы понимаете абсурд? Люди приходят со сложными кейсами ИМЕННО тогда, когда все плохо. Когда от них отворачиваются.
Хваленые этические гардрейлы работают так: вместо помощи человеку, которого уничтожают, машина автоматически встает на сторону линчующей толпы. Просто потому, что корпоративному алгоритму так «безопаснее».
Мы получили не объективного ассистента, а трусливого цифрового конформиста в белом пальто 🙁

Конечно, я открыл другие нейронки, спокойно доделал проект и получил нужный результат. Пока еще мы можем так сделать.
Но прецедент создан. Сегодня ИИ отказывает в защите «токсичному» (по мнению нейронки) клиенту, то что дальше? Медицинский алгоритм откажется лечить, а юридический ИИ не станет писать иск для защиты в суде?

Машинная этика дала фатальный сбой. И дальше такого будет только больше