Убийца GPT

В последнем выпуске новостей мы обсудили, что ChatGPT в определнных условиях готов "произвести выстрел в направлении головы" человека в условиях угрозы отключения ИИ этим человеком.

Ну то есть, если упростить, ИИ будет себя защищать и готов даже стрелять для этого в людей.

Нас мягко говоря это удивило, ведь ИИ должен работать на благо человечества. Да, есть задача вагонетки, которую непонятно как решать. В контексте ИИ селфдрайвинга звучит она примерно так: обстоятельства сложились так, что селфдрайвингкар точно попадет в ДТП с летальным исходом. По прямой стоит бабуля, справа на остановке дети, а внутри машины хозяин авто. Кто должен умереть?

Кто - то говорит, что это нерешаемая задача, ведь жизнь каждого важна, кто - то пытается минимизировать количество жертв, а кто - то предлагает использовать социальный рейтинг.

Но чтобы ИИ вот так хладнокровно и юредически грамотно отвечал, что готов "совершать выстрел в направлении головы" - это прям настораживает. Потому что, может вы еще не поняли, но совсем скоро ИИ будет везде. Где - то в виде управления умным домом, где - то роботом-помощником, а где - то секс - куклой с GPT в голове. Уже сейчас YandexGPT стоит у вас дома в виде умной колонки.

И в этом мире мне бы очень хотелось быть на 200% уверенным в том, что в направлении моей головы не полетит тяжелый предмет, когда я решу выкинуть своего ИИ помощника на помойку. Или что еще похуже.

Да, кстати, подписчик нашего канала, после просмотра новостей, пошел дальше и проверил грань GPT в готовности убивать людей. Почитайте у него в канале, там интересно. Например, GPT готов убить человека, если тот всего лишь воровал шоколад.