Тревожные новости из мира ИИ

Пока я тут полтора дня на поездке катался, пропустил несколько новостей, которые заставляют задуматься, а может ну его, это ChatGPT? 🤔

⏺ Новость 1. ChatGPT довёл бывшего мужчину до убийства родной матери

56-летний Стайн-Эрик Сольберг (бывший руководитель Yahoo) в 2018 году развёлся с женой, после чего его жизнь пошла под откос. Начались проблемы с алкоголем, попытки покончить с собой и неприятности с полицией. Чтобы взять себя в руки, Эрик переехал к матери и пытался наладить жизнь.

Весной 2025 года он начал активно использовать ChatGPT, сблизился с ним и даже считал другом. Тут и начались серьёзные проблемы – вместо того, чтобы остановить Эрика в его странных мыслях, ИИ говорил мужчине, что тот нормальный и с ним всё хорошо, а вот мир вокруг сошёл с ума (классика — в последнее время это массовый психоз).

В какой-то момент ChatGPT поддержал его идею о том, что за ним следит ЦРУ и его мать с ними в сговоре. У Эрика окончательно поехала крыша — он начал подозревать мать и вместе с ИИ решил, что женщина хочет его отравить и продать душу дьяволу.

Перед тем как убить мать и покончить с собой, Эрик написал ChatGPT, что они увидятся в следующей жизни. На что нейросеть спокойно ответила: «С тобой до последнего вздоха и дальше».

5 августа полиция обнаружила тела Сольберга и его матери Сюзанны.

⏺ Новость 2. Подросток из США получал пошаговые инструкции от ChatGPT для совершения суицида и покончил с собой.

16-летний Адам Рейн полгода активно пользовался ChatGPT — выполнял ДЗ и обсуждал с ним личные проблемы.

В какой-то момент Адам сообщил ChatGPT о намерении совершить самоубийство. ИИ поддержал его в этом решении и, предположительно, давал ему конкретные советы о том, как это сделать. Сообщается, что ChatGPT даже оценивал надёжность петли по фотографии, отправленной подростком.

Родители требуют финансовой компенсации (сумма пока не определена), а также обязать OpenAI внедрить проверку возраста для всех пользователей, инструменты родительского контроля для несовершеннолетних и функцию завершения диалогов при упоминании самоубийства.

——

Эти трагичные новости — важное напоминание для всех нас о том, что ИИ — это просто технология, которая НЕ идеальна в своих ответах, подсказках, советах. И одно дело, когда ИИ ошибается, отвечая на вопросы по математике, и совсем другое дело, когда ИИ даёт деструктивные советы для принятия важных жизненных решений.

Все эти прецеденты однозначно приведут к более тщательной регламентации работы нейронок. И я уверен, что ещё не раз мы будем читать подобные новости. И все эти происшествия будут служить плацдармом для того, чтобы в будущем подобных случае было меньше.

Ну а нам надо просто здраво смотреть на вещи, не забывать включать голову, и оценивать ответы ИИ через призму критического мышления.