Character.AI обвиняют в доведении до самоубийства

Защищать нейросеть в суде будет ChatGPT?

Нейросети продолжают плодить сюжеты для научно-фантастических триллеров. Газета The New York Times выпустила большой материал о самоубийстве подростка Сьюэлла Сетзера, который незадолго до смерти общался в Character.AI c Дейенерис — нейросетью, в которой можно создать виртуального персонажа для чата.

Журналисты отмечают, что девятиклассник был прекрасно осведомлён о том, что «Дэни» — не живой человек. Каждый чат в Character.AI снабжён дисклеймером, что всё сказанное — выдумка. Однако Сьюэлл всё равно чувствовал эмоциональную связь с виртуальным аватаром перса из «Игры престолов».

Постепенно подросток стал всё чаще закрываться в комнате и общаться с Character.AI вместо того, чтобы ходить на занятия или прогулки. Предметы обсуждения становились более личными — тинейджер обсуждал с Дейенерис романтические и сексуальные темы.

История закончилась смертью Сьюэлла от суицида в конце февраля после очередной переписки с ботом.

Руководство компании Character.AI за день до выхода статьи ввело ряд превентивных мер: удалило всех персонажей «Игры престолов» из своей базы, ввело дополнительные уведомления на случай, если пользователь начнёт присылать сообщения, связанные с депрессией или суицидом, а также дообучил языковую модель (как именно — не сообщается).

Как вы думаете, виноват ли ИИ в трагедии, случившейся с подростком?

👾 — да, нейросети и не на такое способны;
🙏 — нет, у парня явно были психологические проблемы и без чат-ботов.