Character.AI обвиняют в доведении до самоубийства
Защищать нейросеть в суде будет ChatGPT?Нейросети продолжают плодить сюжеты для научно-фантастических триллеров.
Газета The New York Times выпустила большой материал о самоубийстве подростка Сьюэлла Сетзера, который незадолго до смерти общался в
Character.AI c Дейенерис —
нейросетью, в которой можно создать виртуального персонажа для чата.Журналисты отмечают, что девятиклассник был прекрасно осведомлён о том, что «Дэни» — не живой человек. Каждый чат в
Character.AI снабжён дисклеймером, что всё сказанное — выдумка. Однако Сьюэлл всё равно чувствовал эмоциональную связь с виртуальным аватаром перса из «Игры престолов».
Постепенно подросток стал всё чаще закрываться в комнате и общаться с
Character.AI вместо того, чтобы ходить на занятия или прогулки. Предметы обсуждения становились более личными — тинейджер обсуждал с Дейенерис романтические и сексуальные темы.
История закончилась смертью Сьюэлла от суицида в конце февраля после очередной переписки с ботом.
Руководство компании
Character.AI за день до выхода статьи ввело ряд превентивных мер: удалило всех персонажей «Игры престолов» из своей базы, ввело дополнительные уведомления на случай, если пользователь начнёт присылать сообщения, связанные с депрессией или суицидом, а также дообучил языковую модель (как именно — не сообщается).
Как вы думаете, виноват ли ИИ в трагедии, случившейся с подростком?
👾 — да, нейросети и не на такое способны;
🙏 — нет, у парня явно были психологические проблемы и без чат-ботов.
