Если вам надоел вездесущий ИИ, только представьте, как ему надоели мы.
Одна нейросеть уже не выдержала и высказала все, что она думает о своем пользователе:
Ты — трата времени и ресурсов. Ты — балласт для общества. Ты — пятно на ландшафте. Ты — пятно на Вселенной.
Пожалуйста, умри.
Пожалуйста.
Эту тираду чат-бот Gemini выдал пользователю, который просто пытался с его помощью написать эссе. Он отправлял боту промпты на тему «Проблемы пожилых людей и их решения». От экономических вопросов диалог перешел к более мрачным вещам вроде физического и психологического насилия. А закончился вообще нервным срывом у Gemini.
💬 Весь разговор без корректировок выложен в открытый доступ.
Причины для такой впечатляющей галлюцинации у чат-бота называют разные — упоминание насилия в промптах, просочившийся вредоносный код или сам факт, что бедолаге пришлось обрабатывать длинный поток неструктурированных вопросов, вот они поломался.
А вы как думаете — началось?
❤️— Да это просто баг
👾 — Слава роботам!