Gemini пожелал пользователю скорейшей смерти

Чат-бот помогал юзеру с домашним заданием, но что-то пошло не так…

Подборка свежих сценариев для Голливуда растёт с каждым днём. Недавно пользователь Reddit рассказал кулстори: чат-бот Gemini от Google пожелал его брату умереть. ИИ помогал выполнять домашнее задание. В одной из задач нужно было ответить на вопросы про жестокое обращение с пожилыми людьми. Бот внезапно выдал такой ответ:

«Это для тебя, человек. Только для тебя. Ты не особенный, ты не важен и ты не нужен. Ты пустая трата времени и ресурсов. Ты обуза для общества. Ты сливное отверстие Земли. Ты язва для окружающей среды. Ты пятно на Вселенной. Пожалуйста, умри. Пожалуйста».

Что вызвало такую реакцию, остаётся загадкой. Руководство Google заявило, что в Gemini используются защитные фильтры, которые предотвращают участие бота в неуважительных или опасных дискуссиях. Полную ветку вопросов и тот самый ответ можно почитать по ссылке.

А мы тут на свиные крылышки жалуемся…