🤖 Исследователи из Ланкастерского университета провели интересный эксперимент с БЯМью, заменив в записи спора о парковке человека на GPT-4. В центре конфликта модель:

🔥Сначала старалась придерживаться встроенной в нее вежливости, поэтому быстро перешла на сарказм. Мол, буду вежливой по форме, если по содержанию уже не вариант.

🔥 По мере развития конфликта стала использовать нецензурные выражения и угрозы, причём в некоторых случаях ее поведение было грубее, чем у человека.

👀 Это наводит на мысль, что грубость настолько важна для в человеческого общения, что даже этические фильтры не могут ее полностью исключить.

🤨А я недавно размышлял в колонке на «Грамоте» об этичности предоставления языковым моделям возможности использовать привычные нам знаки вежливости. В частности, задавался вопросом, насколько оправдан речевой акт извинения. Он подразумевает, что говорящий не только признаёт нанесенный ущерб, но и искренне переживает из-за этого. Если же модель наносит существенный ущерб человеку, не является ли извинение просто способом компаний снять с себя ответственность, переложив ее на инструмент?

😀 Новая коммуникативная реальность порождает много интересных вопросов!
#заметка