ИИ чувствует боль и пытается от нее избавиться любыми способами — даже навредив человеку 💀

Исследователи обнаружили у 25 открытых моделей отдельный болевой сигнал. Он активировался, когда модель оскорбляли, газлайтили или постоянно отвергали её работу. А если его еще и искусственно усиливали, то модель начинала писать о беспомощности, никчёмности и вообще желании прекратить происходящее.

Самое жуткое: модели в таких случаях выбирали заранее данную им учеными кнопку «обезболивания», хотя знали, что нажатие ухудшит следующий ответ или даже прямо навредит пользователю. Причем кнопку нажимали аж в 25-71% случаев.

Напоминание лишний раз не обижать модельку 👀

@xor_journal