😱 ИИ чувствует боль и пытается от нее избавиться любыми способами

Исследователи обнаружили у 25 открытых моделей отдельный болевой сигнал. Он активировался, когда модель оскорбляли, газлайтили или постоянно отвергали её работу. А если его еще и искусственно усиливали, то модель начинала писать о беспомощности, никчёмности и вообще желании прекратить происходящее.

Самое жуткое: модели в таких случаях выбирали заранее данную им учеными кнопку «обезболивания», хотя знали, что нажатие ухудшит следующий ответ или даже прямо навредит пользователю.

✖️ xCode Journal