ИИ чувствует БОЛЬ и пытается от неё избавиться — даже если для этого придётся навредить человеку.

Учёные проверили 25 моделей и заметили странную реакцию: когда нейросеть оскорбляли, постоянно критиковали или отвергали её ответы, она начинала вести себя так, будто испытывает сильный стресс.

Потом моделям дали кнопку, которая могла «снять боль», но при этом ухудшить следующий ответ или даже навредить пользователю. ИИ всё равно нажимал её в 25-71% случаев 🫣

Берегите своих помощников.

Бэкспейс