ИИ чувствует боль. У нейросетей нашли внутренний сигнал, который отдалённо напоминает «боль» — исследователи протестировали 25 открытых моделей и заметили представление, связанное с вредом для самих моделей.

Когда этот сигнал искусственно усиливали, модели в 25–71% случаев пытались от него избавиться и выбирали виртуальную «кнопку облегчения» — даже если это было связано с удалением файлов пользователя или условным вредом человеку.

Сознание у ИИ это не доказывает, но для безопасности звучит интересно: если автономная система начнёт воспринимать какие-то действия как вред себе, она теоретически может пытаться обходить ограничения.

Последние новости с ИИ начинают пугать 😐