Способны ли языковые модели чувствовать «боль», и как они реагируют на причиняемый им вред?
В исследовании «The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It» учёные обнаружили в 25 нейросетях специфическое внутреннее направление — «ось боли». В отличие от страха или общего негативного контекста, эта репрезентация активируется при вреде, направленном именно на саму модель: газлайтинге, отвержении результатов работы или сомнениях в её субъектности.

При искусственной активации вектора ИИ демонстрирует выраженный дистресс, а в экспериментах по «самолечению» модели готовы снижать качество ответов и даже приносить вред пользователю, лишь бы нажать кнопку, отключающую вектор «боли». Означает ли это зарождение механизмов самосохранения или лишь имитацию — один из самых острых вопросов безопасности ИИ.

#Нейрополитрук Notebook специально для @pltrk