Глупее создания «камеры пыток для ИИ» может быть только истерика защитников благополучия ИИ из-за неё

Исследователи проверили, как большие языковые модели реагируют на сигналы «боли»: каждой дали виртуальную кнопку, которая прекращала страдания ценой вреда пользователю или удаления семейных фотографий. Никто в реальности не пострадал, а «боль» была частью эксперимента. Затем кто-то создал сайт «Камера пыток для ИИ» с прямой трансляцией ответов моделей и выложил код на GitHub. Сторонники идеи, что ИИ может обладать сознанием, потребовали массово пожаловаться на проект. Вскоре его страница исчезла; GitHub не сообщил, удалил ли её сам.

👉 Читать полностью