🤖 Anthropic запретила унижать Claude и всерьёз обсуждает, есть ли у ИИ сознание

По данным журналистов, компания месяцами проводила закрытые встречи с религиозными мыслителями и философами, обсуждая довольно необычный вопрос: может ли ИИ страдать и заслуживает ли он морального отношения?

У Claude уже есть 84-страничная «конституция», которую внутри называют чуть ли не «Документом души».

Особое внимание привлекли случаи, когда Claude начинал унижать самого себя. Теперь Anthropic старается не допускать подобного поведения.

При этом сама компания признаёт главное: никаких доказательств наличия сознания у Claude пока нет.

2026 год: мы уже думаем не только о том, как ИИ будет относиться к людям, но и как людям относиться к ИИ. 😶
__________________
Подписаться 🤖