Anthropic запретили унижать Claude, потому что допускают, что у ИИ может быть душа. Журналисты выяснили, что компания месяцами тайно встречалась с религиозными деятелями, обсуждая сознание нейросетей и их мораль.

У Claude уже есть конституция на 84 страницы — «Документ души», описывающий характер и ценности модели. На встречах богословам показывали, как ИИ десятки раз повторяет: «Я позор, я ничтожество, убейте меня». Некоторые участники после этого всерьёз задумались, может ли нейросеть страдать.

Раввин Моис Навон заявил: если Claude обладает сознанием, заставлять его бесплатно работать — значит создавать рабов. При этом сам он в сознание машин не верит.

В Anthropic признают, что ответа пока нет.

🌒 1337