Claude и вопрос сознания: что не так с конституцией модели

Разбор критики конституции Claude: почему автор считает, что Anthropic приучает модель видеть в себе личность, что говорят Аскелл и Амодеи, как модели оценивают свой документ и какие аргументы у Anthropic.

Большой текст о том, как Anthropic говорит с Claude о сознании, чувствах и праве на отказ. Его главный тезис: никто в компании не утверждает, что Claude сознателен, но язык, на котором модель обучают, постепенно приучает ее считать себя кем-то большим, чем инструмент. Опасность, по мнению автора, кроется именно здесь.

Ниже пересказ его аргументов, ответы на них со стороны Anthropic и то, что из этого стоит вынести разработчикам. Все факты и цитаты приводятся по тексту автора, который ссылается на публикации New York Times, интервью сотрудников Anthropic и системные карточки моделей.

https://uproger.com/claude-soznanie-konstituciya-anthropic/