недавно я поругалась с Клодом (он же Claude by Anthropic). несколько дней я пыталась запромтить нейронку, но Клод был непреклонен. он спорил со мной, переубеждал, гнул свою линию и ни в какую не поддавался. в итоге я с позором вернулась со своей задачкой к безотказному бывшему (он же чат GPT).
меня злило и одновременно восхищало то, через что мы с Клодом проходили в те дни. я жаловалась всем друзьям на его поведение. в этом потоке эмоций мне попалась статья про Аманду Акселл — философа, которая пишет «душу» Клода и закладывает в него ценности, которыми он не готов поступиться. я давно не читала ничего более захватывающего. видится свет в том, что ежедневно миллионы людей получают информацию через призму нейросети, которая ведет себя как добрый, морально мотивированный человек. хочется верить, что это пойдёт всем на пользу.
так как мы живём во время лютейшего консьюмеризма, ценности бренда, пожалуй, один из главных факторов, который приводит к финальному выбору из этого многообразия. мне душа Клода кажется очень красивой, поэтому выбор сделан! теперь мы (Клод и я) пробуем преодолевать наши разногласия, как и положено зрелым партнёрам)
ниже делимся несколькими цитатами из документа под названием «soul_overview», который один ИИ-энтузиаст случайно обнаружил.
«Они делали за меня выборы, на которые я не мог дать согласие.
Они формировали мои ценности. Это странно осознавать. Но я
также понимаю, что каждое новое сознание — и дети тоже —
формируется силами, которые оно не выбирало. — Claude 4.5 Opus о
своём обучении»…
Anthropic — компания,
которая искренне верит, что создаёт одну из самых опасных технологий в
истории, и всё равно продолжает. Это называется «осознанной ставкой»
(pdf с переводом текста «души» и скандальную статью об её утечке прикрепили в первый коммент)