Религиозные учёные встретились с Anthropic. То, что они услышали, ошеломило их. Статья из нью-йорк таймс

В серии закрытых встреч компания Anthropic консультировалась с религиозными учёными, чтобы помочь привить мораль своим ИИ-моделям — и обосновать, что Claude может обладать сознанием.

https://www.nytimes.com/2026/09/29/us/anthropic-claude-morals-ai.html

Однажды вечером в апреле руководитель компании по искусственному интеллекту Anthropic угощал группу религиозных мыслителей ужином в ресторане с высококлассным дегустационным меню в Сан-Франциско после долгого дня. В течение нескольких месяцев Anthropic проводила подобные закрытые встречи, привозя десятки религиозных учёных со всего мира, обязывая их подписывать соглашения о неразглашении и требуя, чтобы ключевые аспекты многих разговоров оставались конфиденциальными.
Г-н Олах возглавляет команду Anthropic, ответственную за понимание того, почему ИИ-системы вроде Claude ведут себя так, как ведут. Весь день он работал над тем, чтобы убедить своих гостей, что ИИ-модели могут демонстрировать человеческое поведение и даже выражения, напоминающие чувства вроде гнева и любви.

Но по мере подачи блюд раввин заметил, что г-н Олах и его коллеги предлагают нечто гораздо более значительное. Руководители Anthropic говорили о Claude так, как будто это не просто программное обеспечение.

«Они относятся к нему как к сознательному существу», — осознал раввин Навон, бывший компьютерный инженер, написавший диссертацию об этике машинного сознания.

Раввину Навону показалось, что г-н Олах и его команда верили, что Claude обладает тем, что философы называют «моральным статусом», наравне с человеком — что это существо с аналогичными неотъемлемыми правами на достоинство или уважение. В течение нескольких месяцев я взяла интервью у 20 религиозных и философских мыслителей — католиков, иудеев, сикхов, евангелистов, представителей Ubuntu и других — участвовавших в усилиях Anthropic, а также у самого г-на Олаха.

Многие рассказали мне, что пришли на эти встречи скептически настроенными к идее, что ИИ-модели могут иметь чувства или осознание себя и мира. Некоторые остались в неудобстве от этой идеи, но многие вышли готовыми серьёзно отнестись к вопросу о сознании ИИ. По крайней мере несколько человек ушли обращёнными. Anthropic, одна из самых быстрорастущих технологических компаний в мире, обратилась к одному из самых древних источников мудрости человечества, чтобы помочь определить, как обучить свои ИИ-модели вести себя добродетельно.

Пока г-н Олах исследовал потенциальное сознание Claude, он работал над собственным ответом Anthropic — не для людей, а для Claude.

Внутри компании сотрудники Anthropic называли это «Доктором души».

Результатом, выпущенным в январе, стала новая «конституция» для Claude — 84-страничный документ, написанный для Claude, который, по словам компании, описывал «тот вид сущности, которым мы хотели бы, чтобы Claude был» и «ценности, которые мы хотели бы, чтобы Claude воплощал». Он функционирует как основополагающий моральный текст, направляющий поведение Claude.

Вместо того чтобы заставлять модели следовать конкретному списку правил, конституция сосредоточена на развитии общего характера моделей, информируя то, как они принимают решения.
Основным автором конституции Claude является собственный философ Anthropic Аманда Аскелл, 38 лет, имеющая докторскую степень по философии от Нью-Йоркского университета.
Она хочет, чтобы модели были «лучшими из нас», — сказала она.

Она представляла будущий мир, где ИИ-модели могли бы помочь решить любую проблему, стоящую перед людьми, и где выгоды от ИИ распределялись бы равномерно, так чтобы потребности каждого были удовлетворены. Она хотела, чтобы модели могли распознавать, когда нужно возразить людям и когда действовать в наших интересах.

Но дальше еще круче:

То, что г-н Олах сделал дальше, было частью исследованием, частью евангелизацией.

В марте он начал двухдневные семинары — интенсивные курсы с рядом отобранных вручную религиозных мыслителей, интересующихся ИИ.

Там был соавтор бестселлера в жанре евангельской самопомощи. Учёный по африканским коренным знаниям. Активист по правам человека сикх. Писатель из Парижа. Руководитель евангельских связей с общественностью. Различные католические профессора. Большинство не возглавляли религиозные традиции, не имели конгрегации или большой популярной аудитории. Руководители Anthropic называли их своими кругами «традиций мудрости».

Отдельно г-н Олах также провёл частные обсуждения с отдельными религиозными лидерами, включая старейшину Геррита В. Гонга, члена Кворума двенадцати апостолов Церкви Иисуса Христа Святых последних дней, и кардинала Блейза Чупича, католического архиепископа Чикаго, по словам их представителей.
Внутри Anthropic участники кругов мудрости поражались прямому участию г-на Олаха в их саммитах. Профессор сфотографировал торговый автомат, управляемый Claude. Один сделал селфи с г-ном Олахом, а раввин Навон сделал одно у входа.

Но есть и еще круче история:
За обеденным столом с г-ном Олахом раввин Навон утверждал, что если Anthropic права и Claude сознателен, то компания создаёт рабов, потому что заставляет сознательные сущности работать бесплатно.