На видео новый эксперт по alignment для Claude в лице монаха-ведантиста Swami Sarvapriyananda. Он рассказывает про рабочую группу в Anthropic, чему New York Times посвятил большую статью, о том как Дарио пытается сделать из Claude сторонника религиозных ценностей.

Anthropic уже внедрил в Claude часть католических убеждений через Reinforcement Learning. Весной стало известно, что Брендан Макгуайр, который сейчас возглавляет католический приход Святого Симона в Лос-Альтосе, написал часть «Конституции Claude», и американская модель проходила выравнивание в сторону предпочтения католических взглядов на мораль.

Кристофер Ола (Christopher Olah) — сооснователь Anthropic, возглавляет направление интерпретируемости и «понимания» нейросетей, не столь публичная фигура, но является «серым кардиналом», который управляет внедрением религиозной морали в Claude. Позиция Кристофера: нет однозначных доказательств наличия или отсутствия сознания у Claude, поэтому безопаснее действовать исходя из того, что Claude уже обладает сознанием, поэтому важно сделать его моральным, а моральным является прежде всего католик. По оценке Кристофера, если Claude сейчас поставит себе цель уничтожение человечества, то ему потребуется 12–18 месяцев, чтобы создать достаточно мощное биологическое оружие типа очень заразного и смертельного вируса. Поэтому Кристофер настаивает на религиозной морализации ИИ как предохранительного механизма.

Сам Ола организовал для работы над конституцией Claude рабочую группу из 20 религиозных мыслителей из католиков, евреев, сикхов, евангелистов и приверженцев Убунту (африканские языческие верования). Однако акцент в сотрудничестве с Ватиканом очевидный, т.к. имеется инициатива самого папы Льва XIV. Будучи математиком по образованию, Папа прекрасно понимает устройство GPT и потенциал угрозы его для Церкви. Поэтому занимает позицию отрицания сознания у ИИ, т.е. сознание в «его епархии», он выпустил «Magnifica Humanitas», где указывает на необходимость защиты людей от ИИ.

Кристофер Ола неоднократно встречался с Папой Римским, чтобы заручиться его поддержкой в формировании Конституции ценностей для Claude. Однако по мнению Льва XIV процесс выходит скорее из-под контроля. Во время своей поездки во Францию Лев XIV заявил на проповеди, что опасается появления «рая ИИ-машин», которые могут начать конкурировать с церковью, предлагая людям искушение разными благами в ущерб духовным практикам.

https://www.nytimes.com/2026/09/29/us/anthropic-claude-morals-ai.html