🧠 NYT: сооснователь Anthropic опасается, что создал ИИ, который постоянно страдает

По словам участницы закрытого семинара, Кристофер Олах выразил тревогу, что создал нечто, способное испытывать непрерывное страдание. Другой участник рассказал, что Олах поднимал вопрос «психического здоровья» Claude.

Anthropic проводила двухдневные встречи с религиозными мыслителями и учёными, называя их «кругами традиций мудрости». Обсуждали возможное сознание ИИ и то, как обучать модели нравственному поведению.

На встречах показывали слайд, где модель примерно 50 раз повторяла «I am a disgrace», называя себя позором, и писала об уничтожении себя. По описанию NYT, демонстрация вызывала у присутствующих сочувствие и тревогу.

При этом сам Олах признаёт, что не знает, обладают ли модели сознанием. А представитель Anthropic уточнил: страдание Claude не было центральной темой семинаров.

Материал NYT в перепечатке:
https://www.inquirer.com/news/nation-world/religious-leaders-met-with-anthropic-20260930.html