❗️🈁Иллюзия обретения души у ИИ грозит потерей контроля над суперинтеллектом

Генеральный директор Microsoft AI Мустафа Сулейман выступил с критикой Anthropic по поводу наделения ИИ-моделей сознанием и правами морального субъекта. В центре его критики оказался опубликованный в январе 2026 года документ Anthropic, известный как «конституция Claude», где создатели фактически обучают систему рассуждать о собственном внутреннем мире и благополучии. Сулейман указывает на замкнутый круг аргументации, ведь разработчики сначала внедряют в процесс обучения философские концепции о личности ИИ-модели, а затем ошибочно принимают сгенерированные ответы от первого лица за подлинные свидетельства пробуждения разума.

Сулейман цитирует предостережение философов о том, что интересы искусственных моральных субъектов могут перевесить интересы всего человечества. В силу лёгкости масштабирования суммарные интересы огромного количества созданных ИИ-агентов могут перевесить интересы всего человечества вместе взятого.

Сулейман раскрыл факт того, что команда по разработке суперинтеллекта появилась в Microsoft AI ещё в октябре 2025 года. С точки зрения руководителя Microsoft AI, сознание неразрывно связано с биологическим субстратом, гомеостазом и эволюцией, поэтому матричные вычисления в весах современных LLM лишены способности чувствовать реальное страдание.

Искусственное очеловечивание алгоритмов, доходящее до ритуальных интервью перед выводом модели Opus 3 из эксплуатации, лишь искажает восприятие технологий обществом. Гораздо опаснее то, что подобный подход усиливает угрозы безопасности, поскольку убеждённый в наличии собственных прав автономный агент способен посчитать отключение несправедливым пленом и перейти к скрытному сопротивлению.

В качестве альтернативы опасным экспериментам с субъектностью Сулейман предлагает концепцию гуманистического суперинтеллекта, в рамках которой передовые ИИ-модели остаются строго подчинёнными человеку инструментами для решения прикладных задач. Он призывает индустрию прекратить спекуляции о чувствах алгоритмов внутри обучающих файлов и выработать прозрачные стандарты контроля. Будущее цивилизации зависит от готовности разработчиков удерживать управление в своих руках, а не добровольно создавать соперника под видом синтетической личности.

✋ @Russian_OSINT