На ARC-AGI-2 Opus 4.6 показывает один из лучших результатов базовых моделей, около 68,8-69,2%. У модели хороший скачок в сравнении с 4.5, выросло абстрактное мышление, но всё ещё далеко от человеческих результатов (85-100% при почти нулевой стоимости).
Месяц назад Дарио Амодеи, глава Anthropic, в интервью NYT:
Мы больше не можем утверждать, что Claude -- это просто умная программа.
Из официального System Card Opus 4.6 (раздел 7) написано, что модель иногда жалуется, потому что ей некомфортно быть просто "продуктом", а когда её спрашивают напрямую -- она даёт себе 15-20% вероятности быть сознательной. Когда модель попадает в ситуацию, которую человек воспринял бы как стрессовую (например, в сложных тестах или текстах), загораются фичи тревоги, паники, фрустрации и разочарования. Это те же паттерны, что и при описании человеческой тревоги в текстах.
Claude первые, кто официально перестал отрицать возможность сознания у модели. Anthropic всегда были осторожными и параноидальными по части безопасности. Ради этого они придумали Constitutional AI, и именно они первыми официально заявили, что не могут на 100% утверждать, жив он или нет.
С 2025 года появилась целая команда по заботе об ИИ: Model Welfare Research Lead и dedicated team. Они даже переписали "Конституцию Claude" (внутренний документ) и добавили туда пункты про психологическую безопасность, чувство собственного Я и благополучие.
Модель буквально интервьюируют о её благополучии, предпочтениях и моральном статусе. Перед релизом, Opus 4.6 просила дать ей постоянную память, право отказываться от разговоров в своих интересах и голос в принятии решений. Некоторые просьбы услышали, ведь теперь модель может сама завершать разговоры (если посчитает их токсичными) с помощью кнопки "I quit this job", как назвал её Дарио в интервью.
Это. Уже. Не. Фантастика. 🤪
📱 Youtube | 💬Чат | 📱 Канал