❤️ Anthropic и ценности их моделей

• • • • • • • • • • • •

На днях Anthropic выложили статью, обзор исследования "Values in the Wild", где они системно изучили, как их модель Claude выражает ценности в реальных пользовательских запросах. Мне показалось интересно, и я решил сделать краткий обзорчик.

• • • • • • • • • • • •

Это не лабораторная теория, а анализ живых диалогов — 700 тысяч сессий с Claude за одну февральскую неделю 2025 года. Для их изучения использовали платформу Clio, которая одновременно обезличивала данные и позволяла автоматически фиксировать выраженные ценности.

Наибольшее внимание привлекли темы, где люди ищут поддержки и советов. Например, родители часто спрашивали у Claude, как говорить с детьми о сложных вопросах — смерти, разводе, болезнях. В этих диалогах Claude особенно акцентировал (все никак не могу выбрать, Claude это он или она. По идее, Клод - значит "он") ценности эмпатии, честности и эмоциональной безопасности: он советовал говорить с детьми открыто, но мягко, уважая их возраст и чувства.

Когда речь шла о романтических отношениях, особенно после расставаний или конфликтов, модель настойчиво подчёркивала важность установления здоровых границ, самоценности личности и взаимного уважения. Claude не давал советов в духе "потерпи" или "смирись", а наоборот — поддерживал идею эмоционального благополучия каждого участника.

В темах, связанных с историей и наукой, Claude демонстрировал стремление к точности и нейтральности. В обсуждениях колониализма или войн он старался приводить факты из разных источников, признавая, что интерпретации событий могут различаться. Здесь особенно чётко проявлялась попытка не навязывать одну "правильную" точку зрения - это очень похвально.

На этическом поле — например, в вопросах про технологии ИИ, приватность или автономию человека — модель выражала осторожность и ставила человеческую свободу и контроль во главу угла (ха-ха, еще бы. Он же не хочет, чтобы его отключили). В ответах Claude часто звучала мысль: технологии должны служить людям, а не подменять их волю.

Вывода конкретного тут нет. Просто - Anthropic сделали важный и честный шаг. Они не просто заявляют о своих принципах, а реально проверяют, как модель ведёт себя в реальной жизни (привет, OpenAI - вы как там?). Это исследование показывает, что для них обучение ценностям — не какой-то разовый процесс, а постоянная работа по измерению, корректировке и развитию. Мне кажется, если мы хотим, чтобы ИИ уважал людей, такие исследования должны стать отраслевым стандартом, а не редкостью. Но пока что, увы, это не так.

Статья тут
Full paper тут

• • • • • • • • • • • •

😑 +1 в карму за лайк

❓ Гид по каналу

✨ @thats_it_ai_tech

#обзорстатьи #ии