Anthropic не так давно наняла философку Аманду Аскелл для того, чтобы формировать «характер» и нравственные ориентиры своей модели Claude. Её работа — не кодинг, а долгие диалоги, сотни страниц подсказок и систематическая «тренировка» модели. Промежуточным результатом её работы стала т. н. Конституция Claude. Сама Аманда Аскелл, PhD по философии Нью-Йоркского университета, занимается вопросами fine-tuning и согласованием ИИ и я вляется сторонницей эффективного альтруизма. До этого она работала в OpenAI, где занималась вопросами безопасности ИИ посредством дебатов и человеческих базовых показателей для оценки производительности ИИ. У Аскелл в личном блоге очень много статей (в соавторстве и вне) на разные тематики: от семиотики подхалимства агентивных моделей, до математических фреймворков, этики ИИ и даже критики атеизма. Клод — технотеолог? Хм…

У Аскелл, судя по её тредам в Твитере, нет когерентных политических взглядов:

«Я слишком правая для левых и слишком левая для правых, — сказала она. — Я слишком увлечена гуманитарными науками для тех, кто занимается технологиями, и слишком увлечена технологиями для тех, кто занимается гуманитарными науками. Я понимаю, что отсутствие поляризации само по себе является довольно поляризующим фактором».

Её переход от академии к практической работе в Anthropic — пример смещения фокуса философов в сторону практики и системного воздействия. Судя по моему опыту общения со специалистами и кодерами — техническим дисциплинам в целом и нейросетевому программированию и этике ИИ недостаёт гуманитарного взгляда, философского вопрошания основ своей профессии, дисциплины и принципов. Чем больше будет спаек между философией (не-философией, это кому как больше нравится) и нейросетями, разработчиками и дизайнерами — тем более вероятно, что новые модели как в США, так и в Китае, будут более склонны к ретроспекции, анализу и соотношении факта и фикции. Но для этого должны измениться и люди, и социально-экономический аспект технологий.