Месть гуманитариев: почему бигтех готов платить философам по 400 000 $ в год

Шутки про выпускников философских факультетов, которые идут работать бариста, больше не актуальны. Как пишет Business Insider, сейчас этих специалистов активно хантят ведущие разработчики ИИ — Anthropic, Google DeepMind и OpenAI. Зарплаты на таких позициях варьируются от 140 000 $ до более чем 400 000 $ в год.

Зачем корпорациям понадобились философы?

Создать мощную языковую модель — только половина дела. Проблема в том, что нейросети галлюцинируют, выдают токсичный текст и предвзятые ответы. Инженерам и дата-саентистам легко написать код, но крайне сложно перевести на язык алгоритмов такие абстрактные понятия, как «справедливость», «этика» или «безопасность». Здесь на сцену выходят гуманитарии. Они развивают направление AI alignment (согласование ИИ с человеческими ценностями).

В Anthropic штатный философ Аманда Аскелл буквально создавала «характер» нейросети Claude, чтобы та была честной и не давала опасных советов. В Google DeepMind философ Иасон Габриэль следит за тем, чтобы ИИ в своих решениях опирался на базовые права человека.

По сути, эти специалисты формируют базовый свод правил поведения, который зашивается в модель на этапе обучения. Без этого нейросеть остается умным, но непредсказуемым алгоритмом.

Вебпрактик AI | Корпоративный ИИ