🧐 ИИ-компании начали нанимать философов

На рынке ИИ появляется новая ниша: специалисты с философским бэкграундом помогают компаниям настраивать поведение моделей, правила безопасности и ценностные ограничения.

Что известно:
• ИИ-лаборатории нанимают философов, чтобы влиять на то, как чат-боты рассуждают и отвечают.
• В Anthropic работает Аманда Аскелл, PhD по философии из NYU. Ее команда занимается тем, чтобы Claude был честнее и вел себя безопаснее.
• В Google DeepMind работает Айсон Гэбриэл, бывший преподаватель моральной и политической философии в Оксфорде. Его фокус - этика ИИ и соответствие моделей человеческим ценностям.
• В мае к DeepMind должен присоединиться Генри Шевлин, специалист по этике ИИ и профессор Кембриджского университета.
• Такие специалисты пишут спецификации моделей, «конституции» и поведенческие политики - документы, которые напрямую определяют, как ИИ-модель должна отвечать, рассуждать и вести себя в разных ситуациях.
• Зарплаты senior-специалистов в направлениях этики ИИ, безопасности моделей и AI governance могут доходить до $250 000-400 000 в год.
• При этом рынок пока маленький: эксперты оценивают, что большинство компаний нанимают меньше 10 человек на такие позиции.

🤔 В ИИ все больше задач, которые нельзя решить только кодом. Нужно определить, где модель должна отказывать, как реагировать на спорные запросы, какие ответы считать безопасными, где проходит граница между помощью и риском.

Раньше у крупных технологических компаний уже были этические советы и комитеты, но их часто критиковали за слабое влияние на реальные продуктовые решения.

Если вам удобнее следить за контентом в MAX, мы уже там.
Подписывайтесь на канал - все самые важные новости из мира ИИ будем выкладывать туда.