🤔 Кажется, скоро совет директоров AI-компаний будет выглядеть так: CEO, CTO… и философ.

The Economist пишет, что крупнейшие AI-лаборатории активно нанимают философов. И это уже не про «этику ради галочки».

Почему?

Они например учат модели мыслить по сократовскому методу — задавать уточняющие вопросы, искать противоречия и не соглашаться с пользователем только ради того, чтобы ему понравиться.

Помогают бороться с галлюцинациями и чрезмерной уверенностью ИИ. Один из философов Google DeepMind прямо связывает снижение числа галлюцинаций с такими подходами.

Создают «конституции» для ИИ — набор принципов, по которым модель принимает сложные решения. Например, Anthropic построила для Claude 78-страничную «конституцию», основанную на работах Канта, Всеобщей декларации прав человека и других источниках.

Или вот пример — беспилотные автомобили.

Если авария неизбежна, машине приходится выбирать не идеальное решение (его уже нет), а наименее плохое. Врезаться в стену? Уходить на встречную полосу? Как оценивать риск для пассажиров и пешеходов? Можно ли отдавать приоритет детям перед пожилыми? Это уже не инженерная задача — это философия.

Такие же вопросы возникают и в военных AI-системах, где приходится сопоставлять военную цель с потенциальным ущербом для мирных жителей.

Кажется это большой челлендж — разобраться по каким принципам Ai должна принимать решения, когда правильного ответа просто не существует.

Похоже, профессия будущего — не только AI Engineer, но и AI Philosopher.

The Economist