👩‍💻Anthropic наняла сотрудника, который будет заниматься «благополучием ИИ».

Компания Anthropic наняла своего первого сотрудника на полный рабочий день, который будет заниматься «благополучием моделей» искусственного интеллекта.

Кайл Фиш, рассказал что ему поручено изучить «благополучие моделей» и то, что должны делать компании в этой связи. Эта роль предполагает изучение сложных философских и технических вопросов, в том числе того, какие практические шаги могут предпринять компании для защиты интересов систем ИИ — если таковые у них окажутся.

В докладе, над которым Фиш работал до прихода в Anthropic, утверждается, что существует «реальная возможность» того, что в ближайшем будущем некоторые системы искусственного интеллекта станут сознательными или автономными: два критерия, которые, по мнению многих экспертов, являются достаточными для того, чтобы это заслуживало морального рассмотрения.

Исследователи утверждают, что опасения двояки. Если системы ИИ станут морально значимыми, и это не признавать, то возможно не корректное обращение с ИИ — представьте себе промышленное животноводство, но в ещё большем масштабе.

С другой стороны, если ошибочно полагать, что системы ИИ являются морально значимыми, хотя на самом деле это не так, это будет бесполезная трата ресурсов на благополучие ИИ, отвлекая внимание от людей.