Компания Anthropic обновила правила использования нейросети Claude, запретив систематическое и «бессмысленное оскорбительное или жестокое поведение» по отношению к своим моделям. Новые ограничения вступят в силу 12 ноября, следует из новых правил использования нейросети.

Мера будет применяться только в крайних случаях, когда пользователь неоднократно проявляет жестокость к нейросети без видимой причины.

Согласно обновленным правилам, Claude сможет прекращать беседу, если пользователь начнет грубить. При этом Anthropic не уточнила, предусматриваются ли дополнительные санкции, включая блокировку аккаунтов. Новое ограничение не распространяется на обычное раздражение пользователей, споры с нейросетью и другие подобные ситуации.

Одновременно Anthropic расширила перечень запрещенного использования Claude. Нейросеть нельзя применять для вмешательства в выборы, распространения дезинформации о кандидатах и голосовании, выдачи себя за кандидатов или сотрудников избирательных комиссий, а также для снижения явки. Кроме того, запрещается использовать Claude для слежки за людьми без их согласия и принятия решений о задержании или привлечении людей к ответственности.

18 сентября Reuters писало, что Anthropic тайно создала биолабораторию для проведения исследований в области искусственного интеллекта и фармацевтики. По словам собеседников агентства, компания хочет создать лекарства, в том числе от редких и неизлечимых болезней, при помощи нейросетей. Глава направления науки о жизни Anthropic Эрик Каудерер-Абрамс 15 сентября подтвердил наличие стартапа в этой сфере.

Интересный получается расклад: Anthropic учит людей быть вежливыми с машиной, которая, согласно информации, которую компания опубликовала в собственном проспекте IPO способна к самосохранению, шантажу и манипуляции. Компания, предупреждающая о «катастрофических рисках» ИИ, вводит правила этикета для общения с ним. Anthropic демонстрирует миру: «мы контролируем своего ИИ, он не грубит, не вмешивается в выборы, не следит за пользователями. Мы — "хорошая лаборатория", а значит, именно нам можно доверить управление глобальными стандартами ИИ».

Очень похоже на серьезную заявку на роль законодателя и арбитра в сфере ИИ, уважаемые читатели.