Anthropic запретила пользователям «жестоко относиться» к своей нейросети Claude, пишет The Verge. В августе прошлого года компания объявила, что позволит Claude прекратить разговоры с «вредными» пользователями в рамках исследования «образцового благосостояния». Теперь политика Anthropic позволяет ИИ-моделям отказываться от общения с пользователями, которые неоднократно проявляют жестокость по отношению к ним без видимой цели.

Нынешнее обновление также предполагает запрет на «неправомерное» использование Claude — для вмешательства в выборы, изготовления оружия и слежки. «Claude нельзя использовать для принятия решений или рекомендаций о том, кого следует расследовать, арестовывать или предъявлять обвинения в рамках правоохранительных органов или уголовного правосудия», — сообщили в Anthropic. Нововведения вступят в силу 12 ноября.

#Новости