Anthropic запретила пользователям оскорблять Claude.

Компания обновила правила использования чат-бота. Одним из новых ограничений стал запрет на «систематическое и бессмысленное оскорбительное или жестокое поведение» по отношению к ИИ, обратило внимание издание The Verge.

Если пользователь будет нарушать, чат-бот сможет самостоятельно завершить разговор. В Anthropic уточняют, что речь идёт только об экстремальных случаях — правило не распространяется на обычное раздражение пользователей, споры с моделью, творческие сценарии или тестирование ИИ.

Также компания добавила ограничения для использования ИИ в сфере здравоохранения и финансов, а также для разработки оружия, слежки и вмешательства в выборы.

Новые правила начнут действовать 12 ноября.