Anthropic добавила в правила запрет на жестокое обращение с Claude
⠀
Что именно запретили?

В новой редакции Usage Policy появился пункт про затяжное и ничем не оправданное жестокое или оскорбительное поведение по отношению к моделям компании. Он стоит в разделе про жестокость и психологический вред, рядом с травлей людей и контентом о насилии. Редакция вступает в силу 12 ноября.
⠀
За грубый промпт забанят?

Из текста так не выходит: речь о затяжном поведении, а не об одном резком сообщении. Но порогов и примеров в самом документе нет. Общее правило политики такое: при подозрении на нарушение компания может предупредить, ограничить или отключить доступ.
⠀
Раньше такого не было?

В правилах не было: в редакции от 15 сентября 2025 года о моделях в этом разделе нет ни слова. А вот в августе 2025-го Anthropic уже дала Opus 4 и 4.1 право завершать разговор в редких случаях затяжного вредного или оскорбительного общения. Тогда же компания писала, что не знает, есть ли у моделей моральный статус, но принимает вопрос всерьёз.
⠀
Что ещё изменилось?

Высокорисковых областей, где нужен квалифицированный человек и раскрытие использования ИИ, стало одиннадцать вместо семи: от юридических советов до пособий и миграционного статуса. Из списка пропал пункт про автоматическую генерацию материалов для публикации. Для ИИ, который управляет техникой, добавили отдельные требования: человек, способный остановить машину, и ограничения, не зависящие от модели.

RAGNAROK | ИИ и технологии