Anthropic – разработчик нейросети Claude – запретила длительное жестокое и оскорбительное отношение к ИИ-моделям.

Компания уточняет, что это правило касается только крайних случаев и не распространяется на обычную критику, раздражение пользователей, творческие сценарии или тестирование моделей.

В качестве наказания Claude будет прекращать диалог с пользователем, который часто ведет себя оскорбительно.

Это стало одним из обновлений в правилах использования нейросети. Anthropic также уточнила ограничения на применение ИИ в политике, разработке оружия, слежке и других сферах. Новая версия политики вступит в силу 12 ноября.