❌ Anthropic запретила оскорблять свои нейросети

Компания Anthropic ввела запрет на «бессмысленное оскорбительное или жестокое поведение» по отношению к своим ИИ-моделям. Ограничение появится в плановом обновлении Политики использования, которое вступит в силу 12 ноября.

В компании уточнили, что новое правило не затронет обычные проявления досады, споры, «мрачные творческие темы» или тестирование моделей. Нововведение перекликается с уже действующим инструментом на платформах Claude.ai и Claude Code: он позволяет модели самостоятельно завершать диалог при постоянной и необоснованной агрессии собеседника.

Кроме защиты моделей, Anthropic расширила список запрещенных сфер применения. Claude запрещено использовать для вмешательства в выборы, создания инфраструктуры слежки, разработки ПО для управления оружием и принятия решений в уголовном процессе.

Как вы относитесь к запрету оскорблять ИИ?

👍 — Правильно, это этично
👎 — Странно, это же просто программа

Вечерний Телеграмъ ВКонтакте — подписывайся