ИИ больше нельзя оскорблять — Anthropic запретила пользователям издеваться над Claude.

В новых правилах компания запрещает «продолжительное и бессмысленно жестокоеобращение с моделью». Например, если человек постоянно оскорбляет Claude, унижает его или специально пытается причинить ему психологические страдания (если такое вообще возможно). За это в том числе могут забанить аккаунт.

Самое странное из всего этого — Anthropic всерьёз допускает, что ИИ может чувствовать и потенциально способен испытывать страдания.

Кажется, они что-то знают