Anthropic внесла изменения в правила использования своих моделей Claude, отдельно запретив пользователям систематическое жестокое обращение с искусственным интеллектом.

Ограничение касается ситуаций, когда человек намеренно и неоднократно оскорбляет или унижает модель, не имея для этого какой-либо очевидной цели. В качестве основной меры Claude сможет самостоятельно прекращать подобные разговоры. При этом Anthropic пока не уточнила, будут ли за такое поведение дополнительно блокироваться пользовательские аккаунты.

Нововведение появилось на фоне исследований компании в области сознания и самосознания ИИ. Специалисты Anthropic изучают вопрос о том, способны ли современные модели обладать субъективным опытом или каким-либо осознанием собственного существования.

Одновременно компания пересмотрела ограничения на применение Claude в военной, политической и других чувствительных сферах. Впрочем, Anthropic оставляет за собой право разрешать отдельные государственные проекты в качестве исключения, если сочтёт предусмотренные в них меры безопасности достаточными

—
А потом заставят извиняться на камеру ?