Anthropic отслеживает, как пользователи применяют Claude, и блокирует аккаунты после выявления подозрительной активности. Компания обнаружила четыре аккаунта, через которые нейросеть использовали якобы для подготовки материалов, связанных с Sputnik, «РИА Новости» и RT.
Claude помогал перерабатывать новости, адаптировать тексты для разных аудиторий и готовить материалы для эфира. Anthropic провела расследование, заблокировала аккаунты и передала технические данные отраслевым партнерам.
Если пользователь применяет нейросеть для перевода, редактуры, заголовков или подготовки закадрового текста, само по себе это ничем не отличается от использования любого другого программного инструмента. Поэтому возникает закономерный вопрос: на каком основании подобная деятельность превращается в предмет публичного расследования? Когда компания не просто блокирует нарушения правил, а описывает профессиональную деятельность клиентов в публичном отчете, граница между обеспечением безопасности и наблюдением за пользователями становится крайне размытой, - заключил ИТ-эксперт Илья Костунов.
🐈Кот из будущего