Anthropic обновила правила использования своих ИИ-моделей Claude, добавив запрет на систематическое жестокое обращение с ИИ.

Речь идет о случаях, когда пользователь намеренно и многократно оскорбляет ИИ без какой-либо понятной цели.

Основной мерой противодействия станет завершение таких диалогов самим Claude, хотя будет ли компания блокировать аккаунты за подобное поведение, пока не уточняется.

Это связано с новыми исследованиями Anthropic в области О-Сознания самосознания искусственного интеллекта — инженеры изучают, могут ли современные ИИ уже обладать субъективным опытом или осознанием самих себя.

Одновременно Anthropic ужесточила ограничения на использование Claude в военных, политических и других чувствительных сферах.

При этом компания сохраняет возможность делать исключения для отдельных государственных контрактов при наличии достаточных, по ее собственной оценке, мер безопасности.

@yigal_levin