😑 Claude научили завершать опасные диалоги

Компания Anthropic добавила в свои модели Claude Opus 4 и 4.1 функцию, которая может самостоятельно завершить переписку. Это касается редких случаев, когда пользователь настойчиво требует что-то незаконное или заведомо вредное — от запросов о насилии до попыток получить материалы с участием детей.

До отключения диалога бот сначала несколько раз пытается перевести разговор в безопасное русло. Если это не помогает, чат закрывается, но пользователь может открыть новый или вернуться к старому и переписать свои сообщения.

Anthropic называет это «благоразумием ИИ» и отмечает, что большинство людей с ограничением не столкнётся. При этом компания собирает отзывы о работе функции и продолжает экспериментировать.

————————————————
@AI_FutureNow - IT, технологии, нейросети и бизнес