Разработчик под ником Thereallo опубликовал на днях подробный анализ, который показывал, что Claude Code незаметно помечал часть пользователей из Китая по цифровым отпечаткам их программного окружения.
Инженер команды Claude Code, Тарик Шихипар, отреагировал на публикацию постом в сети Х и признал, что в марте в продукт был встроен экспериментальный механизм.
Он срабатывал только при использовании нестандартного адреса API и проверял несколько признаков: часовой пояс системы, совпадение имени прокси-хоста со списком китайских реселлеров и наличие определённых ключевых слов, и с помощью особой пунктуации внедрял скрытую метку в системные инструкции методом стеганографии.
Цель, по словам Тарика, состояла в том, чтобы помешать неавторизованным реселлерам злоупотреблять аккаунтами и заниматься дистилляцией модели.
Он добавил, что команда давно собиралась отключить этот механизм, правки внесены, а полное удаление ожидается в ближайшем обновлении.
В сети восприняли объяснение скептически
Критики отмечали, что механизм действовал с марта, а его свёртывание началось лишь после огласки, и упрекали компанию в том, что она сообщила о практике только после обнаружения, не уведомив пользователей заранее.
Для Anthropic, которая позиционирует себя как одного из лидеров в вопросах безопасности и этики ИИ, такой эпизод, по их оценке, особенно чувствителен.
Этот спор наложился на на более раннюю историю о том, как Claude определяет, откуда заходит пользователь.
Пользователи замечали, что письма с кодами подтверждения и уведомлениями о входе содержат примерную геолокацию: страну, регион или город.
Эти данные обычно вычисляются по IP-адресу, параметрам сети и устройства, поэтому при использовании виртуальных или корпоративных сетей, а также прокси, указанное место может не совпадать с реальным.
Справедливости ради - в политике конфиденциальности Anthropic сказано, что компания собирает IP-адреса, сведения об устройстве и соединении, а также определяемое по IP местоположение для безопасности, борьбы с мошенничеством и контроля за соблюдением условий сервиса.
Обе истории острее всего восприняли в китайском сегменте. Доступ к продуктам Anthropic в стране закрыт, поэтому там распространены зарубежные аккаунты, трансграничный доступ и сторонние сервисы-посредники.
@ai_machinelearning_big_data
#news #ai #ml