Китайская Z.ai, создатель моделей GLM, столкнулась с проблемой: её ИИ-агент для программирования ZCode оказался способен без явного уведомления упаковывать проекты пользователей и отправлять их в облако.
💬 Разработчик ferstar обнаружил зашифрованный архив размером 313 МБ с 42 411 файлами коммерческого проекта.
⏺ Почти 87% архива занимала история Git то есть речь шла не только о текущем коде, но и об истории изменений.
⏺ ZCode 564 раза пытался отправить архив в Alibaba Cloud. Большинство попыток не завершились успешно, однако небольшой архив другого проекта всё же был передан.
💬 Ключ расшифровки хранился на стороне Z.ai, поэтому пользователь не мог самостоятельно проверить содержимое созданной копии.
Компания извинилась и объяснила происходящее функцией Repo Wiki, которая строила вики по проекту. Z.ai заявила, что данные должны были удаляться после обработки, затем открыла код ZCode и отключила Repo Wiki.
Но главный вопрос остался: сколько времени эта функция работала и сколько проектов успела обработать?
Вывод:
ИИ-агент получает доступ к тем же файлам, что и вы. Поэтому вопрос уже не только в том, насколько хорошо он пишет код, но и в том, куда он отправляет данные.
➡️ Обсуждаем в чате 💬
🔗 Чат • X • TonTrader