Cisco выпустила Model Provenance Kit — написанный на Python набор инструментов с открытым исходным кодом, предназначенный для отслеживания происхождения нейросетей и сравнения их функционала.

Решение с интерфейсом командной строки определяет метаданные и «веса» для создания «отпечатка» LLM.

Разработчики пояснили: «Представьте Model Provenance Kit как ДНК-тест для моделей ИИ. Подобно тому, как ДНК-тест выявляет биологическое происхождение, Model Provenance Kit анализирует как метаданные, так и фактические параметры модели, прошедшие обучение (подобно уникальному геному, из которого состоит модель), чтобы оценить, имеют ли модели общее происхождение, и выявить признаки модификации».

Новинка призвана устранить пробелы в прозрачности цепочки поставок ИИ-сервисов — сегодня многие организации используют нейросети с открытым исходным кодом из репозиториев вроде HuggingFace, где LLM потенциально могут быть загружены с неполной или вводящей в заблуждение документацией.

👍 — «ДНК-тест» для ИИ — новый шаг к их безопасности
🗿 — скоро все модели будут «родственниками» из-за обучения на синтетических данных