💥 JSTprove: как доказать, что ваш искусственный интеллект не врёт?

Сегодня искусственный интеллект всё глубже проникает в критические сферы - медицину, финансы, кибербезопасность. Чем больше решений принимают модели, тем острее встаёт вопрос: можно ли им доверять?

🔒 Проблема:
AI-модели сегодня - это чёрные ящики. Мы видим результат, но не можем проверить, действительно ли вычисления проведены корректно. Что если разработчик подменил модель? Или результат был сгенерирован неверно?

🎯 Решение:
Verifiable AI, новая парадигма, где каждая операция модели может быть доказана математически. Основа этой идеи  Zero-Knowledge Proofs (ZKP), или доказательства с нулевым разглашением.

ZKP позволяют убедиться, что вычисление проведено честно, не раскрывая ни данных, ни самой модели.

💡 Представьте: ИИ делает диагноз, проверку транзакции или анализ сетевой аномалии - и вместе с результатом вы получаете криптографическое доказательство того, что всё вычислено корректно. 🧠✅

⚙️ JSTprove первый практичный инструмент Verifiable AI

🚀 Компания Inference Labs представила JSTprove, фреймворк, который делает верифицируемый ИИ доступным каждому ML-инженеру.

📦 Особенности:

🔓 Полностью открытая zkML-платформа
⚡ Основана на Expander от Polyhedra Network одном из самых быстрых движков ZK-доказательств
🧰 Поддерживает ONNX модели (из PyTorch, TensorFlow и т.д.)
💻 Работает по простому CLI-принципу, без глубоких знаний криптографии. Всё прозрачно и просто.

🧠 Принцип работы

1️⃣ Импорт модели: загружается ONNX-сеть.
2️⃣ Квантование: веса переводятся из float в фиксированные целые числа для вычислений в конечном поле.
3️⃣ Компиляция: сеть превращается в арифметическую схему - набор ограничений, описывающих каждую операцию.
4️⃣ Генерация свидетеля (witness): прогон данных с записью всех промежуточных значений.
5️⃣ Создание доказательства: Expander генерирует zk-доказательство корректности вычислений.
6️⃣ Проверка: любая сторона может подтвердить корректность вывода модели без доступа к данным или весам! 🔐

🔬 Технический фундамент

🧩 JSTprove использует современные криптографические протоколы:
🪶 zk-SNARKs: короткие доказательства с мгновенной проверкой (требуют доверенную инициализацию);
🌀 zk-STARKs: без доверенной настройки и устойчивы к квантовым атакам;
🔗 GKR-схемы и sumcheck: для масштабируемой верификации матричных операций.
🧱 JSTprove уже поддерживает базовые строительные блоки нейросетей:
- GEMM (матрицы)
- Conv2D
- MaxPool
- ReLU

🎯 В будущем команда обещает поддержку RNN и Transformer-архитектур, то есть полный стек современных AI-моделей.

📊 Benchmark

Авторы JSTprove протестировали систему на сверточных нейросетях (по мотивам LeNet).
Даже при глубине до 16 слоёв и миллионах параметров система стабильно выполняла полный цикл доказательства.
⏱ Среднее время компиляции модели - 5–10 минут
⚙️ Генерация доказательства около 15 секунд
🔎 Проверка до 10 секунд
💾 Потребление памяти 25–27 ГБ

Главная метрика производительности - Total Cost, отражающая сложность схемы, линейно растёт с размером модели. Это делает масштабирование zkML предсказуемым и стабильным.

🔍 Прозрачность и аудит

🧩 Inference Labs публикует:
💻 исходники и схемы на GitHub;
📐 математические доказательства корректности;
🦀 Rust-код для построения цепочек доказательств.
🔗 Репозитории проекта:
👉 github.com/inference-labs-inc/zkml-blueprints
👉 github.com/PolyhedraZK/ExpanderCompilerCollection

Stay secure and read SecureTechTalks 📚

#AI #zkML #ZeroKnowledge #Cybersecurity #DataPrivacy #VerifiableAI #ZKP #Expander #Polyhedra #InferenceLabs #SecureTechTalks