🚨 Кто на самом деле отвечает вам в Web3? 🕵️‍♂️

Мир Web3 стремительно меняется. AI-агенты везде: они могут торговать криптой 💹, участвовать в DAO-голосованиях 🗳, управлять токенами и кошельками 💰. Такие агенты уже контролируют решения, влияющие на миллионы долларов.

Но тут возникает фундаментальный вопрос: а вы уверены, что ваш агент — это именно он?
Что вместо любимого GPT или Claude вам не подсунули более дешёвую, медленную или уязвимую модель?

В централизованных сервисах подмена может быть незаметна — в децентрализованных же это часто вопрос репутации и денег.

💡 Идея Positive Technologies — “семантический отпечаток” LLM-агентов 🧬

Речь идёт о semantic fingerprinting — методе, который позволяет определять конкретную языковую модель по её уникальному стилю, “манере речи” и паттернам ответа.
У каждой модели есть своя “подпись”:
- выбор слов 🗨,
- структура предложений 📐,
- способы изложения фактов 📚,
- реакции на нестандартные вопросы 🌀

🎯 Как это работает?

1️⃣ Подготовка теста
Исследователь подбирает специальные фразы и вопросы. Не просто “привет, как дела?”, а набор заданий, которые вызывают у модели типичные, повторяющиеся паттерны.

2️⃣ Сбор ответа
Модель отвечает. Даже если вы переписываете вопрос, её “стиль” остаётся.
Например, GPT-4o склонен давать структурированные, компактные, но насыщенные ответы. А Llama 3.1 — чаще “разливается” на лишние детали.

3️⃣ Сравнение с эталоном
Ответ обрабатывается алгоритмом, который ищет совпадения с известными “отпечатками” моделей.
Если совпадений мало - высока вероятность подмены 🤨

🔍 Что можно обнаружить

🛑 Подмену модели без уведомления — например, если сервис решил сэкономить и вместо GPT-4 запустить GPT-3.5.
🐞 Маскировку уязвимостей — заменили модель на ту, которая не “спотыкается” на старых ошибках.
📉 Падение качества решений - агент начал выдавать хуже структурированные ответы или делать ошибки в вычислениях.

🔥 Все дело в рисках

В экосистеме, где AI-агент может распоряжаться 100 ETH 💎, решать судьбу смарт-контракта 📜 или голосовать в DAO, подмена модели - это не просто баг, это реальная угроза безопасности и деньгам.
Представьте: ваш DeFi-бот, который годами работал с высокой точностью, внезапно стал медлить или ошибаться. В лучшем случае - упущенная прибыль, в худшем - потеря средств.

⚡ Семантический анализ позволяет проверять подлинность AI-агентов так же, как криптография проверяет подлинность транзакций.

🔗 Более подробно о подходе PT читайте в статье на Хабр

Stay secure and read SecureTechTalks 📚

#Web3 #AI #Fingerprinting #SecureTechTalks #LLM #Безопасность #AIагенты #ПроверкаМодели #DeFi #Инфобез