LLMmap: Fingerprinting For Large Language Models
Pasquini et al., 2024
Препринт, код

Сегодня у нас интересный препринт, посвященный LLMmap, инструменту для фингерпринтинга от исследователей из Университета Джорджа Мейсона. Фингерпринтинг LLM, то есть определение того, какая LLM лежит в основе того или иного инструмента – важная часть тестирования сервиса на безопасность, поскольку зная, что за модель или API крутятся в бэкенде, вы можете подобрать более подходящий промпт для инъекции/джейлбрейка или даже сгенерировать его в white-box-режиме, если речь идет об open-source модели. Кроме того, это может быть полезным, если к вам как бизнесу приходят с демо «уникальной модели, обученной с нуля в нашей лаборатории», и вам почему-то стало интересно, что именно скрывается за не имеющими аналогов наработками 😈