🙂 In the Weights: проверка тщеславия

В сети вирусится веб-приложение In the Weights, которое проверяет наличие информации о человеке или компании в GPT, Claude, Gemini и Llama и т.д.

Платформа работает через прямые запросы к моделям с принудительно отключенным доступом к сети, чтобы ИИ опирался исключительно на знания, полученные на трейне.

Анализируя выдачу, система высчитывает скоринг. Метрика оценивает вероятность того, что информация об объекте содержалась в обучающих датасетах и содержится в конкретной модели.

Помимо развлекательных целей, проект является наглядным аудитом того, как корпорации агрессивно скрейпят данные.

По мере того как чат-боты вытесняют поисковики, присутствие в памяти моделей становится новой метрикой публичной значимости.

Сервис напоминает о новых реалиях современной приватности: если информация о вас уже есть в весах LLM, стереть ее цифровой след практически невозможно.


@ai_machinelearning_big_data

#news #ai #ml