Главред одной районки написал: «Лен, наш корр скормил ChatGPT интервью с главой. Офигительный эксклюзивчик. До выхода, разумеется, ашипки ведь. И после этого по запросам на эту тему GPT стал выдавать наш текст. Дословные куски. Как?».
А вот как. ChatGPT с включённой памятью запоминает всё. Если модель обучается на пользовательских данных (а это настройка по умолчанию, пока сам не отключишь), твой эксклюзив становится частью базы. И через какое-то количество запросов от других юзеров может всплыть в чужом чате как «полезная подсказка».
А может быть хуже – журналист грузит в AI черновик расследования. Имена, даты, суммы, схемы. Модель это видит и берет в обучение. Через месяц кто-то спрашивает: «Подскажи про коррупцию в Стародрищенске». Она выдаёт тему с конкретными фамилиями из твоего материала. Источник слили, даже не поняв как.
Причем чаще всего компании вообще не в курсе, какие нейросети юзают их сотрудники. И ваши корпоративные данные уже утекли через ChatGPT.
Что делать: в настройках ChatGPT отключить «Chat history & training». Перплексити аналогично. В Claude не знаю, он вроде не учится на пользовательских запросах. В корпоративных подписках юзать API, а не веб-интерфейс, там данные не сохраняются.
Или выбирать модели, которые физически не хранят промпты. Но это отдельный разговор и отдельные деньги.
Post #103
70
- ❤ 1
- 🤯 1
- 😱 1
- 💯 1