Зимой мы с Ярославом Шмулёвым из R77 AI разбирали тему безопасности загрузки данных в нейросети — сначала кратко в посте, потом подробно в статье.
С тех пор новостей про неправильную работу с данными и нейросетями становится всё больше. Самая свежая и шумная — про увольнение директора по продажам московской инженерной компании за «разглашение коммерческой тайны в DeepSeek».
Вечер перестаёт быть томным, тема перестала быть абстрактной. Если вы до сих пор обходили её стороной, читайте наш материал на Хабре о том, как ИИ-сервисы хранят и обрабатывают данные и почему это уже не просто паранойя.
🤖 habr.com/ru/companies/ratingruneta/articles/1068006
И кое-что для затравки:
Если данные уже использовались для обучения модели, то нельзя «открыть» модель и убрать из неё один конкретный документ как файл из папки: информация уже статистически повлияла на параметры, и это необратимо.
В момент принятия пользовательского соглашения, вы даёте разрешение на хранение, обработку и использование своих данных для обучения модели. Косвенно это может означать, что выводы на основе загружаемой информации, становятся частью общего «знания» системы.
#нейросети #ИИ #конфиденциальность #данные