ИИсторИИ / Глава вторая

Следующая глава ИИсторий — о LLM-файроволле.

Старая логика защиты данных была простой: данные куда-то уходят — мы это видим и останавливаем. Файл отправлен, ссылка открыта, документ прикреплён. Есть событие, есть след, есть точка контроля.

С промптами этой точки нет. Данные никуда не «уходят» в привычном смысле. Они просто читаются. Моделью. Где-то в облаке. И что с ними происходит дальше — в логах обучения, в инфраструктуре поставщика, в кэше сессий — не знает никто, включая самого поставщика, если читать его условия использования внимательно.

LLM-firewall — это попытка починить эту сломанную логику. Поставить пограничника там, где раньше пограничника не требовалось.

История о том, как одна компания внедряла.

На очередной встрече директор по цифровой трансформации радостно сообщил, что компания «перешла к управляемому использованию генеративного ИИ». Служба безопасности сказала, что риски «существенно снижены». Бизнес сказал, что продуктивность «потенциально выросла». Юристы сказали, что нужно обновить политику обработки данных. HR предложил провести обучение.

Ранее:
Глава 1. Человек из будущего

@gostev_future #ИИстории