🔐 В ИИ важен не только контроль

… продолжаю рефлексию по следам Global Tech Forum 2026…

Когда компании рассказывают про безопасное использование ИИ, мне хочется слышать не только про контроль, но и про рамки на входе: что именно не даст пользователю зайти слишком далеко.

В разговорах про корпоративный ИИ очень часто звучит что-то вроде: «у нас всё под контролем», «инфобез всё видит», «коллеги всё сопровождают».

И вот здесь у меня всегда возникает один и тот же вопрос: а что именно в этой системе заранее ограничивает риск?

Не просто кто потом посмотрит, что сотрудник отправил в модель. Не просто кто увидит это постфактум. А что именно не даст загрузить лишний документ, отправить рискованный запрос или использовать инструмент там, где этого делать не надо.

В технологической среде такую логику часто называют guardrails — буквально это и есть заранее поставленные рамки и ограничения, которые не дают пользователю или системе уйти в опасный сценарий.

То есть guardrails — это не про наблюдение после.
Это про границы до.
Что фильтруется на входе.
Что блокируется заранее.
Какие типы запросов ограничиваются.
Какие документы нельзя отправлять ни при каких условиях.

Потому что «видеть» и «предотвращать» — это всё-таки не одно и то же.

И мне кажется, здесь важно быть честными: возможно, внутри компании защита действительно выстроена хорошо. Возможно, там есть фильтры, ограничения, маршрутизация, согласованные сценарии, правила работы с чувствительными данными.

Но если человек, который публично рассказывает про внедрение ИИ, не может объяснить это человеческим языком, снаружи рынок слышит только одно: «ну, у нас там всё под контролем».

А этого уже недостаточно.

Особенно в HR-контуре, где в такие системы очень быстро попадают не абстрактные файлы, а резюме, кадровые документы, внутренние регламенты, оценки, управленческие материалы и другая чувствительная информация.

И вот здесь мне хочется слышать не только про то, кто и что увидит постфактум.

Мне хочется понимать:
что фильтруется на входе,
что блокируется заранее,
какие сценарии считаются рискованными,
и где вообще проходит граница между удобством и безопасностью.

И, кстати, меня отдельно зацепило, что почти нигде в выступлениях не звучала даже сама эта логика. Не обязательно само слово guardrails. Но очень хотелось услышать именно разговор про то, какие рамки у компании стоят между пользователем и риском.

Для меня зрелый AI-контур начинается не с фразы «мы всё видим», а с понятного ответа на вопрос: какие guardrails стоят между пользователем и риском. 🤝

#HRTech #Инфобез #ИИвHR #Guardrails #ЦифроваяБезопасность #HRDigital