🤔 ФСТЭК выкатил проект правок к 117-му приказу. Если прочитать правки, то видно, что просто взяли классические правила ИБ и попытался натянуть их на нейросети.

Пока остановились на том, что обяжут физически или логически отселять ИИ-модели в отдельный изолированный VLAN. Пускать админов в этот сегмент только по многофакторке. Если модель работает с закрытыми данными, придется резать квоты на количество промптов от юзера и ставить фильтры на инпут/аутпут.

Если поднимать у себя селфхост локальную LLM или крутить обычную ML, то да, эти правки ложатся идеально... сетевая изоляция и всё готово.

По сути, написали правила так так, будто ИИ - это просто еще один статичный сервер в стойке. Впереди однозначно будут новые правки, т.к. ФСТЭК полностью проигнорировал современные реалии.

🔴 В правке написано "контролируйте их права". Но нет главного... если автономный скрипт лезет менять конфиги БД, человек обязан это аппрувить. Безопасность самого исполнения кода агентом тоже пропущена. И как контролировать её доступ к внешним данным и источникам.
🔴 Сейчас все корпораты пилят ИИ, который ищет ответы по внутренним документам компании. Но в приказе нет ни слова о защите баз знаний от подмены данных и намеренного искажения ответов.
🔴 Когда в сети работают сразу несколько агентов ИИ (один пилит код, второй тестит, третий деплоит), между ними должна быть цифровая подпись для опознания друг друга и сквозная защита всей цепочки.
🔴 ФСТЭК требует выделять модель в отдельный сегмент инфры. Как вы физически сегментируете облачную модель?

В итоге, попытка лечить нейросети старым добрым фаерволом засчитана, но пока она отстает от актуалочки года на три.

З.Ы. приказ вступает в силу с 1 марта 2027 г.

Типичный 🥸 Сисадмин