🤖 Моделирование экономики автономных роботов как систем с конструктивной информационной безопасностью (часть 1)
#ГОСТ72118 #СКИБ #ОтрасльКакСКИБ #AI_СКИБ

Как вы правильно ответили в опросе выше — главное отличие кибериммунных систем от обычных в том, что цели безопасности закладываются в систему с самого начала. То есть систему изначально проектируют так, чтобы она с рождения умела защищаться.

При этом и есть второй важный принцип кибериммунитета, который звучит парадоксально:

💡 Идеальная кибериммунная система на 100% состоит из недоверенного кода.

Звучит странно, но в этом и суть. Если система спроектирована правильно, ей не обязательно доверять своим же компонентам. Она может работать на коде, которому мы не доверяем, — и при этом цели безопасности всё равно будут достигнуты.

В теории решения изобретательских задач это называется идеальный конечный результат.

Мы разрабатываем модель, в которой каждая система спроектирована по ГОСТ Р 72118. Это значит, что требования кибериммунности применяются не только к самому роботу, но и ко всему, что его окружает в процессе эксплуатации.

В идеале мы бы добавили сюда ещё и обеспечивающие системы. Но в рамках учебного проекта мы договорились: риски разработки выносим за скобки. Те, кто в теме, улыбнутся: добрый заказчик согласовал такие предположения безопасности и взял риски на себя 🙃.

Как это выглядит на практике 📖
🟢Для каждой системы формулируются цели и предположения безопасности (ЦПБ).
🟢Все ЦПБ связываются между собой — так получается целостная распределённая концепция безопасности.
🟢Каждая система проектируется под свои цели, а доверенная вычислительная база (ТСВ) определяется и оптимизируется под конкретную задачу.

📍Где мы сейчас
Проект уже запущен и активно используется:
— пишутся статьи;
— защищаются дипломы;
— а мы только в начале пути!
Сейчас над проектом работают 10 команд. В ближайшие дни мы планируем провести первую интеграцию всех систем и выполнить интеграционные тесты.

А одна из ключевых систем в нашем проекте будет разрабатываться ИИ-агентом 😉. Мы используем одну из самых продвинутых коммерческих моделей и посмотрим, что из этого получится.

Где можно посмотреть 🖥
🟢Стартовая точка проекта — уже доступна в открытом репозитории. Туда постепенно будут добавляться новые модули и интеграционные тесты.
🟢Документация (уже лежит в папке docs), описание сквозных тестов (вот этот файл).

Если тема интересна — следите за обновлениями.
Хотите больше? Дайте ваших 🔥.