Когнитивная капитуляция
Главная угроза внедрения ИИ в разработку — не недостатки нейросетей и агентов, а психология человека. Когда ИИ генерирует код, который выглядит убедительно и проходит тесты, инженер перестает его проверять. А по мере того, как ИИ-агенты забирают себе все больше функций: проектирование, тестирование, документирование, ... — у разработчика возникает непреодолимое желание пустить все на самотек.
IEC 61499 помогает строить архитектуру смешанной критичности без деградации функциональной безопасности
Безопасное использование результатов ИИ в АСУТП требует жесткого сегментирования компонентов контура управления. Открытый стандарт IEC 61499 идеально ложится на эту задачу: он позволяет в едином онтологическом пространстве назначать функциональные блоки на ресурсы с разным уровнем критичности и формально верифицировать их разделение. Детерминированная логика и ML-модели работают в одном проекте, обмениваясь данными (например, через OPC UA), но ИИ физически не может «сломать» критический ресурс.
ИИ — это ассистент, а не автопилот
Успешные кейсы (от генерации конфигураций MES до предиктивной аналитики) строятся на строгом правиле: Агент создает артефакт ➔ Инженер проверяет и подтверждает ➔ Агент делает следующий шаг. Никакой полной автономии без контроля. Промышленный софт будущего обязан быть «AI-friendly» (например, иметь встроенный MCP-сервер), чтобы агент мог запрашивать данные и предлагать изменения, получать контекст и копить навыки.
Гибрид «Физика + ИИ» побеждает чистый Data Science
ИИ как правила не хватает точности для самостоятельного расчета сложных химических или физических процессов. Рабочая схема, которую уже внедряют лидеры рынка: ИИ чистит сырые данные и готовит контекст ➔ Строгая физико-химическая модель (First Principles) считает параметры, которые невозможно снять телеметрией (например, активность катализатора) ➔ ИИ использует эти данные для прогноза и оптимизации режима.
Аппаратная реальность: привет, локальные open-source модели
Из-за санкционных ограничений и требований к защите КИИ, эра облачных моделей в промышленной автоматизации вряд ли настанет. Компании вынужденно переходят на локальные, дистиллированные модели (уровня Qwen). Да, есть деградация качества по сравнению с лидерами рынка, но для инженерных задач, документирования, генерации кода и ИИ-верификации локальных моделей и агентов собственной разработки должно быть достаточно.
В связи с изложенным (простите за канцеляризмъ) просто вспомнилось, что есть OpenFB , который нами задумывался именно для того, чтобы:
- Изолировать ML-скрипты в ресурсах с низкой критичностью.
- Предоставить ML-инженерам безопасную «песочницу» для тестирования гипотез на исторических и реальных данных без риска для производства.
- Сформировать базу «золотых образов» функциональных блоков, чтобы ИИ-агенты генерировали стандартизированный, проверяемый код, а не хаос.
Вот такие вот инсайты 🤔