Innovative Forecasting: “A Transformer Architecture for Enhanced Bridge Condition Prediction”
// Инновационное прогнозирование: "Использование ML-модели "Трансформер" для повышения качества прогнозирования состояния мостов" //
Manuel Fernando Flores Cuenca et al
Современные системы управления мостовыми активами часто полагаются на реактивные стратегии, основанные на часто несистематизированные данные осмотров и обследований. В данной работе предлагается переход к проактивному прогнозированию с использованием модели машинного обучения "Трансформер", вдохновленной моделями обработки естественного языка и широко используемой ныне в онлайн-переводчиках. В предложенном авторами методе исторические данные национальной базы мостов CША за 1993-2024 годы трактуются как "предложения", где каждый год представляет собой "слово", а характеристики моста – его векторное представление. Ключевым преимуществом модели "Трансформер" является механизм самовнимания, позволяющий модели анализировать всю историю наблюдений одновременно и выявлять сложные долгосрочные зависимости, которые недоступны другим наиболее наиболее распространенным рекуррентным сетям (LSTM, GRU). По словам авторов, модель демонстрирует точность 96.88% для краткосрочного и 86.97% для семилетнего прогноза, что существенно выше показателей LSTM (50.15%) и GRU (72.49%). Выражаясь образно, предложенный метод позволяет мостам "говорить" через данные инспекций, а инженерам – "слышать" их с высокой точностью, закладывая основу для более совершенного подхода к управлению инфраструктурой.
Abstract: The preservation of bridge infrastructure has become increasingly critical as aging assets face accelerated deterioration due to climate change, environmental loading, and operational stressors. This issue is particularly pronounced in regions with limited maintenance budgets, where delayed interventions compound structural vulnerabilities. Although traditional bridge inspections generate detailed condition ratings, these are often viewed as isolated snapshots rather than part of a continuous structural health timeline, limiting their predictive value. To overcome this, recent studies have employed various Artificial Intelligence (AI) models. However, these models are often restricted by fixed input sizes and specific report formats, making them less adaptable to the variability of real-world data. Thus, this study introduces a Transformer architecture inspired by Natural Language Processing (NLP), treating condition ratings, and other features as tokens within temporally ordered inspection “sentences” spanning 1993–2024. Due to the self-attention mechanism, the model effectively captures long-range dependencies in patterns, enhancing forecasting accuracy. Empirical results demonstrate 96.88% accuracy for short-term prediction and 86.97% across seven years, surpassing the performance of comparable time-series models such as Long Short-Term Memory (LSTM) and Gated Recurrent Units (GRUs). Ultimately, this approach enables a data-driven paradigm for structural health monitoring, enabling bridges to “speak” through inspection data and empowering engineers to “listen” with enhanced precision.
Flores Cuenca M.F. Innovative Forecasting: “A Transformer Architecture for Enhanced Bridge Condition Prediction” / M.F. Flores Cuenca, Y. Yardim, C. Hasan // Infrastructures. – 2025. – Vol. 10. – Innovative Forecasting. – № 10. – P. 260. DOI: 10.3390/infrastructures10100260
Заглавное изображение - авторов статьи
