🚨 Новые навыки в кибербезопасности: спрос на специалистов в области LLM и ML растёт

В 2024 году всё больше организаций осознают важность защиты своих активов от угроз, связанных с искусственным интеллектом. Согласно отчёту ISACA, около 24% опрошенных назвали навыки в области LLM SecOps и ML SecOps одними из самых серьёзных пробелов в кибербезопасности.

🔑 Что такое LLM SecOps и ML SecOps? ML SecOps — это процесс интеграции безопасности на всех этапах разработки и развёртывания систем машинного обучения. Фреймворк включает в себя защиту данных, используемых для обучения моделей, предотвращение искажений, а также применение стандартных мер безопасности, таких как безопасное кодирование, моделирование угроз и реагирование на инциденты.

LLM SecOps охватывает весь жизненный цикл крупных языковых моделей, начиная с подготовки данных и заканчивая реагированием на инциденты. Этот процесс включает такие аспекты, как этическая оценка на этапе разработки, очистка обучающих данных, предотвращение создания вредоносного контента, мониторинг модели после её развертывания и цензоринг.

📚 Где можно обучиться этим навыкам? Для специалистов по безопасности появляются новые ресурсы и курсы. Например, Benjamin Kereopa-Yorke, старший специалист по безопасности и исследователь в области AI, поддерживает репозиторий на GitHub с ресурсами и тренингами по ML SecOps. Также OWASP подготовил проекты Machine Learning Security Top Ten и OWASP Top Ten для LLM, описывающие, как предотвращать атаки на ML-системы и защищать LLM от угроз, таких как утечка данных или кража моделей.

🌐 Прочие ключевые навыки кибербезопасности Помимо навыков в ML и LLM, компании всё чаще ищут специалистов с опытом в облачных технологиях (42%), а также в области реализации мер безопасности (35%) и разработки программного обеспечения (28%). С увеличением числа рабочих нагрузок, перемещаемых в облако, важность защиты облачных активов становится всё более очевидной.

Stay secure and read SecureTechTalks 📚

#кибербезопасность #SecureTechTalks #LLM #ML #информационнаябезопасность #SecOps #ISACA