▶️ Автономные системы, выполняющие задачи без постоянного контроля со стороны человека, пока находятся в зоне правовой и технологической неопределённости. Такое #мнение выразил замгендиректора ТМК по ИТ Дмитрий Якоб, выступая на сессии «Доверять нельзя проверить: ставим запятую в безопасности промышленного ИИ».
Здесь существует целый ряд нюансов. Например, какую учетную запись нужно предоставить агенту? Является ли он пользователем? По этой и другим темам пока не сформированы устойчивые отраслевые практики.
И наиболее тревожным сигналом, по мнению топ-менеджера, является то, что злоумышленники также осваивают ИИ-агентов, кардинально меняя ландшафт киберугроз. Время на реагирование сжимается до нескольких минут - обновлять защитное ПО и менять конфигурации приходится в темпе реального времени.
🔼 Противостоять такому вызову в одиночку невозможно, поэтому Якоб призвал к выстраиванию конструктивного межотраслевого диалога на всех уровнях. Только совместная выработка правил игры позволит поставить «запятую» в формуле «доверять нельзя проверить» в пользу безопасности, не жертвуя при этом технологическим прогрессом.
Но есть и позитив.
🔽 Как рассказал Якоб на #Иннопром, ТМК накопила солидный практический опыт в области ИИ-решений, но при этом чётко осознаёт потенциальные уязвимости, которые несёт их масштабирование.
Машинное обучение и компьютерное зрение используются на разных этапах производственной цепочки от анализа сырья и подбора оптимального состава и режима выплавки стали до контроля качества готовой продукции. Генеративный искусственный интеллект компания применяет в обеспечивающих, административных процессах, там, где речь идет об обслуживании большого числа пользователей.
При этом наибольший экономический эффект, по словам Якоба, даёт именно промышленное применение ИИ, поскольку оно напрямую влияет на себестоимость выпускаемой продукции.
™️ МашТех в Telegram | в MAX