Чем быстрее ИИ пишет и выкатывает код, тем опаснее становится обычная модель эксплуатации.

Если раньше главной задачей было понять, почему сервис упал, то с ИИ-системами появляется второй вопрос: а правильно ли вообще ведёт себя агент.

На ГигаКонф старший вице-президент, руководитель блока «Технологии» Сбера Кирилл Меньшов объявил, что в октябре компания представит методологию AI PSLC. Она объединяет применение ИИ в эксплуатации программных продуктов и обеспечение надёжной работы самих ИИ-систем.
Цели, правила и границы автономности агентов определяются человеком. ИИ-агенты выявляют и диагностируют отклонения и только в рамках своих полномочий восстанавливают сервисы, а выход за эти рамки требует согласования с человеком. Опыт реальной работы при этом улучшает следующий цикл разработки.

То есть контроль теперь нужен не только за доступностью сервиса, но и за действиями самого ИИ. И это, кажется, довольно важный сдвиг: чем самостоятельнее становятся агенты, тем больше инфраструктуры требуется вокруг их самостоятельности.

@IT_Portal