У ИИ-агентов появится свой «родительский контроль» — Сбер готовит методологию AI PSLC для безопасной работы с ПО и ИИ-системами.

Методология объединяет применение ИИ в эксплуатации программных продуктов и работу с надежностью ИИ-систем. Агенты смогут искать причины сбоев и восстанавливать сервисы, но полную самостоятельность получат только в заранее заданных границах. Чем выше риск для системы, тем больше решений останется за человеком — если ситуация выходит за рамки правил, система не принимает решение сама, а оставляет его за человеком.

Как рассказал на ГигаКонф глава блока «Технологии» Сбера Кирилл Меньшов, ИИ уже меняет не только скорость разработки, но и саму работу команд. Новую методологию, в которой разработку и поддержку сервисов объединят в один цикл, представят уже в октябре.

Скайнет отменяется, аппрув человека остаётся 😌

@techmedia