AI-инференс станет новым двигателем cloud-native. Так считает глава CNCF

На мероприятии в честь 10-летия CNCF Джонатан Брайс, исполнительный директор фонда, заявил, что AI-инференс превратит Kubernetes-кластеры в центр притяжения для всей AI-инфраструктуры.

Давайте разберём, почему это не просто красивые слова.

Логика такая: открытые фундаментальные модели становятся лучше → компании начинают делать на их основе маленькие специализированные модели, заточенные под более узкий круг задач → эти модели нужно где-то запускать → и вот они уже крутятся на инференс-движках поверх Kubernetes-кластеров. То есть куб из «штуки для деплоя микросервисов» превращается в «штуку, на которой живёт AI».

И тут начинается самое интересное.

Это меняет всю картину для cloud-native проектов. Брайс считает, что AI-агенты постепенно станут основным способом вызова бэкенд-сервисов вместо привычных графических интерфейсов. То есть CNCF-проекты превращаются в headless-сервисы, которые вызывают агенты, а не люди через UI.

Но есть нюанс (куда без него). Существующие CI/CD-пайплайны и процессы code review уже не справляются с темпом, который задают AI-инструменты для написания кода. При этом качество этого кода оставляет желать лучшего, что только увеличивает нагрузку на мейнтейнеров Open Source-проектов. Брайс использовал термин «Eternal September» — как поток первокурсников, которые каждую осень приходят в универ и не знают вообще ничего о процессах. Только здесь этот поток не заканчивается.

В итоге получается, что AI генерирует больше кода, чем люди успевают ревьюить, а качество этого кода... ну, скажем так, оставляет простор для роста.

При этом роль инженера никуда не исчезает, а трансформируется в сторону platform engineering. Люди будут отвечать за архитектуру и качество, а агенты возьмут на себя рутину.

CNCF сейчас курирует больше 240 проектов. Какие из них останутся актуальными в эпоху AI — пока открытый вопрос.

Интересные времена, короче. А вы уже думаете о том, как ваш стек будет выглядеть, когда основным «пользователем» ваших сервисов станет агент, а не человек?

Источник: cloudnativenow.com