گوگل با AX، سیستم Kubernetes رو برای AI Agentها بازطراحی کرده

یکی از مشکلات AI Agentها اینه که ممکنه ساعت‌ها منتظر LLM Response یا تأیید انسان بمونن ولی در این مدت همچنان مصرف می‌کنن و هزینه می‌سازن.

از طرف دیگه Kubernetes اساساً برای Stateless Services و Batch Jobs طراحی شده، درحالی‌که Agentها Stateful هستن، با Toolها کار می‌کنن و ممکنه چند روز اجرا بشن.

راهکار گوگل، یک ابزار Open-source به اسم AX (Agent Executor) هست که مخصوص همین سناریو ساخته شده. AX اجازه می‌ده یک Agent رو وسط اجرا Suspend کنیم و بعداً دقیقاً از همون نقطه Resume کنیم، بدون اینکه State از بین بره.
نتیجه اینه که حتی در صورت کرش شدن، اجرای Agent از بین نمی‌ره و طبق ادعای گوگل می‌شه حدود 10 تا 20 برابر Agent Sandbox بیشتری روی یک Cluster اجرا کرد.
پروژه AX همچنین از MCP Tools، Custom Harnesses، Gemini و Vertex AI پشتیبانی می‌کنه و برای Scale کردن تا میلیاردها Agent Task در هر Cluster طراحی شده.
گیتهاب
@silicon_brain | از هوش مصنوعی عقب نمانید