گوگل چند وقت پیش ax رو معرفی کرد که اُپن سورسه ولی کم دیدم در موردش حرف زده بشه.
مشکل kubernetes اینه که برای pod ها همونقدر که cpu و ram درخواست کرده باشن کنار میذاره، فرقی نداره مصرف واقعی چقدر باشه!
اما ایجنت بیشتر وقتش منتظره، چند ثانیه کار میکنه، یه tool call میزنه بعد دوباره منتظر تایید یا جواب میمونه! این انتظار از چند ثانیه طول میکشه تا ساعتها و...
و اگه شما هزاران ایجنت روی سرور deploy میکنید این اصلا خبر خوبی نیست چون منابع برای هر ایجنت دائمی کنار گذاشته میشه :)
حالا ax اومده و اینو با agent substrate حل کرده! وقتی ایجنت منتظره ازش یه snapshot میگیره، بعد جاشو میده به یک ایجنت دیگه، هر موقع ایجنت خواست ادامه بده، زیر ۵۰۰ میلیثانیه state قبلیش رو restore میکنه!
اینجوری روی یک سرور میشه تا صدها و یا هزاران ایجنت ران کرد!
https://github.com/google/ax
@DevTwitter | <Amir/>
Post #13413
3.12K

- ❤ 18
- 👍 2
- 🔥 1