📌 بزرگ‌ترین باگ کار با AI Agentها ربطی به هوش مدل نداره؛ پای «زیرساخت» گیره!

وقتی تو محیط لوکال یک AI Agent می‌سازی، همه‌چیز جذابه: مدل فکر می‌کنه، Tool رو صدا می‌زنه و خروجی می‌ده. اما روزی که تصمیم می‌گیری این ایجنت رو ببری سمت یک پروداکت واقعی، ماجرا ۱۸۰ درجه عوض می‌شه.

چالش اصلی دقیقاً بعد از زدن دکمه‌ی Run شروع می‌شه.

بیاید یک سناریوی واقعی رو تصور کنیم:
فرض کن ایجنتی ساختی که قرار نیست در ۲ ثانیه کارش تموم بشه؛ یک تسک چند مرحله‌ای داره:
۱. تحلیلی انجام می‌ده و یک ابزار (Tool) رو صدا می‌زنه.
۲. در مرحله بعد، حتماً نیاز به تأیید انسان (Human-in-the-loop) داره.
۳. ممکنه کاربر یا متخصص ۳ ساعت یا حتی ۲ روز بعد روی دکمه تأیید کلیک کنه!

در معماری‌های معمول و سیستم‌هایی مثل Kubernetes (که اساساً برای وب‌سرویس‌های Stateless یا Jobهای کوتاه طراحی شدن)، در این فاصله چه اتفاقی می‌افته؟
کانتینر شما باید باز و فعال بمونه، رم و CPU رو گروگان بگیره، هزینه سرور ایجاد کنه... اون هم برای ایجنتی که عملاً هیچ کاری انجام نمی‌ده و فقط منتظره!

اگر هم کانتینر رو ببندی یا کرش کنه، چی می‌شه؟ وضعیت (State) کارهایی که تا الان انجام شده از بین می‌ره و همه‌چیز باید از صفر ران بشه.

ایجنسی (Agency) چند خصلت دردسرساز برای زیرساخت سنتی داره:
➖ به شدت Stateful هستن (حافظه لحظه‌ای و زنجیره تسک دارند).
➖ اجراهای طولانی‌مدت (Long-running) دارند.
➖ بیشتر از پردازش، درگیر «انتظار» برای ورودی ابزار، انسان یا پردازش‌های سنگین هستند.

اینجا بود که دیدم پروژه‌ی اپن‌سورس جدید گوگل به اسم AX (Agent Executor) دقیقاً دست گذاشته روی همین گره کور.

راهکار AX در ظاهر ساده‌ست اما در مهندسی زیرساخت یک تحول حساب می‌شه:
قابلیت Suspend و Resume کامل State ایجنت.

یعنی وقتی ایجنت به مرحله انتظار می‌رسه (چه تأیید انسان باشه و چه خروجی یک API خارجی)، کل محیط اجرای اون به خواب می‌ره (Suspend می‌شه) و منابع Cluster کاملاً آزاد می‌شن. به محض این‌که پاسخ کاربر رسید، ایجنت دقیقاً از همان میلی‌ثانیه‌ای که متوقف شده بود بیدار می‌شه (Resume)، بدون این‌که حافظه‌اش پاک بشه یا کدی دوباره اجرا بشه.

طبق ادعای گوگل، این سبک معماری می‌تونه ظرفیت اجرای ساندباکس‌های ایجنت رو روی یک کلاستر ۱۰ تا ۲۰ برابر بیشتر کنه و هزینه‌ها رو به شدت کاهش بده.

➖➖➖➖➖➖➖➖➖➖

🏥‌ اما این قابلیت کجاها به کار میاد؟

شاید بپرسید این مسئله در دنیای واقعی کجای کار ما رو راه می‌ندازه؟ دقیقاً در حوزه‌های حساسی مثل HealthTech و پزشکی که بدون دخالت انسان هیچ تصمیمی نهایی نمی‌شه:

۱. دستیارهای بالینی و پرونده الکترونیک (EHR):
ایجنتی رو تصور کنید که آزمایش‌های بیمار رو بررسی می‌کنه، با تاریخچه دارویی مقایسه می‌کنه و یک پیش‌نویس طرح درمان می‌نویسه. این ایجنت باید منتظر ویزیت و امضای پزشک بمونه تا مرحله بعد (ارسال نسخه به داروخانه یا تنظیم نوبت فالوآپ) رو انجام بده. پزشک ممکنه ۸ ساعت بعد پرونده رو چک کنه؛ با این قابلیت، سرور شما در این ۸ ساعت برای هزاران بیمار معطل و اشغال نمی‌مونه.

۲. پایش مداوم بیماران مزمن و سیستم‌های مراقبت از راه دور (RPM):
ایجنتی که سیگنال‌های حیاتی یا داده‌های سنسورها/دوربین‌ها رو مانیتور می‌کنه، در صورت مشاهده یک الگوی مشکوک آلارم میده، پروسه رو معلق می‌کنه تا تیم تریاژ یا مراقب وضعیت رو تأیید کنن، و بعد پروتکل درمانی مناسب رو پیگیری کنه.

۳. کارآزمایی‌های بالینی (Clinical Trials) و غربالگری چندمرحله‌ای:
پروسه‌هایی که بین تحلیل تصویربرداری مدیکال، تأیید رادیولوژیست، تطبیق با معیارهای ورود به مطالعه و تماس با بیمار، روزها یا هفته‌ها فاصله زمانی وجود داره ولی کانتکست و مسیر تحلیل ایجنت نباید گم بشه.

➖➖➖➖➖

برداشت من:
ساختن یک ایجنت که در یک دموی چند ثانیه‌ای خوب کار کنه هنر نیست؛ هنر واقعی و چالش مهندسی زمانیه که بخوایم این سیستم‌ها رو در مقیاس‌های پرهزینه، حساس و طولانی‌مدت مثل سلامت مستقر کنیم. آینده هوش مصنوعی خودمختار، در گرو همین ریزه‌کاری‌های زیرساختیه.

➖➖➖➖➖
🔺 @hitwithit