آونگ، پادکستی ست که به مسائل مربوط به آموزش مهندسی می پردازد.
ایمیل: avangcast@gmail.com
Post #87
136
📗 وقتی «عامل‌ها» جای «چت‌بات‌ها» را می‌گیرند: تفاوت میان یک چت‌بات معمولی (مانند Gemini) و یک عامل هوشمند (مانند Claude Code)، تفاوت میان یک پاسخ ساده و یک سیستم خودگردان است. در اینجا پرامپت یا دستور ورودی دیگر واحد مناسبی برای اندازه‌گیری مصرف نیست؛ درست همان‌طور که تعداد سفرها معیار خوبی برای سنجش استهلاک خودرو نیست، بلکه این «مسافت طی‌شده» است که اهمیت دارد. عامل‌های هوشمند برای حل یک مسئله، مسافت زیادی را طی می‌کنند: آن‌ها گام‌های متوالی برمی‌دارند، فایل‌ها را می‌خوانند و به‌صورت مستقل عمل می‌کنند.
داده‌های جدید نشان می‌دهند که این تغییر کاربری، یک جهش عظیم در مصرف انرژی ایجاد کرده است. در حالی که یک پیام ساده در سیستم‌های قدیمی حدود ۰.۲۴ وات‌ساعت برق مصرف می‌کند، هر ورودی در یک عامل هوشمند به‌طور متوسط ۱۵۰ وات‌ساعت انرژی می‌طلبد. این یعنی مصرف انرژی برای هر بار استفاده از این سیستم‌های جدید، ۶۰۰ برابر بیشتر از یک پرسش و پاسخ ساده است.
📔 «زیک هاوسفادر»، دانشمند اقلیم‌شناس، با کالبدشکافی دقیق استفاده خود از دستیار برنامه‌نویسی Claude Code به نتایج شوکه‌کننده‌ای دست یافته است. محاسبات او نشان می‌دهد که استفاده روزمره از یک عامل هوشمند، به‌طور میانگین بین ۱.۲ تا ۵.۹ کیلووات‌ساعت برق مصرف می‌کند. برای اینکه مقیاس را درک کنید: این میزان انرژی از مصرف برق دو یخچال خانگی که تمام ۲۴ ساعت شبانه‌روز روشن هستند، بیشتر است.
هاوسفادر در تحلیل خود به روزهای اوج کاری اشاره می‌کند که ابعاد مسئله را به سطحی بالاتر می‌برد:
«در پرفشارترین روز کاری، زمانی که چندین عامل هوشمند به‌طور موازی در حال تحلیل داده‌های جغرافیایی بودند، میزان مصرف به ۱۱ کیلووات‌ساعت رسید. این رقم معادل بیش از یک‌سوم کل برق مصرفی روزانه یک خانوار متوسط آمریکایی است.»
❇ اما چرا مصرف انرژی در عامل‌های هوشمند تا این حد سرسام‌آور است؟ پاسخ در یک ناکارآمدی ساختاری و معماری نهفته است: «بازخوانی حافظه پنهان» (Cache Reads). عامل‌های هوشمند برای اینکه در هر مرحله بدانند چه کرده‌اند و چه باید بکنند، مجبورند کل سابقه و بافتار (Context) عملیات را دوباره بازخوانی کنند.
داده‌ها نشان می‌دهند که تنها ۰.۴ درصد از توکن‌های پردازش شده، خروجی نهایی هستند که شما می‌بینید. در مقابل، ۹۶ درصد از پردازش‌ها صرف بازخوانی دائمی حافظه می‌شود. اگرچه بازخوانی توکن‌های ذخیره‌شده از نظر محاسباتی «ارزان‌تر» از تولید توکن‌های جدید است، اما تکرار هزارباره این فرآیند، آن را به یک کابوس انرژی تبدیل کرده است. این یعنی میلیاردها ترانزیستور باید مدام با فرکانس بالا کار کنند تا صرفاً دانسته‌های قبلی را به یاد بیاورند؛ فرآیندی که از نظر مهندسی در حال حاضر به‌شدت ناکارآمد است.
✴ وقتی این اعداد را در مقیاس سالانه مدل‌سازی می‌کنیم، عمق فاجعه زیست‌محیطی برای هر فرد روشن‌تر می‌شود. مصرف سالانه یک کاربر پرکارِ عامل‌های هوشمند حدود ۱.۱ مگاوات‌ساعت تخمین زده می‌شود. این میزان انرژی معادل کارکرد یک دستگاه خشک‌کن لباسشویی برقی در طول یک سال یا پیمودن مسافتی حدود ۱۸,۵۰۰ کیلومتر با یک خودروی تسلا است.
یک توسعه‌دهنده که از این ابزارها استفاده می‌کند، عملاً ردپای کربنی لوازم خانگی خود را دوبرابر می‌کند. این یک «منبع جدید انتشار آلاینده» است که دقیقاً در زمانی ظهور کرده که اهداف کاهش کربن جهان در وضعیت قرمز قرار دارند.
💠 بزرگترین مانع در حل این بحران، دیوار بلند عدم شفافیت شرکت‌هایی مانند Anthropic و OpenAI است که جزئیات مصرف انرژی به ازای هر توکن را مخفی می‌کنند. اما وضعیت زیرساختی از این هم بدتر است؛ برخلاف ادعاهای تبلیغاتی درباره انرژی‌های پاک، در حال حاضر ۷۵ درصد از تولید برق برنامه‌ریزی‌شده در محل دیتاسنترهای ایالات متحده بر پایه گاز طبیعی است. این یعنی غول‌های فناوری در حال ساخت شبکه‌های برق خصوصی و آلاینده خود هستند.
به‌عنوان یک راهکار تاکتیکی، انتقال کارهای ساده به «مدل‌های کوچک‌تر» می‌تواند مصرف انرژی را ۵ تا ۷ برابر کاهش دهد. اما راهکار نهایی در دستان شرکت‌هاست؛ آن‌ها باید سرمایه‌های کلان خود را نه فقط صرف آموزش مدل، بلکه صرف انتقال دیتاسنترها به انرژی‌های هسته‌ای و زمین‌گرمایی کنند. «صرفه‌جویی فردی» در برابر حجم عظیم دیتاسنترهای گازی، شبیه به خاموش کردن یک شمع در میان یک حریق جنگلی است.
📙 ما در حال حاضر هزینه سنگینی را از جیب منابع زمین برای راحتی دیجیتال پرداخت می‌کنیم. در حالی که میلیاردها ترانزیستور در دیتاسنترها برای پردازش یک کد ساده حرارت تولید می‌کنند، باید از خود بپرسیم: «آیا حاضریم برای داشتن یک دستیار هوشمند، بار حرارتی و انرژی اضافه‌ای بر دوش سیاره‌ای بگذاریم که همین حالا هم در تب می‌سوزد؟» اگر معماری هوش مصنوعی به‌سرعت به سمت بهره‌وری حرکت نکند، این تب هرگز فروکش نخواهد کرد.
@avangcast1
داده‌های جدید نشان می‌دهند که این تغییر کاربری، یک جهش عظیم در مصرف انرژی ایجاد کرده است. در حالی که یک پیام ساده در سیستم‌های قدیمی حدود ۰.۲۴ وات‌ساعت برق مصرف می‌کند، هر ورودی در یک عامل هوشمند به‌طور متوسط ۱۵۰ وات‌ساعت انرژی می‌طلبد. این یعنی مصرف انرژی برای هر بار استفاده از این سیستم‌های جدید، ۶۰۰ برابر بیشتر از یک پرسش و پاسخ ساده است.
📔 «زیک هاوسفادر»، دانشمند اقلیم‌شناس، با کالبدشکافی دقیق استفاده خود از دستیار برنامه‌نویسی Claude Code به نتایج شوکه‌کننده‌ای دست یافته است. محاسبات او نشان می‌دهد که استفاده روزمره از یک عامل هوشمند، به‌طور میانگین بین ۱.۲ تا ۵.۹ کیلووات‌ساعت برق مصرف می‌کند. برای اینکه مقیاس را درک کنید: این میزان انرژی از مصرف برق دو یخچال خانگی که تمام ۲۴ ساعت شبانه‌روز روشن هستند، بیشتر است.
هاوسفادر در تحلیل خود به روزهای اوج کاری اشاره می‌کند که ابعاد مسئله را به سطحی بالاتر می‌برد:
«در پرفشارترین روز کاری، زمانی که چندین عامل هوشمند به‌طور موازی در حال تحلیل داده‌های جغرافیایی بودند، میزان مصرف به ۱۱ کیلووات‌ساعت رسید. این رقم معادل بیش از یک‌سوم کل برق مصرفی روزانه یک خانوار متوسط آمریکایی است.»
❇ اما چرا مصرف انرژی در عامل‌های هوشمند تا این حد سرسام‌آور است؟ پاسخ در یک ناکارآمدی ساختاری و معماری نهفته است: «بازخوانی حافظه پنهان» (Cache Reads). عامل‌های هوشمند برای اینکه در هر مرحله بدانند چه کرده‌اند و چه باید بکنند، مجبورند کل سابقه و بافتار (Context) عملیات را دوباره بازخوانی کنند.
داده‌ها نشان می‌دهند که تنها ۰.۴ درصد از توکن‌های پردازش شده، خروجی نهایی هستند که شما می‌بینید. در مقابل، ۹۶ درصد از پردازش‌ها صرف بازخوانی دائمی حافظه می‌شود. اگرچه بازخوانی توکن‌های ذخیره‌شده از نظر محاسباتی «ارزان‌تر» از تولید توکن‌های جدید است، اما تکرار هزارباره این فرآیند، آن را به یک کابوس انرژی تبدیل کرده است. این یعنی میلیاردها ترانزیستور باید مدام با فرکانس بالا کار کنند تا صرفاً دانسته‌های قبلی را به یاد بیاورند؛ فرآیندی که از نظر مهندسی در حال حاضر به‌شدت ناکارآمد است.
✴ وقتی این اعداد را در مقیاس سالانه مدل‌سازی می‌کنیم، عمق فاجعه زیست‌محیطی برای هر فرد روشن‌تر می‌شود. مصرف سالانه یک کاربر پرکارِ عامل‌های هوشمند حدود ۱.۱ مگاوات‌ساعت تخمین زده می‌شود. این میزان انرژی معادل کارکرد یک دستگاه خشک‌کن لباسشویی برقی در طول یک سال یا پیمودن مسافتی حدود ۱۸,۵۰۰ کیلومتر با یک خودروی تسلا است.
یک توسعه‌دهنده که از این ابزارها استفاده می‌کند، عملاً ردپای کربنی لوازم خانگی خود را دوبرابر می‌کند. این یک «منبع جدید انتشار آلاینده» است که دقیقاً در زمانی ظهور کرده که اهداف کاهش کربن جهان در وضعیت قرمز قرار دارند.
💠 بزرگترین مانع در حل این بحران، دیوار بلند عدم شفافیت شرکت‌هایی مانند Anthropic و OpenAI است که جزئیات مصرف انرژی به ازای هر توکن را مخفی می‌کنند. اما وضعیت زیرساختی از این هم بدتر است؛ برخلاف ادعاهای تبلیغاتی درباره انرژی‌های پاک، در حال حاضر ۷۵ درصد از تولید برق برنامه‌ریزی‌شده در محل دیتاسنترهای ایالات متحده بر پایه گاز طبیعی است. این یعنی غول‌های فناوری در حال ساخت شبکه‌های برق خصوصی و آلاینده خود هستند.
به‌عنوان یک راهکار تاکتیکی، انتقال کارهای ساده به «مدل‌های کوچک‌تر» می‌تواند مصرف انرژی را ۵ تا ۷ برابر کاهش دهد. اما راهکار نهایی در دستان شرکت‌هاست؛ آن‌ها باید سرمایه‌های کلان خود را نه فقط صرف آموزش مدل، بلکه صرف انتقال دیتاسنترها به انرژی‌های هسته‌ای و زمین‌گرمایی کنند. «صرفه‌جویی فردی» در برابر حجم عظیم دیتاسنترهای گازی، شبیه به خاموش کردن یک شمع در میان یک حریق جنگلی است.
📙 ما در حال حاضر هزینه سنگینی را از جیب منابع زمین برای راحتی دیجیتال پرداخت می‌کنیم. در حالی که میلیاردها ترانزیستور در دیتاسنترها برای پردازش یک کد ساده حرارت تولید می‌کنند، باید از خود بپرسیم: «آیا حاضریم برای داشتن یک دستیار هوشمند، بار حرارتی و انرژی اضافه‌ای بر دوش سیاره‌ای بگذاریم که همین حالا هم در تب می‌سوزد؟» اگر معماری هوش مصنوعی به‌سرعت به سمت بهره‌وری حرکت نکند، این تب هرگز فروکش نخواهد کرد.
@avangcast1
- 👍 7
- ❤ 1
