آیا وقت خداحافظی با Pandas رسیده؟ وقتی سرعت ۱۱ برابر میشود!
همیشه فکر میکردم Pandas استانداردترین ابزار برای پردازش دادهست. اما وقتی با حجم دیتای میلیونی طرف هستیم، "زمان" یعنی "هزینه".
امروز تصمیم گرفتم کتابخانه جدید و پرسرعت Polars (که با Rust نوشته شده) رو در مقابل Pandas قرار بدم و روی ۱۰ میلیون رکورد بنچمارک بگیرم.
نتایج تستی که روی سیستم خودم اجرا کردم باورنکردنی بود:
پانداس (Pandas): ۲.۴۴ ثانیه ️ پولارز (Polars): ۰.۲۱ ثانیه نتیجه: Polars دقیقاً ۱۱.۳۶ برابر سریعتر عمل کرد!
چرا این موضوع فراتر از کدنویسی است؟ (Business Value)
به عنوان یک دیتا ساینتیست، وظیفه ما فقط کد زدن نیست، بلکه خلق ارزش (ROI) است. مهاجرت به ابزارهایی مثل Polars در مقیاس کلان (Big Data) یعنی:
۱. کاهش چشمگیر هزینه سرورهای ابری (Cloud Costs).
۲. تحویل سریعتر داشبوردها به مدیران و ذینفعان. ️
کد کامل و داکیومنت این بنچمارک رو در گیتهابم ببینید:
https://github.com/behnamjb222-cmd/Pandas-vs-Polars-Benchmark
@DevTwitter | <Behnam Jabbari/>
Post #11319
7.94K

- ❤ 58
- 👎 9
- 👍 6