مهندسی و علم داده

✍️مقایسه پلتفرم و معماری انبار داده ، دریاچه داده و دیتالیک هاوس

با توجه به محدودیت های انبار داده و مشکلات عدیده دریاچه داده موجب گردید تا شرکای فناوری Databricks با ادغام راه‌حل‌های خود با Databricks، امکانات کاملی برای ETL، نگهداری داده، هوش تجاری، یادگیری ماشین و حاکمیت داده را فراهم کنند. این ترکیب تکنولوژی به مشتریان این امکان رامی‌دهد تا از قابلیت‌ها و مقیاس‌پذیری پلتفرم Databricks Lakehouse بهره‌برداری نمایند و در عین حال به سرعت نوآوری کرده و برای به دست آوردن راهکارهای ارزشمند از داده استفاده کنند.
پلتفرم دیتالیک هاوس از سال 2021 توسط DataBricks ایجاد شده است و بنظر می آید با توجه به رشد روز افزون کاربرد هوش مصنوعی ، نیازمندی سازمانها و شرکتها به سمت این پلتفرم کاربردی بیشتر خواهد شد.
در این فایل تفاوت سه پلتفرم انبار داده و دریاچه داده و دیتالیک هاوس در حوزه های مختلف نشان داده شده است.
امیدوارم مفید باشد.😉

@BIMining

✍️ شماره معکوس جهت شروع برنامه هوش مصنوعی در رسانه ملی...
کلیه شرکتها و اشخاص حقیقی و حقوقی و سازمانهای دولتی و خصوصی که علاقمند در مشارکت این برنامه هستند میتوانند اعلام آمادگی فرمایند.
محور های این برنامه مبتنی بر محصولات هوش مصنوعی در سطح کشور است و بهترین فرصت برای دیده شدن توانمندی ها و ارائه محصولات ارزشمند شما به مردم و علاقمندان است .
سپاس
محمد عالیشاهی

@BIMining

برگزاری پنل هوش مصنوعی  در بانکداری هوشمند
شنبه ٢ دی ماه

@BIMining

✅ برگزاری مجموعه برنامه تخصصی هوش مصنوعی از قاب رسانی ملی (تلویزیون)

در این برنامه با محور ارایه اخرین دستاوردها و محصولات موفق  در زمینه هوش مصنوعی توسط اشخاص و شرکت ها و سازمانها و ... بر روی آنتن خواهد رفت .

جهت اطلاعات تکمیلی و همکاری و حضور در برنامه با ما در تماس باشید...
@BIMining

محورهای برنامه و اطلاعات تکمیلی  بزودی اطلاع رسانی خواهد شد‌.

با سپاس
محمد عالیشاهی
مدیر پروژه های هوش مصنوعی و علم داده
دکترای هوش مصنوعی دانشگاه تهران
طراح و مجری برنامه تخصصی هوش مصنوعی در رسانه ملی
@BIMining

مفاهیم مهم و جدید حوزه هوش مصنوعی که حتما باید بدانید.

Transfer Learning
Fine Tuning
Multitask Leraning
Federated Learning

@BIMining

برخی از مهمترین کتابخانه های پایتون در هوش مصنوعی

@BIMining

متن کامل مقاله :
تحلیل چرخه عمر (Life Cycle) گارتنر در سال 2023 در حوزه هوش مصنوعی
نویسنده و تحلیلگر: دکتر محمد عالیشاهی ; دکترای هوش مصنوعی دانشگاه تهران و معاونت هوش تجاری و علم داده شرکت بهسازان ملت

@BIMining

✍️✍️تحلیل چرخه عمر (Life Cycle) گارتنر در سال 2023 در حوزه هوش مصنوعی
✍️نویسنده و تحلیلگر: دکتر محمد عالیشاهی ; دکترای هوش مصنوعی دانشگاه تهران و معاونت هوش تجاری و علم داده شرکت بهسازان ملت

✍️این مقاله به تحلیل و بررسی نوآوری‌ها و تکنیک‌های مرتبط با هوش مصنوعی و تاثیرات تحول‌آفرین آنها می‌پردازد. گارتنر، یک سازمان تحقیقاتی است که در گزارش خود در سال 2023، اهمیت و برتری نوآوری‌ها و تکنیک‌هایی که تفاوت قابل توجهی در بهره‌وری و امکانات نظامی به همراه دارند و همچنین محدودیت‌ها و خطرات سامانه‌های ناقص را برطرف می‌کنند را مورد بررسی قرار می‌دهد. استراتژیست های هوش مصنوعی باید توجه کنند که کدام یک از این نوآوری‌ها ارزش بیشتری برای سرمایه‌گذاری دارند.
دو نوع نوآوری GenAI در حال حاضر در صدر بحث‌ها در مورد هوش مصنوعی قرار دارند. استفاده از سیستم‌هایی مانند ChatGPT باعث افزایش بهره‌وری برای توسعه دهندگان دانش و فناوری شده است .

متن کامل مقاله در کانال @BIMining درج شده است.
@BIMining

✍️✍️راهنمای تصویری برای Bagging و Boosting در ML.

در یک خلاصه، یک گروه چندین مدل را برای ساخت یک مدل قدرتمندتر ترکیب می کند.این ضعف مدل های فردی را کاهش می دهد.
✍️گروه ها عمدتاً با استفاده از دو استراتژی مختلف ساخته می شوند:
1) کوله بری(Bagging)
2) تقویت(Boosting)

1) بسته بندی(Bagging):
- زیر مجموعه های مختلف داده را ایجاد می کند
- در هر زیر مجموعه یک مدل را آموزش می دهد
- همه پیش بینی ها را برای به دست آوردن پیش بینی نهایی جمع می کند
-مورد استفاده توسط Random forest, ExtRa treesو غیره

2) تقویت(Boosting):
- یک فرآیند آموزشی تکراری است
- مدل بعدی تمرکز بیشتری بر روی نمونه های طبقه بندی اشتباه مدل قبلی دارد.
- پیش بینی نهایی ترکیب وزنی از همه پیش بینی ها است.
- توسط XGBoost، AdaBoost و غیره استفاده می شود.

@BIMining

✍️✍️✍️نحوه اجرای کد پایتون از صفر تا 100

1️⃣ 𝗪𝗿𝗶𝘁𝗶𝗻𝗴 𝘁𝗵𝗲 𝗖𝗼𝗱𝗲:
تایپ کد پایتون در متن ویرایشگر و ذخیره فایل با پسوند '.py'
2️⃣ 𝗣𝘆𝘁𝗵𝗼𝗻 𝗜𝗻𝘁𝗲𝗿𝗽𝗿𝗲𝘁𝗲𝗿:
اجرای برنامه پایتون وارسال آن به دو بخش ذیل:
𝗖𝗼𝗺𝗽𝗶𝗹𝗲𝗿:
این کد بایت در یک فایل '.pyc' ذخیره می شود و به برنامه ما کمک می کند دفعه بعد سریعتر اجرا شود.
𝗣𝘆𝘁𝗵𝗼𝗻 𝗩𝗶𝗿𝘁𝘂𝗮𝗹 𝗠𝗮:
وقتی با خطا مواجه می شود.

3️⃣ 𝗟𝗶𝗯𝗿𝗮𝗿𝘆 𝗠𝗼𝗱𝘂𝗹𝗲𝘀:
اگر برنامه ما از ماژول های کتابخانه ای استاندارد پایتون یا جای دیگر استفاده می کند، این ماژول ها نیز به کد بایت تبدیل می شوند. سپس PVM اجازه می دهد تا از ویژگی های این ماژول ها استفاده کند.

4️⃣ 𝗙𝗿𝗼𝗺 𝗕𝘆𝘁𝗲 𝗖𝗼𝗱𝗲 𝘁𝗼 𝗠𝗮𝗰𝗵𝗶𝗻𝗱𝗲
کد بایت به کد ماشین، که یک سری از 1 و 0 است ، تبدیل می شود. این کد ماشین همان چیزی است که مغز کامپیوتر شما، CPU، مستقیماً می تواند آن را بفهمد.

5️⃣ 𝗥𝘂𝗻𝗻𝗶𝗻𝗴 𝘁𝗵𝗲 𝗣𝗿𝗼𝗴𝗿𝗮𝗺:
پس از آماده شدن کد ماشین، کامپیوتر شما از آن برای اجرای برنامه شما استفاده می کند. و شما آن را دارید! برنامه پایتون شما در حال اجراست.
@BIMining

✍️✍️برترین پلتفرم ها و ابزارهای ETL و ELT از نگاه گارتنر در گزارش ژانویه 2023.

✍️نکته جالب پیشرو شدن ابزار ODI شرکت اوراکل و خارج شدن ابزار IBM Data Stage شرکت IBM از بخش لیدرها.

✍️جالب تر اینکه یک ابزار به نام WORKATO با یک فاصله معنا داری خودش را به جمع لیدرها قرار داده است که مطابق بررسی که انجام شد بد نیست اطلاعاتی در مورد این ابزار بدانید.
✍️پلتفرم کم‌کد/بدون کد Workato به تیم‌های تجاری و فناوری اطلاعات این امکان را می‌دهد تا ادغام‌هایی را با سرعت پنج برابر بیشتر از پلتفرم‌های یکپارچه‌سازی معمولی ایجاد کنند. این امر از طریق شتاب دهنده هایی مانند اتصال دهنده های از پیش ساخته شده برای 1000+ SaaS، پایگاه های داده اولیه، ERP و موارد دیگر به دست می آید. بیش از 500000 دستور العمل آماده برای فرآیندهای تجاری رایج که توسط بیش از 70000 عضو انجمن به اشتراک گذاشته شده است. یک معماری کاملاً بومی ابری که برای مقیاس و سرعت ساخته شده است به طور قابل توجهی ردپای عملیاتی و هزینه های کلی را کاهش می دهد.
با Workato، شما مجبور نیستید بین ETL و ELT یکی را انتخاب کنید.

@BIMining

9 تا از مهمترین Acivation Function ها در یادگیری عمیق.

@BIMining

عنوان مقاله : چه چیزی در هوش مصنوعی از چرخه هایپ گارتنر 2022 وجود دارد.

✍️نویسنده مقاله : محمد عالیشاهی معاونت هوش تجاری و علم داده شرکت بهسازان ملت - دکترای هوش مصنوعی دانشگاه تهران

بطور کلی نوآوری های هوش مصنوعی به چهار دسته تقسیم می شوند و انتظار می‌رود که طیف گسترده‌ای از نوآوری‌های هوش مصنوعی بر افراد و فرآیندهای درون و بیرون از یک زمینه سازمانی تأثیر بگذارد و درک آنها را برای بسیاری از ذینفعان، از رهبران کسب‌وکار گرفته تا تیم‌های مهندسی سازمانی که وظیفه استقرار و عملیاتی کردن سیستم‌های هوش مصنوعی را بر عهده دارند، با اهمیت می‌سازد.
با این حال، رهبران داده‌ها و تجزیه و تحلیل (D&A) بیشترین سود را از استفاده از دورنمای Hype Cycle برای ایجاد استراتژی‌های هوش مصنوعی برای آینده و استفاده از فناوری‌هایی که تأثیر بالایی در زمان حال دارند.
نوآوری های هوش مصنوعی در چرخه هایپ منعکس کننده اولویت های مکمل و گاهی متناقض در چهار دسته اصلی است:
• هوش مصنوعی داده محور

• هوش مصنوعی مدل محور

• هوش مصنوعی برنامه محور

• هوش مصنوعی انسان محور


@BIMining

تفاوت بردار ، ماتریس و تنسور بصورت ساده با نمایش شکل !

تنسور در واقع آرایه های چندبعدی است که از اعداد که در یک جدول (ماتریس) چیده شده‌اند. این جدول در حالت کلی می‌تواند به صورت N*M*O*Pباشد که حروف بزرگ هر کدام نمایندهٔ یک عدد طبیعی و بیانگر ابعاد جدول و * نشان دهندهٔ عمل ضرب بین آن‌هاست.

@BIMining

معرفی - Polars
یک کتابخانه دیتافریم منبع باز است که در مارس 2020 منتشر شد. این کتابخانه به دلیل استفاده از زبان برنامه نویسی Rust، از دیگر کتابخانه های این حوزه متمایز است. Rust به طور خاص برای عملکرد و قابلیت های موازی آن انتخاب شد. علاوه بر این، Polars برای چارچوب داده خود به شاخصی تکیه نمی کند و از ارزیابی Lazy پشتیبانی می کند و آن را به یک جایگزین بالقوه برای Pandas برای برخی از کاربران تبدیل می کند.

طبق تست بنچمارک انجام شده توسط H2O.ai، Polars بسیار جلوتر از رقبای خود بود. به عنوان مثال، Polars با تکمیل مجموعه داده‌های 50 گیگابایتی تنها در 143 ثانیه، عملکرد برتری را در وظایف تجمیع نشان داد. در مقایسه، پانداها به دلیل حافظه ناکافی قادر به انجام این کار نبودند.
علاوه بر سرعت، Polars بسیار کاربر پسند است و از یک کد پایه به خوبی نوشته شده برخوردار است. برای کسانی که با کتابخانه هایی مانند dplyr در R آشنا هستند، استفاده از Polars به دلیل نحو مشابه آن، کار آسانی است. به طور کلی، Polars یک راه حل قدرتمند و آسان برای کارهای تجمیع داده ارائه می دهد.


@BIMining

پنج مرحله تجزیه و تحلیل موثر داده ها:
مرحله 1: تعریف مساله
اولین گام در هر پروژه تجزیه و تحلیل داده، تعریف مساله است که سعی در حل آن دارید. به چه سوالاتی می خواهید پاسخ دهید؟ اهداف شما برای پروژه چیست؟ تعریف واضح مساله و اهداف به شما کمک می کند در مسیر خود بمانید و اطمینان حاصل کنید که تحلیل شما مرتبط است.

مرحله 2: اندازه گیری
داده هایی را که برای پاسخ به سوالات و دستیابی به اهداف خود نیاز دارید جمع آوری کنید. اطمینان حاصل کنید که داده های شما تمیز، دقیق و مرتبط هستند.
مرحله 3: تجزیه و تحلیل
با در دست داشتن داده ها، وقت آن است که آن ها را تجزیه و تحلیل کنید. از روش‌های آماری، ابزارهای تجسم و تکنیک‌های یادگیری ماشینی برای کشف اطلاعات و دانش پنهان استفاده کنید.

مرحله 4: بهبود
درک بهتری از مشکل خود و عوامل موثر در آن داشته باشید. تغییراتی را در فرآیندهای تجاری یا محصولات خود اعمال کنید که به شما در دستیابی به اهدافتان کمک می کند.
@BIMining
مرحله 5: کنترل
کنترل‌ها و سیستم های نظارتی را برای پیگیری پیشرفت خود تنظیم کنید و مطمئن شوید که هنوز در مسیر رسیدن به اهداف خود هستید.
@BIMining

توابع و دستورات مهم در پانداس و SQL

@BIMining

Channel name was changed to «مهندسی و علم داده»

روش های استفاده از کتابخانه های pandas جهت import data و data cleaning و گزارشات آماری

@BIMining

چرخه حیات علم داده

@BIMining