نصب یک هوش مصنوعی (LLM) روی سیستم خودمان. بخش اول
خیلی از اساتید، دانشجویان، پژوهشگران و شرکت‌ها برای کارهای خود نیازمند استفاده از هوش مصنوعی هستند. البته هوش مصنوعی دامنه بسیار زیادی از ابزارها رو شامل می شه که در اینجا با اغماض منضورمان همین مدلهای زبانی بزرگ یا LLM ها هستند. قبل از اینکه بریم وارد نصب بشیم سه تا سوال رو بررسی کنیم:

1️⃣ چرا اصلا یک مدل هوش مصنوعی را باید به صورت آفلاین نصب کنیم؟- بی نیازی از اینترنت برای استفاده از مدل ها. البته ابزارهای فارسی هستند که برای کسانی که امکان نصب آفلاین رو ندارند از اونها می شه استفاده کرد. ( در این پست معرفی کردم )- توسعه مدل برای اهداف تخصصی. بعضی وقت ها می خواهیم مدل را بسته به نیاز خود آموزش دهیم یا از RAG برای افزایش دانش مدل استفاده کنیم- محرمانگی، مثلا یک شرکت نمی خواهد اطلاعات تجاری خود را روی اینترنت منشتر کند یا محرمانگی در سوالات و ...- همراه داشتن همیشگی پرس و جوها و نتایج

2️⃣ آیا کیفیت مدلهای آفلاین مانند سیستم های آنلاین (علی الخصوص سیستم های خارجی مثل chatgpt و ...) است؟طبیعی است که مدلهای خارجی چون به روزتر هستند و همچنین حجم بالاتری داده در مدل ذخیره شده و از طرفی امکانات پردازشی بالاتری دارند کیفیت بهتری دارند. برای مثال مدل GPT5.4 که در اوایل سال 2026 معرفی شد، پیش بینی می شود حدود 4.0 تریلیون توکن و حجمی حدود 8 ترابایت داشته باشد. معمولا اجرای این مدلها روی چندین دیتاسنتر بزرگ انجام می شود.

3️⃣ آیا ابزارهای داخلی، به کیفیت ابزارهای خارجی هستند؟ تفاوت آنها با ابزارهای خارجی چیست؟ابزارهای داخلی هم دقیقا از روشی مشابه روشی که در ادامه عرض خواهم برای نصب یک مدل آفلاین استفاده می کنند. البته برخی ابزارهای فارسی از سایت های معروف خارجی API گرفته اند که آنها هم مشابه ابزارهای خارجی عمل می کنند اما خب در شرایط عدم دسترسی به اینترنت آنها هم از کار خواهند افتاد.
ادامه دارد ...

پایتون برای مالی

🆔 t.me/python4finance
🆔 ble.ir/python4finance