PhiloLearn | فیلولرن

شبکه عصبی بازگشتی یا Recurrent neural network پدربزرگ LLM ها!
@PhiloLearn | @NyxHrafn

یه چیز بشدت باحال و بامزه و شاید کاربردی پیدا کردم.
اومدن نحوه عملکرد دیتابیس پستگرس رو به صورت ۳ بعدی و قابل گشتن در آوردن و تمام بخش هاش رو خیلی جذاب توضیح دادن.

لینک شهر پستگرس:
https://nikolays.github.io/PGSimCity/

لینک ریپازیتوری:
https://github.com/NikolayS/PGSimCity


@PhiloLearn

این شبکه عصبی وقتی معرفی شد اومد نواقصات و مشکلات شبکه عصبی بازگشتی(RNN) رو پوشش داد و تونست تحول بزرگی در حوزه هوش مصنوعی بده و مدل های زبانی بزرگی مثل GPT کمک کنه توسعه پیدا بکنن
این مدل به جای اینکه مثل RNN بیاد کلمات رو یکی یکی پشت سر هم بررسی کنه تا بتونه کلمات رو درک کنه که در این مسیر ممکنه اطلاعات رو گم یا فراموش بکنه یا نتونه ارتباط درستی بین کلمات پیدا کنه میاد تمامی داده هارو هم زمان بررسی میکنه به شکل موازی میاد با یک ترفند ریاضی به نام مکانیزم توجه یا Attemtion Mechanism متوجه میشه که در جمله بلند ما باید به چه کلماتی توجه کنه و ارتباط بین اون کلمات رو پیدا کنه شبکه یاد می‌گیره که کلمه‌ها رو بر اساس اهمیت، به یکدیگر متصل کنه
ساختار کلی این شبکه چجوریه؟
بخش اول از یک انکودر ساخته شده که میاد همزمان کل توکن مارو به شکل موازی وارد میکنه و پردازش انجام میده و وزن کلمات و رابطه اون هارو رو برای چندین بار بررسی میکنه که قدرت پردازشی زیادی میخواد برای این کار(علت گرونی رم و کارت گرافیک رو فهمیدین🗿)
بخش دوم هم دیکودر هست که میاد برای ما جواب رو تولید میکنه
ولی خب این شبکه عصبی به کمک واحد های پردازشی سرعت آموزش بالایی داره و اینکه در متون بلند به راحتی میتونه رابطه کلمات اول و اخر جمله رو پیدا کنه ولی معایبی هم داره مثل هزینه بالا پردازش هست مثلا برای پردازش هزار کلمه باید یک میلیون پردازش انجام بده! و همچنين برای تمرین همچین شبکه شما نیازمند یه حجم عظیمی اطلاعات هستین تا بتونید مدل رو آموزش بدین تا بتونید خروجی دقیق و خوبی ازش بگیرید بخاطر همینه که شرکت های بزرگ از مدل ها یک بیلیون پارامتری به یک تريليون پارامتری رسیدن
و در نهایت لینک های مفید:
لینک۱
لینک۲
@PhiloLearn | @NyxHrafn

شبکه عصبی ترنسفورمر یا transformer neural network این شبکه عصبی یک انقلاب تو عرصه هوش مصنوعی هست!
@PhiloLearn | @NyxHrafn

به به، AGI تایید شد....

#fun

@PhiloLearn

حقیقتا علاقه ی خیلی زیادی دارم به اتفاقاتی که باعث سنجیده شدن حد و حدود حریم خصوصی و نفوذ قانون میشن (با توجه به اینکه قانون خارج از ایران محدودیت داره).

مثلا خبری که به تازگی دیده بودم این بود که یه فردی رو تو فرودگاه آتلانتا آمریکا می‌برن برای بازجویی. گفته میشه که بدون این که حقوقش بهش اعلام بشه و بدون اینکه وکیل فرد حضور داشته باشه شروع می‌کنن به بازجویی فرد به بهانه محتوای سوءاستفاده جنسی از کودکان. ازش می‌خوان که رمز گوشیش رو بگه تا بتونن چکش کنن وگرنه گوشی رو توقیف میشه و خب طرف در نهایت رمزی رو به پلیس میده که باعث پاک شدن اطلاعات گوشیش میشه.

دادستان هم میگه این حرکت برای از بین بردن مدرک جرم بوده و از طرفی هم انگار قانونی وجود داره که میگه اگر به هدف جلوگیری از توقیف اموال اون رو تخریب کنی مرتکب جرم شدی.

سیستم عامل گوشی اون فرد GrapheneOS بوده و خب نسبت بهش یه موج بدگمانی ای شکل گرفته. حتی میگن قبل از این ماجرا ها تو یه سری کشور های اروپایی، وجود گرفین او اس رو ثبت میکنن و حتی فرد ممکنه تحت نظر یا بازجویی قرار بگیره چون احتمالا قاچاقچی یا عضو یک باند باشه.

خلاصه که تمام این ماجرا ها باعث شده یه نگرانی ای نسبت به ابزار حفظ حریم خصوصی شکل بگیره.

جذابیتش برای من کجاست؟
اونجا که به نظر من حفظ حریم خصوصی مهمه؛ اتهام محتوای سوءاستفاده جنسی از کودکان هم اتهامیه که باید خیلی جدی باهاش برخورد بشه.

خب ما دوتا چیزی داریم که از اهمیت بشدت بالایی برخوردارن. اینکه چقدر از کدوم صرفه نظر کنیم. چقدر حاضر باشیم چیزی رو فدا کنیم. چقدر حاضر بشیم کنترل رو بدیم به کسی که نمی‌تونیم در آینده بهش اعتماد کنیم. چقدر می‌تونن اجازه داشته باشن که دخالت کنن.

به قولی یه تیغه بشدت حساسیه که رد شدن از روش حساسیت بشدت زیادی داره...

یه بحث فلسفی، حقوقی، اجتماعیه
چیزیه که رو زندگی آدم های زیادی تاثیر میذاره

لینک خبر

@PhiloLearn

غول‌های تکنولوژی نامه نوشتن که هوش مصنوعی متن‌باز رو ممنوع نکنید

شرکت Nvidia یه نامه سرگشاده منتشر کرده و از سیاست‌گذارها خواسته جلوی مدل‌های هوش مصنوعی متن‌باز رو نگیرن.

این نامه بعد از یه گزارش اومده که می‌گفت بعضی مقام‌های دولت Trump دنبال محدود کردن این جور مدل‌ها بودن. طبق گزارش Axios، وزارت بازرگانی آمریکا سال پیش داشت به فکر مسدود کردن دسترسی به نرم‌افزار شرکت‌های چینی می‌افتاد، چون خیلی از محبوب‌ترین مدل‌های متن‌باز دنیا رو همین شرکت‌های چینی ساختن.

این نامه روی سایت Nvidia منتشر شده و بیش از یک دوجین شرکت دیگه از جمله Microsoft، IBM و Meta هم پاش امضا زدن. چند تا نهاد غیرانتفاعی مثل بنیاد Linux Foundation هم بهش پیوستن.

توی متن نامه اومده: «رهبری آمریکا در هوش مصنوعی رو نه یه مدل پیشرفته، بلکه اینکه یه اکوسیستم باز و قوی بسازیم که توی همه بخش‌ها نفوذ کنه، تعیین می‌کنه.»

جالب اینجاست که بزرگ‌ترین شرکت‌های خصوصی این حوزه دارن از چیزی دفاع می‌کنن که رقیب‌های چینی‌شون توش پیشتازن.

@PhiloLearn

وزن هر یک از کلمات ما در مدل این مقدار هستش:
King: 10 man:3 woman:2 queen:9
حالا اگه بیاییم :
King - man + woman = queen
و اینجاست که ما میاییم سه تا ورودی میدیم:
یک شاه که مرد نیست ولی زن هستش چیست‌؟
مدل میاد با وزن کلمات میفهمه که اون ملکه هست و برای ما خروجی ملکه رو نشون.
البته این مثال خیلی ساده شده هستش تا صرفا کارکرد این شبکه عصبی رو بفهمیم تو واقعیت خیلی پیچیده تر از این حرفاست برای مطالعه بیشتر هم میتونید برید لینک این مطلب و بخونید ببینید چخبره:
لینک
@PhiloLearn | @NyxHrafn

اگه علاقه مند به هوش منصوعی و LLM ها باشید احتمالا خیلی این عکس و دیاگرام رو دیدین
این دیاگرام شبکه عصبی عمیق یا همون Deep Neural Network هستش که به اختصار میشه DNN
حالا ساختار این شبکه عصبی چجوریه؟
ساختار این شبکه عصبی لایه لایه هستش و با طی کردن این لایه ها میاییم خروجی میگیریم این شبکه عصبی از یک لایه ورودی یک یا چند لایه پنهان و یک لایه خروجی تشکیل شده هر چی تعداد لایه ها بیشتر بشه پیچیدگی مدل بیشتر میشه از اون طرف باعث میشه: یک پردازش روی ورودی ها بهتر انجام بشه و دو روی خروجی ایده آل که تولید میشه هم موثر هستش
حالا این ساختار عصبی چجوری کار میکنه؟
ما در مرحله اول میاییم شکبه عصبی رو تمرین میدیم و شبکه عصبی ما شروع میکنه بین لایه ها بر اساس تمرینی که دادیم به شکل وزن دار با هم ارتباط میگیرن بعد میاییم داده های ورودی رو جمع آوری میکنیم و به صورت عددی وارد شبکه میکنیم شبکه بر اساس میزان عددی ورودی و وزن های لایه شروع میکنه به پردازش کردن و در نهایت خروجی رو تحویل ما میده مثلا:
@PhiloLearn | @NyxHrafn

✨ Soon...

هوش مصنوعی رو می‌شه مثل یه بانک درنظر گرفت که بهتون وام فنی می‌ده (وام فنی یعنی وامی که پول نیست بجای پول دانشه) حالا این وام فنی از دید شما یه بدهی فنی هستش و باید یه روزی پسش بدید، بدهی فنی ده ها ساله توی مهندسی نرم افزار استفاده می‌شه و می‌تونه خیلی کمک کنه پیشرفت کنید و یا بر عکس اولش بهتون شتاب بده بعدش دهنتون رو سرویس کنه.


خیلیارو دیدم دیگه شل کردن و چیز جدیدی یاد نمی‌گیرن، این کار اشتباهه چون علم و دانش شما قدرت بازپرداخت این وام هست اگر علم و دانشتون رو بالا نبرید روزی خواهد رسید که توی انبوهی از پروداکت های نیمه کاره قفل شدید و دست روی هرچی می‌زارید نمی‌تونید کاملش کنید.


@Linuxor

گرفتید جوک رو؟؟

#fun@philolearn

کامنت دوباره برگشت

چیزای زیادی به یادم اومده...

#fun@Philolearn

🚨 کیت بقای لینوکس‌گیمرها برای قطعی نت 🐧📦

اول: میرورهای داخلی: مخازن توزیعتون رو روی سرورهای داخلی تنظیم کنید تا آپدیت پکیج‌ها قطع نشه.

دوم: آماده‌سازی گیمینگ (همین الان):

بازی‌های مورد نظر رو یک بار آنلاین اجرا کنید تا پیش‌نیازها نصب بشن

با استفاده از ProtonUp-Qt نسخه‌های Proton موردنیاز رو از همین الان دانلود کنید.

استیم رانتایم رو با umu launcher یا خود استیم دانلود کنید یا از این لینک دستی دانلود کنید.

درایور GPU و توزیع رو آپدیت کنید.

استیم رو روی Offline Mode تست کنید.

سوم: پناهگاه کامیونیتی (ماتریکس):
اگه تلگرام قطع شد ، از طریق سرور ماتریکس ما در دسترسیم.

کلاینت Element X یا گزینه‌های دیگر رو نصب کنید.

موقع ورود Custom Server انتخاب کنید و آدرس prgph.fun رو وارد کنید.

اکانت ندارید؟ تو کامنت‌ها اعلام کنید.

آدرس ماتریکس ما:
#gamertux:prgph.fun

ممنون از @Hr_ArshA عزیز برای سرور پاراگراف ، فعال نگه داشتن سرور هزینه داره اگه میتونید حمایت کنید:
لینک دونیت

سوال دارید؟ تو کامنت‌ها یا گروه بپرسید ، من و بقیه اعضا راهنماییتون می‌کنیم.

@GamerTux | @GamerTuxChat

#LinuxGaming #TuxFamily #TuxTips #Matrix

رادیو جادی ۲۳۴ - عرفان عربی و همه و همه و همه

با وصل شدن کمی از اینترنت ایران، شاید وقتش باشه که یه رادیوی دیگه داشته باشیم. رادیویی که سعی می کنه گپی باشه برای همه کسانی که راه براشون برای همیشه ادامه داره. نگاهی می کنیم به خودمون و نگاهی می کنیم به خبرهای تکنولوژی‌ای که می دونن مهمترین چیزهای دنیا نیستن.

#پادکست #رادیوجادی #صوتی

https://youtu.be/3VDwfITVZOE

زبان C سینه به سینه منتقل میشه...

انقدر نگید زبان C منسوخ می‌شه زبان C اصلا پتانسیل منسوخ شدن نداره، منسوخ شدن یعنی مثلا بیان سایت پایتون رو جمع کنن یا ریپازیتوری هاشو جمع کنن ولی زبان سی نه سایتی داره نه ریپازیتوری نه چیزی همینطوری داره دست به دست نسل به نسل جلو می‌ره؛ اینم یه منبع خوب برای یادگیری C اکثر آموزش هاش پروژه محوره :

github.com/7etsuo/project-based-tutorials-in-c


@Linuxor