توییت های برنامه نویسی و طراحی وب :)
Admin:
@dvtwi
Hashtags:
devtwitter.t.me/5
DevBooks Channel:
https://t.me/+AYbOl75CLNYxY2U0
Github:
https://github.com/DevTwitter
X:
https://x.com/devtwittir
Post #13278
5.83K

زیر کاپوت شبکه عصبی چه خبره؟
این
یه خطِ که همیشه دیدید یا AI زحمت کشیده؛ ولی پشتش کلی chain rule، matrix multiplication و مفاهیم دیگه خوابیده..
در واقع DFNN یک MLP از صفر با NumPy هست؛ بدون PyTorch، TensorFlow، Keras یا autograd. Forward، reverse-mode backprop، initialization، mini-batch، optimizer، loss و خوندن مستقیم MNIST از IDX همگی داخل یک نوت بوک.
و Backprop در سطح batch و ماتریس نوشته شده، نه با autodiff؛ و gradientها هم با finite differences صحت سنجی شدند؛ برای
در آخر روی MNIST چک شد که با 40 تا epoch به 98.04% test accuracy رسید.
خلاصه که اگر همیشه
https://github.com/hrnrxb/DFNN
@DevTwitter | <hrnrxb/>
این
loss.backward()یه خطِ که همیشه دیدید یا AI زحمت کشیده؛ ولی پشتش کلی chain rule، matrix multiplication و مفاهیم دیگه خوابیده..
DFNN (Dependency-Free Neural Network)
در واقع DFNN یک MLP از صفر با NumPy هست؛ بدون PyTorch، TensorFlow، Keras یا autograd. Forward، reverse-mode backprop، initialization، mini-batch، optimizer، loss و خوندن مستقیم MNIST از IDX همگی داخل یک نوت بوک.
و Backprop در سطح batch و ماتریس نوشته شده، نه با autodiff؛ و gradientها هم با finite differences صحت سنجی شدند؛ برای
dW هم، relative error حدود 8.7e-12 شد.در آخر روی MNIST چک شد که با 40 تا epoch به 98.04% test accuracy رسید.
خلاصه که اگر همیشه
backward() زدید ولی تا حالا نرفتید ببینید واقعا چکار میکنه؛ میتونید ریپو زیر رو ببینیدhttps://github.com/hrnrxb/DFNN
@DevTwitter | <hrnrxb/>
- ❤ 13
- 🍌 4
- 🔥 3








