عملیات سفارشی در پای‌تورچ Custom Operation

استفاده از عملیات سفارشی توی مدل‌های پای‌تورچ یه چیز کاملاً عادی و رایجه. این عملیات سفارشی می‌تونن کلاس‌ها یا توابع خاصی باشن که با زبان ++C یا CUDA نوشته شدن؛ خوبی‌ش هم اینه که هم توی برنامه‌های پایتون و هم توی برنامه‌های ++C (واسه استنتاج یا همون خروجی گرفتن از مدل) قابل استفاده هستن.

توی این پست قراره یاد بگیریم که چطوری این عملیات سفارشی رو با ++C و CUDA بنویسیم و چطور ازشون توی مدل‌های پای‌تورچ و برنامه‌های خروجی‌گرفته‌شده با AOTInductor استفاده کنیم. واسه این کار هم از یه مثال ساده استفاده کردیم، لینک زیر :

leimao.github.io/blog/PyTorch-Custom-Operation


@Linuxor