TorchScale - A Library for Transformers at (Any) Scale

TorchScale - набор инструментов с открытым исходным кодом, который позволяети разработчикам эффективно и действенно масштабировать Transformers.

pip install torchscale

🖥 Github: https://github.com/microsoft/torchscale

⏩ Paprer: https://arxiv.org/abs/2211.13184v1

⭐️ Pypi: https://pypi.org/project/torchscale/

👉 @bigdata_1