Post #412
847


Гроккинг другим способом, без weight_decay, кстати, ранг матриц после гроккинга не меняет, уже не использующиеся веса и связи так и продолжают лежать в матрице балластом.
- 🔥 5
СВ Свидетели Градиента @gradientwitnesses · 668 subscribers 
