📚Why gradient clipping accelerates training: A theoretical justification for adaptivity [Почему градиентное отсечение ускоряет обучение: теоретическое обоснование адаптивности]
Теоретическое объяснение эффективности градиентного отсечения при обучении глубоких нейронных сетей. Подробнее в работе Jingzhao Zhang, Tianxing He, Suvrit Sra и Ali Jadbabaie.
Post #178
1.18K