😊 3 ключевые свойства следа матрицы в Deep Learning
1⃣ L2-регуляризация: Квадрат нормы Фробениуса,
||W||² = tr(WᵀW), используется для штрафования больших весов и предотвращения переобучения.2⃣Вычисление градиентов: Циклическое свойство следа,
tr(AB) = tr(BA), упрощает вывод матричных производных при обратном распространении ошибки (backpropagation).3⃣ Инвариантность: След инвариантен к замене базиса,
tr(P⁻¹AP) = tr(A); это свойство используется при поиске нового, более удобного базиса в PCA.👉Новости 👉База вопросов