HAVE AI NEWS HAVE AI NEWS

#Глубокое обучение

Математический взгляд на градиентный спуск: концепция модульной двойственности от ученых MIT

Исследователи из MIT CSAIL предложили пересмотреть классический механизм градиентного спуска через призму сопряженных векторных пространств, объединив теорию с методами оптимизации Shampoo и µP.