Исследователи из MIT CSAIL предложили пересмотреть классический механизм градиентного спуска через призму сопряженных векторных пространств, объединив теорию с методами оптимизации Shampoo и µP.