Добрый день, друзья!

Многие, в том числе и я, упустили достаточно важное событие в сфере машинного обучения.

За фундаментальный вклад в математическую оптимизацию Юрий Евгеньевич Нестеров получил Премию Карла Фридриха Гаусса — одну из высших международных наград в прикладной математике.

Знаковой работой Нестерова стала опубликованная в 1983 году статья «Метод решения задачи выпуклого программирования со скоростью сходимости O(1/k²)».

В ней был предложен метод оптимизации первого порядка — модификация градиентных методов, позволяющая значительно ускорить их сходимость. Впоследствии этот подход получил широкую известность как метод Нестерова (Nesterov's momentum, Nesterov Accelerated Gradient, Fast Gradient Method).

Хотя метод был предложен ещё в 1983 году, широкое признание и особенно активное практическое применение пришли лишь спустя десятилетия.

Сам Юрий Евгеньевич интересно говорит о нынешнем моменте в видеоанонсе премии:
«Я ушёл на пенсию в самый неподходящий момент. В момент, когда искусственный интеллект даёт нам новые приложения и много новых испытаний. И я хочу поучаствовать в этом немного. Поэтому странно останавливаться прямо сейчас».

Сейчас Юрий Евгеньевич продолжает работать в области Data Science и является профессором Школы наук о данных Китайского университета Гонконга (Шэньчжэнь).

Также есть 45-минутная ознакомительная лекция от Юрия Нестерова по методам оптимизации высоких порядков. Рекомендую к просмотру!