Пришли результаты ICML

Мир ресерча в области ML и AI - постоянные американские горки.
🎢Пишешь статьи, подаешь, ждешь результат, который может быть непредсказуем.

В этот раз на конференцию от нашей лаборатории прошли 4 статьи😇:

• One-Step Gradient Delay is Not a Barrier for Large-Scale Asynchronous Pipeline Parallel LLM Pretraining
• From Optimization to Generalization under Heavy-Tailed Data: The Role of Gradient Clipping
• Softsign: Smooth Sign in Your Optimizer For Better Parameter Heterogeneity Handling
• Gradient-Free Approaches is a Key to an Efficient Interaction with Markovian Stochasticity

Поздравляем ребят! Позже вернемся с подробными разборами статей.

😐Уже неудивительно, что некоторые статьи, получившие хорошие отзывы и оценки на ревью, оказались в итоге со статусом реджект.

А мы снова покупаем билет на этот аттракцион, следующий - NeurlPS.

А как у вас дела с ICML?