Итоги ICML 2026: рекордный наплыв статей и расцвет диффузионных языковых моделей

Рекордный масштаб и статистика ICML 2026

В сеульском выставочном комплексе COEX завершилась International Conference on Machine Learning (ICML) 2026 — одна из наиболее статусных мировых площадок в сфере искусственного интеллекта. В этом году мероприятие установило сразу несколько исторических рекордов:

• 24 661 научная работа была подана на рецензирование — почти в два раза больше по сравнению с прошлым годом;
• 6 552 статьи приняты в основную программу, что составило 26,6% от общего числа заявок;
• Лишь 575 работ удостоились статуса Spotlight, а устными докладами (Oral) стали всего 168 публикаций (около 0,7%);
• Конференцию очно посетили более 20 тысяч участников, полностью заполнив лимит площадки (для сравнения: годом ранее в Ванкувере присутствовало порядка 8 тысяч специалистов).

Экспо-зону заполнили ведущие технологические гиганты и лаборатории — от OpenAI, Google DeepMind и Microsoft до Mistral, ByteDance, Nebius и Turing.

Главный тренд: дискретная диффузия в генерации текста

Одной из центральных тем конференции стали дискретные диффузионные языковые модели (dLLM). В отличие от классических авторегрессионных моделей, генерирующих токены последовательно слева направо, диффузионные алгоритмы восстанавливают текст параллельно из зашумленного или маскированного состояния. Это открывает принципиально новые возможности для оптимизации инференса, параллельного декодирования и гибкого планирования рассуждений.

Значимость направления подчеркивает и распределение главных наград конференции. Обе премии Outstanding Paper Award в 2026 году были присуждены исследованиям в области диффузии:

• High-Accuracy Sampling for Diffusion Models and Log-Concave Distributions — фундаментальная теоретическая работа, демонстрирующая способ снизить зависимость шагов семплирования от желаемой точности до полилогарифмического уровня.
• The Flexibility Trap: Rethinking the Value of Arbitrary Order in Diffusion Language Models — исследование, показавшее, что свободный порядок генерации токенов в dLLM при решении задач reasoning приводит к схлопыванию разнообразия рассуждений. Авторы предложили метод JustGRPO с фиксацией направления слева направо во время RL-обучения и сохранением параллельного декодинга на этапе инференса, достигнув впечатляющей точности 89,1% на датасете GSM8K.

Заметные исследования и новые подходы

Среди других прорывных работ на ICML 2026 эксперты выделили несколько перспективных направлений:

• DFlash: Block Diffusion for Flash Speculative Decoding — блочная диффузия для спекулятивного декодирования ускоряет работу моделей более чем в 6 раз без потери качества, превосходя популярные аналоги вроде EAGLE-3.
• IDLM (Inverse-distilled Diffusion Language Models) — метод обратной дистилляции для дискретных языковых моделей, позволяющий сократить число шагов денойзинга в 4–64 раза.
• d2 и Discrete Tilt Matching — новые алгоритмы reinforcement learning для dLLM, позволяющие эффективно оптимизировать модели по траекториям и локальным распределениям.
• Set Diffusion — развитие гибридной архитектуры, объединяющей диффузионные и авторегрессионные механизмы с сохранением поддержки KV-кэша.
• Применение в естественных науках — перенос диффузии и потоковых отображений на молекулярную динамику, генерацию белковых структур и расчет распределений Больцмана.

Трансформация исследовательского процесса

Экспоненциальный рост числа научных публикаций наглядно отражает влияние AI-ассистентов и агентных систем на подготовку экспериментов. В то же время на конференции всё отчетливее проявилась новая реальность: ценность смещается от чисто количественного улучшения метрик к поиску принципиально нестандартных постановок задач, глубокому пониманию алгоритмических ограничений и критической валидации результатов.