热烈祝贺刘禹含、易帅、李亦晨、罗显迪的4篇论文被ICML 2026录用!
实验室2025级博士生刘禹含同学的论文Position Is All You Need: A Free Lunch Token Compression Strategy for MLLM-based Referring Expression Segmentation被ICML2026大会录用,论文在邹逸雄、李玉华等老师的指导下完成。该论文研究了多模态大模型在指代分割任务中的token压缩问题。论文发现,现有在视觉问答等任务中广泛有效的token压缩方法,在指代分割任务中却会导致严重性能下降。针对这一现象,论文进一步发现指代分割属于高度依赖空间结构的密集预测任务,对视觉token的位置信息和局部空间邻域结构极为敏感,现有方法在token合并或剪枝过程中往往破坏了这种空间一致性。基于这一观察,论文提出 PAYN,一种仅依赖位置信息的免训练、即插即用的token压缩方法。该方法通过在局部区域中均匀保留 token,并严格维护原始位置索引,在压缩过程中最大程度保持局部空间关系。实验表明,该方法能够在显著降低推理开销的同时保持较高性能,并全面优于现有压缩策略。论文信息如下:
Yuhan Liu, Yixiong Zou, Yuhua Li, Ruixuan Li. Position Is All You Need: A Free Lunch Token Compression Strategy for MLLM-based Referring Expression Segmentation, Forty-Third International Conference on Machine Learning 2026 (ICML 2026), July 6th - 11th, 2026, Seoul, South Korea
实验室2023级博士生易帅同学的论文 Improving CLIP Adaptation by Breaking Tail Alignment for Source-Free Cross-Domain Few-Shot Learning 被ICML 2026大会录用。论文在邹逸雄、李玉华、李瑞轩老师的指导下完成。该论文首次揭示了跨域小样本学习中一个出乎意料的现象:主动将某些低相似度的图像标记(称为“尾部标记”)从其文本嵌入中推开,却能持续提升目标域的表现。本文深入探讨了这一现象,并提供了新的解释:在巨大的域变化和稀缺的训练数据情况下,模型很难从视觉图像中提取语义信息;因此,普遍认为的对齐原则仅适用于已经包含足够语义信息的标记;对于尾部标记,强行对齐会导致对稀缺训练数据的过度拟合,而打破对齐则更有用。基于此,本文提出了“自适应尾部头部对齐”(ATHA)这一新颖的 CLIP 精调策略,它将传统的统一对齐模式转变为一种自适应对齐模式,实现了对齐强度的增强与减弱。在四个标准数据集上的实验验证了该方法达到了新的最优性能,为未来开发更高效鲁棒的跨域小样本学习系统指明了方向。论文信息如下:
Shuai Yi, Yixiong Zou, Yuhua Li, Ruixuan Li. Improving CLIP Adaptation by Breaking Tail Alignment for Source-Free Cross-Domain Few-Shot Learning (ICML 2026), Seoul, South Korea, July 6-11, 2026.
实验室2023级直博生李亦晨同学的论文Cross-task Calibration for Asynchronous Federated Continual Learning被ICML 2026大会录用。论文在李瑞轩、王号召等老师的指导下完成。该论文研究了异步联邦持续学习场景下的模型漂移问题。不同客户端可能在不同时间点接收到不同的学习任务,并以异步方式上传模型更新,导致全局模型同时面临来自数据异构性的客户端漂移和来自新旧知识冲突的任务漂移。论文提出在每个客户端上传更新时,首先通过缓存历史更新来滤除客户端特有的统计噪声,再将校准后的更新投影到历史任务子空间的正交补空间上,从而仅保留对旧知识无害的新知识分量用于全局聚合。这种双正交校准策略有效解耦了客户端漂移与任务漂移,使得异步场景下的持续学习成为可能。论文信息如下:
Yichen Li, Haozhao Wang, Hang Su, Yulong Li, Xiaoquan Yi, Yankai Jiang, Chuang Zhao, Imran Razzak, Ruixuan Li. Cross-task Calibration for Asynchronous Federated Continual Learning. The Forty-Third International Conference on Machine Learning (ICML’26), Seoul, Korean, July 6-11, 2026.
实验室2025级直博生罗显迪同学的论文TarGATE: Target-Aware Data Selection via Token-Attenuation Gates被ICML 2026大会录用 。论文在李瑞轩、王号召等老师的指导下完成。该论文研究了大语言模型目标导向指令微调中的数据选择问题,致力于在小型参考数据集的指导下从海量混合候选集中高效挑选高质量的对齐样本。论文提出了一种名为TarGATE的轻量级门控框架,通过计算Token级别的信息保留率(IRR)来动态调节前馈神经网络的输出,并将实例的平均IRR作为量化数据质量的最终指标。该机制配合联合优化策略,不仅能精准抑制低质量噪声并保留与目标任务相关的信息,还在多种嘈杂和真实场景下显著优于现有基线方法,同时具备卓越的计算效率与强大的跨模型可迁移性 。论文信息如下:
Xiandi Luo, Shiwei Li, Haozhao Wang, Yihao Ouyang, Zhuoqi Hu, Yichen Li, Xiao Yang, Hu Ning Liu, Ruixuan Li, TarGATE: Target-Aware Data Selection via Token-Attenuation Gates. The Forty-Third International Conference on Machine Learning (ICML’26), Seoul, Korean, July 6-11, 2026.
ICML 是机器学习领域的国际顶级会议之一,也是计算机学会所列人工智能领域的A类会议。自1980年创办以来一直深受全球学者的广泛关注和认可,在整个计算机科学领域享有崇高的声望。
在此,我们对刘禹含、易帅、李亦晨、罗显迪论文的录用表示热烈祝贺!