第14届国际表征学习会议(The 14th International Conference on Learning Representations,ICLR 2026)论文录用结果近日揭晓,IDC 实验室 2021 级博士生李世伟同学的论文被大会正式录用。论文在李瑞轩、王号召等老师指导下完成。论文题目是 BoRA: Towards More Expressive Low-Rank Adaptation with Block Diversity。
该研究围绕大模型低秩适配(Low-Rank Adaptation, LoRA)在表达能力上的固有限制展开。针对传统 LoRA 依赖统一低秩分解、需要通过提升秩来增强性能但会显著增加参数量的问题,论文提出了一种新的方法 Block Diversified Low-Rank Adaptation(BoRA)。BoRA 将 LoRA 的低秩矩阵乘法建模为块矩阵形式,通过在不同块乘积中引入对角调制机制,有效增强了不同低秩子空间之间的表达多样性。在仅引入少量额外参数的前提下,BoRA 显著提升了 LoRA 权重的有效秩和表示能力。大量实验结果表明,BoRA 在多种模型规模和下游任务上均显著优于现有低秩适配方法,展现出良好的性能–参数效率平衡。
论文信息如下:
Shiwei Li, Xiandi Luo, Haozhao Wang, Xing Tang, Ziqiang Cui, Dugang Liu, Yuhua Li, Yichen Li, Xiuqiang He, Ruixuan Li. BoRA: Towards More Expressive Low-Rank Adaptation with Block Diversity. The 14th International Conference on Learning Representations (ICLR 2026), Rio de Janeiro, Brazil, April 23rd–27th, 2026.
ICLR 是机器学习与人工智能领域国际公认的顶级学术会议之一,与NeurIPS和ICML并称为机器学习三大顶会,在最新修订的CCF推荐列表里已升为A类会议,在学术界和工业界均具有广泛而深远的影响力。
我们对李世伟同学论文的录用表示热烈祝贺!