+86 0551-63607054

信息科学技术学院师生获自然语言处理顶会ACL 2026杰出论文奖

  • 张璠
  • 2026-07-10
  • 10


 

近日,第64届国际计算语言学年会(Annual Meeting of the Association for Computational Linguistics,简称ACL)于美国加利福尼亚州圣迭戈举办,中国科学技术大学信息科学技术学院杨勋教授团队与新加坡国立大学合作完成的论文《Maximizing Local Entropy Where It Matters: Prefix-Aware Localized LLM Unlearning》荣获杰出论文奖(Outstanding Paper Award)。

ACL是计算语言学和自然语言处理领域国际排名第一的顶级学术会议,由国际计算语言学协会组织,每年召开一次,在中国计算机学会(CCF)推荐会议列表中被列为A类会议,也是国际人工智能领域顶级学术会议。2026年,ACL从全球12148篇投稿中评选出18篇杰出论文,用于表彰在学术创新性、影响力、启发性等方面表现卓越的研究工作,获奖论文通常被视为推动领域发展的标志性成果。

 

1  ACL 2026组委会宣布杰出论文奖(左三:翟乃鑫)

 

本论文聚焦大语言模型(LLM)的遗忘学习问题,即如何定向移除模型中与仇恨言论、隐私、版权等相关的敏感知识,同时尽量保持模型原有的通用能力。现有主流遗忘学习方法通过抑制特定内容的生成概率来削弱模型对相关知识的记忆。然而,现有方法通常对敏感回答中大多数词元进行无差别的遗忘约束,甚至在整个词表空间上进行全局熵最大化,从而导致模型通用能力下降和计算成本上升。对此,论文提出了PALU,即前缀感知局部遗忘方法,其核心思想是:高效且准确LLM遗忘学习应找到真正影响敏感知识生成的关键词元,并进行有针对性的局部干预。具体而言,PALU从两个维度给出了解决方案:(1)在词元维度上,只需要对推动敏感知识连续生成的重要词元所对应的前缀词元进行干预,即可切断触发敏感回复的早期生成路径;(2)在词表维度上,只对解码时起主导作用的“头部”候选词元施加局部熵最大化,降低计算代价。实验发现,PALU在有效阻断敏感知识生成的同时,能够减小遗忘过程对模型通用能力的损伤。整体而言,PALU代表了LLM遗忘学习方向的阶段性突破,为实现更加精准、稳定、低损伤的大语言模型遗忘学习提供了重要方法支持,因而受到了评审专家的一致认可。


 

2 信息科学技术学院师生获ACL 2026杰出论文奖

 

本论文第一作者为信息科学技术学院硕士研究生翟乃鑫同学,杨勋教授和新加坡国立大学邵鹏阳博士共同担任通讯作者。

此次获奖充分彰显了学院在人工智能基础理论研究方面的深厚积淀与国际学术影响力,以及在大模型前沿研究上的引领能力。学院将以此为契机,持续深化原创性、引领性研究,为人工智能技术的长远发展作出更大贡献。

 

 

信息科学技术学院