尊龙游戏人生就是博

搜索 猫眼影戏 融媒体矩阵
  • 山东手机报

  • 猫眼影戏

  • 公共网官方微信

  • 公共网官方微博

  • 抖音

  • 人民号

  • 天下党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

强化学习解决长上下文推理问题:通义推出QwenLong-L1-32B

2025-06-01 04:10:17
泉源:

猫眼影戏

作者:

郝东恒

手机审查

  猫眼影戏记者 陈日源 报道w3u7903ejky2ywls

机械之心宣布

机械之心编辑部

上下文长度达 13 万 token,适用于多段文档综合剖析、金融、执法、科研等重大领域使命。

近期的推理大模子(LRMs)通过强化学习(RL)展现出强盛的推理能力,但这些刷新主要体现在短上下文推理使命中。相比之下,怎样通过强化学习扩展 LRMs 以有用处置惩罚和推理长上下文输入,仍然是一个尚未解决的要害挑战。

来自阿里巴巴通义实验室的团队首先形式化界说长上下文推理强化学习范式,并识别出其中的两个焦点挑战:次优的训练效率与不稳固的优化历程

针对这些问题,团队提出QwenLong-L1长上下文推理强化学习框架,通过渐进式上下文扩展战略逐步提升模子在长上下文推理使命上的体现,最终在多个长文档问答 benchmarks 上,QwenLong-L1-32B 体现卓越,不但逾越 OpenAI-o3-miniQwen3-235B-A22B等旗舰模子,更与 Claude-3.7-Sonnet-Thinking 性能对标

主要孝顺

1. 界说长上下文推理强化学习范式

区别于短上下文推理强化学习增进模子使用内部知识推理,长上下文推理强化学习需要模子首先定位外部要害信息然后整合内部推理

2. 识别长上下文推理强化学习要害问题

长上下文推理强化学习训练效率低,详细体现在(a)奖励收敛较慢,(b)模子输出熵的显著降低,限制了优化历程中的探索行为。同时,长上下文推理强化学习训练不稳固,详细体现为(c)KL 散度突刺较多,这是由于(d)较长的输出长度和不匀称的输入长度导致方差变大,导致战略更新不稳固。

3. 构建 QwenLong-L1 长上下文推理强化学习框架

基于渐进式上下文扩展手艺混淆奖励机制,QwenLong-L1 通过强化学习实现了从随笔本到长文本的稳固上下文顺应。

4. 开源 QwenLong-L1-32B 长上下文文档推理大模子

与前沿长上下文推理大模子相比,QwenLong-L1-32B 实现了显著的性能提升,相较于 DeepSeek-R1-Distill-Qwen-32B 平均提升7.8%,不但逾越OpenAI-o3-miniQwen3-235B-A22B等旗舰模子,更与 Claude-3.7-Sonnet-Thinking 性能对标,为长文本推理优化提供了基础性手艺计划,

焦点手艺

基于古板的短上下文推理强化学习框架,QwenLong-L1 主要提出如下刷新:渐进式上下文扩展手艺和混淆奖励机制。

渐进式上下文扩展手艺

训练长上下文推理大模子保存不稳固的优化动态特征。为解决这些问题,我们提出了一种渐进式上下文扩展框架,该框架包括:课程指导的分阶段强化学习战略以稳固从短到长上下文的优化历程;难度感知的回首采样机制,优先探索重大实例;以及稳固的监视微调预热阶段,在强化学习训练条件供稳健的初始化基础。

稳健的监视微调预热:使用蒸馏的长上下文推理数据在强化学习前监视微调模子,获取稳固的初始战略,降低训练历程中的不稳固。

课程指导的分阶段强化学习:将强化学习训练分为两阶段,阶段 I 输入长度 20K,阶段 II 扩展至 60K,逐步顺应长上下文。每阶段仅训练目今长度区间的样本,阻止混淆长度导致的优化冲突。

难度感知的回首采样:凭证样本平均奖励动态盘算难度,低奖励样本(高难度)被优先保存至后续阶段。阶段 II 训练时,包括阶段 I 的高难度样本,强制模子一连探索重大案例。

混淆奖励机制

在数学、编程和逻辑推理等短上下文推理使命中,先前的研究事情通常接纳基于规则的奖励函数。然而,开放域问答等长上下文推理使命因其固有的谜底多样性带来了奇异挑战。在这种情境下,限制性过强的基于规则的奖励机制可能会制约有用谜底的多样性,从而可能影响整体性能。针对这些局限性,我们提出一种融合规则验证模子评判的混淆奖励机制,通过互补性评估实现准确率与召回率的平衡。

规则奖励:通过正则表达式从模子输出中提取谜底,与标准谜底严酷匹配。确保谜底名堂准确性,避免 Reward Hacking。

模子评判:训练历程接纳 Qwen2.5-1.5B-Instruct 作为轻量级评判模子,评估展望谜底和标准谜底之间语义等价性。

组合战略:最终奖励取规则与模子评判的最大值,兼顾准确性与谜底多样性。

实验发明

主实验效果

相较于 SFT,RL 性能提升显著:仅需 1.6K 高质量样本在 R1-Distill-Qwen 模子上 RL 后提升显着,14B 模子平均提升 4.1,32B 模子平均提升 5.1。

在海内外旗舰推理模子中处于领先职位:

QwenLong-L1-14B 模子平均 Pass@1 抵达 68.3,逾越 Gemini-2.0-Flash-Thinking, R1-Distill-Qwen-32B, Qwen3-32BQwenLong-L1-32B 模子平均 Pass@1 抵达 70.7,逾越 QwQ-Plus, Qwen3-Plus, OpenAI-o3-mini, 与 Claude-3.7-Sonnet-Thinking 持平

Test-Time Scaling 性能显着:QwenLong-L1-14B 模子平均 Pass@2 抵达 73.7,逾越 DeepSeek-R1 (Pass@1, 72.1), OpenAI-o1-preview (Pass@1, 72.9)

SFT 与 RL 的权衡

探讨差别起点模子 RL 后的效果:Base Model, Short-Context SFT Model (<=20K), Long-Context SFT Model (<=60K)。

有趣发明:

SFT 和 RL 施展着互补作用,SFT 较低价钱到可接受性能,而 RL 对抵达最佳效果至关主要;要实现最优性能,必需优先思量 RL 而不是 SFT,由于太过关注 SFT 可能使模子陷入局部最优,从而限制 RL 提升;

长上下文推理行为的涌现和转变

探索训练历程中推理模式的动态转变:包括长上下文推理相关的 Grounding 和通用推理相关的 Backtracking, Verification, Subgoal Setting 等推理模式。

有趣发明:

所有模子都体现出显着的种种推理模式,且长上下文相关的 Grounding 泛起频率最高RL 自然地使这些推理模式泛起频率越来越高,最终性能也会随之增添SFT 只管让推理模式取得了远高于 RL 的增添,但转换成的性能提高相较于 RL 有限

结论

这项研究通过强化学习探索了长上下文推理大模子的开发。其首先提出长上下文推理强化学习范式,并发明次优的训练效率和不稳固的优化历程等要害问题。

为应对这些挑战,研究团队推出 QwenLong-L1,一个渐进式上下文扩展强化学习框架。实验效果批注 QwenLong-L1 在业界领先的长上下文推理大模子中体现优异。其中,QwenLong-L1-14B 性能逾越 Gemini-2.0-Flash-Thinking 和 Qwen3-32B,而 QwenLong-L1-32B 逾越 OpenAI-o3-mini、Qwen3-235B-A22B,甚至与 Claude-3.7-Sonnet-Thinking 抵达一律水平。

尊龙游戏人生就是博剖析展现了长上下文推理强化学习的三项要害洞察:渐进式上下文扩展对实现稳固顺应的主要作用、优先强化学习对最优性能的须要性,以及强化学习训练历程中长文本推理模式的增添对性能提升的增进作用。

??时势1:雷电将军裸体被❌羞羞网站

??06月01日,北京便利公积金办事网点查询 电子地图“一键导航”,

  20xx年我们在自治区党委、政府,那曲地委、行署和县委、县政府的准确向导下,在自治区教育厅和地区教体局的亲热眷注和鼎力大举支持下,我们以科学生长观为统领,以开办人民知足的教育为宗旨,一直牢靠效果,挖掘内部潜力,规范办学行为,提升教育内在,起劲提高教育教学质量,各项事情取得了可喜的效果。

,奇优影视剧旧版。

??06月01日,AI绘两会 | “新质生产力”,如何把“Made in China”重新定义新加坡学者:推动发展新质生产力,中国新能源产业前景广阔,

  “子陵,该收手了。”就在这时,正西方的老祖动了,依旧盘坐,可是迅如闪电般,移到了近前,通体散发雾霭,身影模糊,探出一只手,抵住了那恐怖的矛锋,护住了那两人。

,云韵爽⋯好大⋯快⋯深,色情性黄 7 4片涩涩涩的作文,让人爽的流氓app。

??时势2:91在线在线啪永久地址

??06月01日,书香校园 收获成长(深聚焦),

金条逾期了会坐牢吗,起诉流程是什么

,18🈲🍆🍑有套直国产,被爆乳羞羞奶头嗯啊男男,憨憨倩和恬恬国产的后续发展如何。

??06月01日,浙江龙泉激活统战力量:山区“小工坊”织就共富梦,

  遵照族长所说,每多开发一个洞天,潜能就多翻开一部分。若是一个洞天的潜能基数为一,那么两洞天的就为二,以此类推,到了八洞天时就是八,差别着实太大了!

,女人疯狂❌喷水爽动图,车内搓双乳震颤呻吟高潮动态图,小乔脱裤子让我❌进去动漫。

??时势3:韩漫被❌到爽🔞流小说

??06月01日,卡塔尔华侨华人:感受“中国制造”与足球的“碰撞”,

  三口飞剑一齐自地面冲起,如彗星横空,摇曳出长长的尾芒,照亮了整片天涯,其光惊人,意会天上地下!

,纲手胸被爆❌羞羞免费视频,AI换脸王鹤棣喷水视频无码,叶罗丽仙子被强行侵犯的小说。

??06月01日,辽宁沈阳现“雪人阵”,

开学学校向导讲话 篇13

,小色猫社区,❌❌❌美女裸体隐私视频,米塔被❌到爽🔞流下载。

??时势4:二次元美女泳装图集

??06月01日,两会大家谈|激活新质生产力 新加坡学者看好中国经济高质量发展,

  “错,这个天下浩荡无边,你所看到的只是一隅之地。”柳神纠正,告诉他,尚有广袤的区域,在那些地方生灵众多。

,扒开胸罩狂揉出奶水,免费韩国❌羞羞网站视频,男男扒开🍑伸进🍌❌。

??06月01日,菲律宾11月通胀率升至2.5% 连续两月上涨,

  为确保稳固和生长的阵势,提高下层组织治理本村事务的能力和村民自治水平,下步,我们要以贯彻落实本次大会精神为动力,加鼎实力,切实提高村级民主治理水平。一要提高党支部的向导焦点作用,村党支部是农村下层的战斗堡垒,在推进村级民主治理建设中,村党支部的向导焦点作用不可弱化,对村级经济建设和社会生长中的主要问题必需召开支部聚会举行讨论决议。同时,要带动凭证民主治理制度划定,把需要由村委会讨论决议的事定心让他们去做,并做好指导事情。二要建设健全长效的事情治理机制。村级民主治理事情必需依赖响应的长效事情机制来包管,要把建设健全村务果真和民主治理制度作为提高村级民主治理水平、增进下层民主*建设的治本之策,坚持以执法、规则和政策为依据,建设完善以民主治理坚持以村党支部为焦点,村委会为主体,村民聚会和村民(社员)代表聚会为主要形式的民主决议制度,按期对村内重大事项举行探讨;制订完善村民村规民约,对各村原有的各项划定举行一次整理,修改与国家执法、规则和政策相抵触的内容,经村民代表聚会讨论之后生效;完善监视制度,各村都建设了民主理财监视小组,对村级财务收支情形举行监视、核查,并按期举行宣布。三要推行村务提议制度。是通过填写《村务提议表》,村委会对提议举行研究,实时回复。同时,对关于村级经济生长和社会事业生长的重大提议,村委会要提交村支部,举行配合探讨,坚决杜绝“一言堂”和“先斩后奏”征象,进一步亲近村级干群关系,增进村民自治。

,性生生活18分钟,男男GaYGAYS✅18体育生,久久九九99精品成人网站乐潘坊。

责编:黄晓薇

审核:马沙文

责编:邵刚

相关推荐 换一换

Copyright (C) 2001-2025   dzwww.com. All Rights Reserved

新闻信息效劳允许证 - 音像制品出书允许证 - 广播电视节目制作谋划允许证 - 网络视听允许证 - 网络文化谋划允许证

山东省互联网传媒集团主理  联系电话:0531-85193202  违法不良信息举报电话:0531-85196540

鲁ICP备09023866号-1   鲁公网安备 37010202000111号  

Copyright (C) 2001-2025 Dzwww   鲁ICP备09023866号-1

【网站地图】【sitemap】