尊龙游戏人生就是博

　　猫眼影戏记者 聂保国 报道w3u7903ejky2ywls

机械之心宣布

机械之心编辑部

上下文长度达 13 万 token，适用于多段文档综合剖析、金融、执法、科研等重大领域使命。

近期的推理大模子（LRMs）通过强化学习（RL）展现出强盛的推理能力，但这些刷新主要体现在短上下文推理使命中。相比之下，怎样通过强化学习扩展 LRMs 以有用处置惩罚和推理长上下文输入，仍然是一个尚未解决的要害挑战。

来自阿里巴巴通义实验室的团队首先形式化界说长上下文推理强化学习范式，并识别出其中的两个焦点挑战：次优的训练效率与不稳固的优化历程

针对这些问题，团队提出QwenLong-L1长上下文推理强化学习框架，通过渐进式上下文扩展战略逐步提升模子在长上下文推理使命上的体现，最终在多个长文档问答 benchmarks 上，QwenLong-L1-32B 体现卓越，不但逾越 OpenAI-o3-miniQwen3-235B-A22B等旗舰模子，更与 Claude-3.7-Sonnet-Thinking 性能对标

主要孝顺

1. 界说长上下文推理强化学习范式

区别于短上下文推理强化学习增进模子使用内部知识推理，长上下文推理强化学习需要模子首先定位外部要害信息然后整合内部推理

2. 识别长上下文推理强化学习要害问题

长上下文推理强化学习训练效率低，详细体现在（a）奖励收敛较慢，（b）模子输出熵的显著降低，限制了优化历程中的探索行为。同时，长上下文推理强化学习训练不稳固，详细体现为（c）KL 散度突刺较多，这是由于（d）较长的输出长度和不匀称的输入长度导致方差变大，导致战略更新不稳固。

3. 构建 QwenLong-L1 长上下文推理强化学习框架

基于渐进式上下文扩展手艺混淆奖励机制，QwenLong-L1 通过强化学习实现了从随笔本到长文本的稳固上下文顺应。

4. 开源 QwenLong-L1-32B 长上下文文档推理大模子

与前沿长上下文推理大模子相比，QwenLong-L1-32B 实现了显著的性能提升，相较于 DeepSeek-R1-Distill-Qwen-32B 平均提升7.8%，不但逾越OpenAI-o3-miniQwen3-235B-A22B等旗舰模子，更与 Claude-3.7-Sonnet-Thinking 性能对标，为长文本推理优化提供了基础性手艺计划，

焦点手艺

基于古板的短上下文推理强化学习框架，QwenLong-L1 主要提出如下刷新：渐进式上下文扩展手艺和混淆奖励机制。

渐进式上下文扩展手艺

训练长上下文推理大模子保存不稳固的优化动态特征。为解决这些问题，我们提出了一种渐进式上下文扩展框架，该框架包括：课程指导的分阶段强化学习战略以稳固从短到长上下文的优化历程；难度感知的回首采样机制，优先探索重大实例；以及稳固的监视微调预热阶段，在强化学习训练条件供稳健的初始化基础。

稳健的监视微调预热：使用蒸馏的长上下文推理数据在强化学习前监视微调模子，获取稳固的初始战略，降低训练历程中的不稳固。

课程指导的分阶段强化学习：将强化学习训练分为两阶段，阶段 I 输入长度 20K，阶段 II 扩展至 60K，逐步顺应长上下文。每阶段仅训练目今长度区间的样本，阻止混淆长度导致的优化冲突。

难度感知的回首采样：凭证样本平均奖励动态盘算难度，低奖励样本（高难度）被优先保存至后续阶段。阶段 II 训练时，包括阶段 I 的高难度样本，强制模子一连探索重大案例。

混淆奖励机制

在数学、编程和逻辑推理等短上下文推理使命中，先前的研究事情通常接纳基于规则的奖励函数。然而，开放域问答等长上下文推理使命因其固有的谜底多样性带来了奇异挑战。在这种情境下，限制性过强的基于规则的奖励机制可能会制约有用谜底的多样性，从而可能影响整体性能。针对这些局限性，我们提出一种融合规则验证模子评判的混淆奖励机制，通过互补性评估实现准确率与召回率的平衡。

规则奖励：通过正则表达式从模子输出中提取谜底，与标准谜底严酷匹配。确保谜底名堂准确性，避免 Reward Hacking。

模子评判：训练历程接纳 Qwen2.5-1.5B-Instruct 作为轻量级评判模子，评估展望谜底和标准谜底之间语义等价性。

组合战略：最终奖励取规则与模子评判的最大值，兼顾准确性与谜底多样性。

实验发明

主实验效果

相较于 SFT，RL 性能提升显著：仅需 1.6K 高质量样本在 R1-Distill-Qwen 模子上 RL 后提升显着，14B 模子平均提升 4.1，32B 模子平均提升 5.1。

在海内外旗舰推理模子中处于领先职位：

QwenLong-L1-14B 模子平均 Pass@1 抵达 68.3，逾越 Gemini-2.0-Flash-Thinking, R1-Distill-Qwen-32B, Qwen3-32BQwenLong-L1-32B 模子平均 Pass@1 抵达 70.7，逾越 QwQ-Plus, Qwen3-Plus, OpenAI-o3-mini, 与 Claude-3.7-Sonnet-Thinking 持平

Test-Time Scaling 性能显着：QwenLong-L1-14B 模子平均 Pass@2 抵达 73.7，逾越 DeepSeek-R1 (Pass@1, 72.1), OpenAI-o1-preview (Pass@1, 72.9)

SFT 与 RL 的权衡

探讨差别起点模子 RL 后的效果：Base Model, Short-Context SFT Model (<=20K), Long-Context SFT Model (<=60K)。

有趣发明：

SFT 和 RL 施展着互补作用，SFT 较低价钱到可接受性能，而 RL 对抵达最佳效果至关主要；要实现最优性能，必需优先思量 RL 而不是 SFT，由于太过关注 SFT 可能使模子陷入局部最优，从而限制 RL 提升；

长上下文推理行为的涌现和转变

探索训练历程中推理模式的动态转变：包括长上下文推理相关的 Grounding 和通用推理相关的 Backtracking, Verification, Subgoal Setting 等推理模式。

有趣发明：

所有模子都体现出显着的种种推理模式，且长上下文相关的 Grounding 泛起频率最高RL 自然地使这些推理模式泛起频率越来越高，最终性能也会随之增添SFT 只管让推理模式取得了远高于 RL 的增添，但转换成的性能提高相较于 RL 有限

结论

这项研究通过强化学习探索了长上下文推理大模子的开发。其首先提出长上下文推理强化学习范式，并发明次优的训练效率和不稳固的优化历程等要害问题。

为应对这些挑战，研究团队推出 QwenLong-L1，一个渐进式上下文扩展强化学习框架。实验效果批注 QwenLong-L1 在业界领先的长上下文推理大模子中体现优异。其中，QwenLong-L1-14B 性能逾越 Gemini-2.0-Flash-Thinking 和 Qwen3-32B，而 QwenLong-L1-32B 逾越 OpenAI-o3-mini、Qwen3-235B-A22B，甚至与 Claude-3.7-Sonnet-Thinking 抵达一律水平。

尊龙游戏人生就是博剖析展现了长上下文推理强化学习的三项要害洞察：渐进式上下文扩展对实现稳固顺应的主要作用、优先强化学习对最优性能的须要性，以及强化学习训练历程中长文本推理模式的增添对性能提升的增进作用。

??时势1：蛋黄酱的姐姐免费全集动漫

??06月02日,加拿大蒙特利尔上演第八届枫花雪乐中国春晚,

　　祝愿各人新年快乐、身体康健、阖家幸福!

,黄婷大连工业视频链接。

??06月02日,今年第三季度北京城市副中心统一代码赋码量同比增幅超五成,

　　为期两天的和县建设新农村建设档案事情树模县验收事情即将圆满竣事Ｔ硕贝，预验收组列位向导和专家对我县新农村建设档案事情举行了周全、详尽的考察和评估，提出了实事求是的验收意见；验收组向导和专家从体贴和支持我县档案事业生长的角度，对我县的建设事情，提出了极具指导性和针对性的意见，为我县建设事情，指明晰起劲的偏向。在此，我代表和县县委、县政府，对验收组给予我县档案事情的一定，体现衷心的谢谢！对两天来不辞劳怨、辛勤事情的验收组一行，体现高尚的敬意！

,piron59HD馃拫馃拫,农村护士一级A片,我的🍌伸进女同学🍑。

??时势2：欲漫涩网站免费入口ios

??06月02日,联合国官员：冀更多中国供应商参与联合国采购,

　　“。　

,18禁色情👅❤️在线搜索,小鲜肉Gay自慰videos,jK白丝班长在我胯下娇喘。

??06月02日,美媒：大规模枪案频发 美国深陷枪支暴力危机,

　　下方有凶兽低语，品头论足。

?第一百三十三章 太一真水,女人疯狂❌喷水爽动图,大奉打更人1-40集电视连续剧,0n❌❌❌VⅰdeO。

??时势3：女同性疯狂做爰

??06月02日,大范围雨雪已展开 周末寒潮来袭南方也有机会下雪,

　　“爷爷，你该告诉我了。”小石昊转头，眼神清亮。

,明日方舟R18❌羞羞漫画,符玄裸体❌开腿裸体网站,蒂法被扒开腿坐做❌同人黄文。

??06月02日,（乡村行·看振兴）江西德安筑巢引凤来栖 助推蛋鸡产业提质升级,

开学学校向导讲话 篇16

,欧美黑人部落⭕⭕⭕⭕XXXX,16青少年裸体洗澡自慰小说,女澡堂洗澡㊙️网站。

??时势4：打男生白嫩㊙️屁屁网站

??06月02日,美国副总统哈里斯正式接受民主党总统候选人提名,

　　中年人突然脱手，没有什么多余的话语，同样是火光术，可是威力却不可同日而语。

,中国美女做浣肠㊙️视频,十八禁🔞免费网软件视频推特,美女被男生❌免费视频网。

??06月02日,农业农村部：着重保障粮食和重要农产品稳定安全供给,

　　见到这些人赶到后，人熊起身，拍了拍血淋淋的大爪子，此后振动一对同党，直接消逝在了夜空中。

,喜多川海梦被c到喷水,哎呦绅士网址,91看片白丝少萝❌❌自慰动漫。