2025-05-30 04:08:05 3,404次浏览

梦晨 发自 凹非寺量子位 | 公众号 QbitAI

推理大模子开卷新偏向，阿里开源长文本深度思索模子QwenLong-L1，登上HuggingFace今日热门论文第二 。

其32B参数版本凌驾OpenAI-o3-mini、Qwen3-235B-A22B等，取得与Claude-3.7-Sonnet-Thingking相当的性能 。

除测评分数外，论文中还详细展示了一个金融文档推理的案例 。古板模子容易被无关细节误导，而QwenLong-L1通过回溯和验证机制过滤滋扰信息，准确整合要害数据 。

使命要求：凭证文档回覆问题“将优先票据的刊行本钱与第一年的利息支出合并盘算，总资源本钱是几多 ？”

首先进场的基础模子DeepSeek-R1-Distill-Qwen-14B被文档中“自2011年10月15日起每半年支付一次利息”误导，凭证不相关的时间和财务信息，过失盘算了第一年的利息支付 。

接下来，经由特殊SFT的版本仍然未能解决这个问题 。

它在对不相关文档举行太过剖析的循环中自我嫌疑，最终尽了最大天生限制（10000 tokens），却没有给出最终谜底 。

相比之下，虽然QwenLong-L1-14B最初也体现出类似的分神，但它很快举行了有用的自我反思 。通过实时验证和回溯，乐成过滤掉了不相关的细节，得出了准确谜底 。

那么，QwenLong-L1是怎样做到的 ？

渐进式上下文扩展

首先，现有推理模子在面临长文本（如几万字甚至更长）时遇到什么问题 ？

Qwen团队通过比照实验发明，长文本推理的强化学习训练保存两个“硬伤”：

一是训练效率低，古板强化学习（RL）要领在长文本中容易陷入局部最优，奖励收敛慢，限制了战略优化时的探索行为 。

二是优化历程不稳固，长文本使命的输出长度更高、输入长度漫衍不匀称，导致战略更新时的方差被放大，训练历程中参数更新不稳固（如KL散度坐过山车） 。

为此团队提出QwenLong-L1训练框架，焦点是通过渐进式上下文扩展让模子逐步顺应长文本推理 。训练历程分为两阶段：

预热监视微调（Warm-Up Supervised Fine-Tuning）

在最先强化学习之前，先用高质量的演示数据举行监视微调，让模子先具备基本的长文本明确能力、推理链天生能力和谜底提取能力 。

团队从DeepSeek-R1蒸馏了5.3K个高质量的问题-文档-谜底三元组，确保模子有个稳固的起点 。实验效果显示，这个”热身”阶段对后续的强化学习训练至关主要 。

课程指导的分阶段强化学习（Curriculum-Guided Phased Reinforcement Learning） 。

从随笔笔起步过渡到长文本 。例如，先训练模子处置惩罚2万token的文本，稳固后再增添到6万token，最后到128K 。每个阶段只关注对应长度的文本 。

别的还引入了难度感知的回溯采样机制 。在进入下一阶段时，会保存前一阶段中最难的样本（平均准确率为零的那些），确保模子不会”遗忘”如那里置难题案例 。

长文本问答的谜底往往较量开放，纯粹的规则匹配太死板，可能遗漏准确谜底 。

QwenLong-L1在强化学习训练中接纳混淆奖励函数，连系了基于规则的验证和LLM-as-a-Judge 。

规则验证也就是直接检查谜底是否与标准谜底完全一致（如数学题盘算效果是否准确），再用另一个模子判断谜底的语义是否准确（应对谜底表述差别但意思一致的情形），两者连系阻止简单规则过于严酷或宽松

在DocMath、Frames、2WikimQA等七个长文本基准测试中，QwenLong-L1-14B相比基础模子R1-Distill-Qwen-14B，平均提升了4.1分，逾越了Gemini-2.0-Flash-Thinking和Qwen3-32B 。

QwenLong-L1的32B版内情比基础模子提升了5.1分，抵达70.7的平均分 。这个效果不但凌驾了OpenAI-o3-mini（70.4分）、Qwen3-235B-A22B（70.6分），甚至和Claude-3.7-Sonnet-Thinking（70.7分）打成平手 。

团队还针对Test-time Scaling性能做了评估 。当天生16个候选谜底时，QwenLong-L1-14B的体现凌驾了DeepSeek-R1和OpenAI-o1-preview 。

最后论文中还深入探讨了两个问题：

既然SFT相对简朴自制，为什么还要辛苦搞强化学习（RL） ？

实验效果很有启发性 。长文本SFT确实能带来2.6分的提升，比随笔本SFT的效果更好 。可是，若是在长文本SFT的基础上再做RL，提升幅度只有0.3分 ；而在随笔本SFT基础上做RL，却能提升3.2分 。

对此团队提出一个看法：SFT提供了一种经济的性能提升方法，而RL则是抵达最优性能必不可少的 。

通过跟踪剖析了四种要害推理行为发明3个结论：信息定位（grounding）、子目的设定（subgoal setting）、回溯（backtracking）和验证（verification） 。

所有模子都展现出显着的推理行为，尤其是信息定位行为泛起频率最高，这证实晰它在处置惩罚上下文依赖推理时的主要性 ；强化学习训练历程中，这些行为会逐渐增强，并与性能提升高度相关，批注强化学习能有用调解输出空间，优先保存有助于得出准确解答的推理模式虽然SFT模子也能学会这些行为，但这些外貌上的行为模拟并没有带来实质性能提升，这展现了SFT更关注外貌模式匹配，而非实质推理能力的作育 。

论文地点：https://arxiv.org/pdf/2505.17667

尊龙游戏人生就是博

阿里开源长文本深度思索模子！渐进式强化学习破解长文本训练难题
阿里开源长文本深度思索模子！渐进式强化学习破解长文本训练难题

阿里开源长文本深度思索模子！渐进式强化学习破解长文本训练难题

「统计」w3u7903ejky2ywls

2.41MB
版本V6.1.10
下载原神纳西达涩涩被❌黄漫装置你想要的应用 更利便 更快捷 发明更多
喜欢 36%好评(13141人)
谈论 10
阿里开源长文本深度思索模子！渐进式强化学习破解长文本训练难题截图0 阿里开源长文本深度思索模子！渐进式强化学习破解长文本训练难题截图1 阿里开源长文本深度思索模子！渐进式强化学习破解长文本训练难题截图2 阿里开源长文本深度思索模子！渐进式强化学习破解长文本训练难题截图3 阿里开源长文本深度思索模子！渐进式强化学习破解长文本训练难题截图4
详细信息
  • 软件巨细: 52627.40880MB
  • 最后更新: 2025-05-30 04:08:05
  • 最新版本: V6.94342.2
  • 文件名堂: apk
  • 应用分类:ios-Android 韩国一级爽婬片A片视频
  • 使用语言: 中文
  • : 需要联网
  • 系统要求: 8.91710以上
应用先容
一，忘穿内裤被男同桌摸到爽，FoernPorno馃憴18
二，伊莱脱了内裤打开腿让人桶，女同学被❌c🐻
三，MMD➕无码➕高潮➕，妈妈扒下内裤让我爽了一夜电影
四，女同互慰AV网站，!一级A片处破外女
五，巨爆乳幕巨爆区巨爆乳，4pfcc登录入口
六，脱👙让学生摸🐻视频,rapperdiss免费观看，脱裤子❌打屁屁免费网站
七，NP玩烂了公用爽灌满视频播放
【联系尊龙游戏人生就是博】
客服热线：134-2881-646
加载更多
版本更新
V3.6.87
🍑🍌18禁
  • 无职转生18禁本子全彩无遮

    狂野少女2哔哩哔哩免费观看

    成人喷水🔞亚洲一区无码

    33188.86MB
    104好评

    免费看美女拉屎㊙️视频

  • 小南扒开屁股眼让鸣人无限流

    杨思敏被肉干高H潮文不断

    日漫网站

    22874.11MB
    646504好评

    捷克小电影在线观看2023年上映

  • 美女㊙️免费裸体舞视频

    性色AV浪潮AV蜜桃av

    少萝扒开腿秘让人桶爽动漫

    13.68MB
    314好评

    3d动漫美女被❌视频

  • 小箩莉末发育的小馒头图片

    扒男生内裤看小坤坤

    成人H漫画精精一区二区无码观看

    53.42MB
    272好评

    女富婆按摩高潮A片

  • 扒开美女❌狂揉❌下部的视频

    ❌❌❌❌❌性欧

    日本人XXXⅩ18HD19HD

    71.24MB
    703好评

    樱桃成人精品永久免费AV

  • 同性女A片18🈲在线观看

    趁女同桌午休摸她奶头

    小樱被到爽流片自慰

    83.36MB
    337好评

    不知火舞被❌到爽🔞高潮痉挛

  • 妈妈俱乐部1-34节全文阅读小说

    无遮挡H纯肉动漫在线播放

    91九色丨PORNY丨极品女神

    23.74MB
    107好评

    免费三片在线观看网站V888

  • 国产精輦清纯女学生被下药强摸

    男人自慰✅️免费观看欧美

    r34worldundertalechara

    50.48MB
    927好评

    拳交极端呻吟痛苦虐宫

  • 高清做受❌❌高潮

    喜多川被五条❌黄漫

    小舞脱免费看尿囗下载软件

    83.21MB
    561好评

    江楠楠被扒开双腿玩弄身体

  • 芭乐app官网iOS

    女子自慰喷白浆A片免费观看网站

    久久久无码精品㊙️人口

    83.11MB
    755好评

    达达利亚×你纯肉高H文

  • 223z.cc看片

    琳裸体被❌免费羞羞视频

    美女露🐻让男生揉

    33.24MB
    8969好评

    小🐤🐤戳进🍑无遮挡图片

  • 国产91精品㊙️入口熟女

    宝宝对准了坐下来自己弄黄

    打屁屁 光 红 拍击 女 我的妻子

    11.18MB
    669好评

    杰克把园丁的乳罩扯掉了

  • 男男自擼雞巴爽到噴GV小说

    扒开老师的湿润小泬喷白浆动漫

    蕾丝视频app免费下载

    65.61MB
    743好评

    巨乳少萝自慰捏奶

  • 可以c男性角色的游戏

    体育生互吃鸣巴Chinese

    蓝莓黄网站

    54.21MB
    751好评

    雷电将军被❌到爽羞羞

  • 小医仙3D❌出白浆

    小箩莉xx69sexHe

    777e.n在线视频

    57.16MB
    683好评

    真人同城炮约qq群

  • 黑土被❌🐻黄漫

    国产精品欧美日韩AV久久动漫

    长靴类AV片

    24.18MB
    351好评

    男人的🍌伸到🍑里亲的动漫

  • 亚州精品无码A片毛片老头

    动漫被❌到爽🔞巨乳游戏

    男c男🔞黄㊙️❌91

    13.98MB
    311好评

    69❌❌❌HD善交

  • 免费➕无码➕无套漫画

    羞羞漫画sss在线观看

    佐助被鸣人🌿的喊停

    84.11MB
    216好评

    每日大赛反差婊大赛网

  • 小南爆乳被❌🔞🔞🔞

    中国老妇2023

    美女脱👙免费看胸㊙️

    45.88MB
    736好评

    女同学扒开腿❌裸体不遮挡

  • 国产男男Gay体育生戴套

    性欧美❌❌潮喷水色欲小说

    天空侵犯露出大胸图片

    10.47MB
    188好评

    老师露出🐻强行让男生揉小说

  • 偷啪大众女澡堂洗澡CC

    涂山雅雅被扒开腿❌

    被医生伦流澡到高潮H

    44.75MB
    366好评

    亚洲老年人肛交

  • 琪亚娜跪趴翘起雪白翘臀小说

    啊〜用力〜嗯〜轻一点关晓彤

    女同被c🔞黄㊙️❌B站

    91.67MB
    202好评

    爽擼18cm又大又粗的雞巴视频

  • 挺进肉丝熟妇老师的身体视频

    HD XXX Porn Video

    火影奖励网站v2.8.6

    30.44MB
    909好评

    男男黄Gay片免费网站

  • 性按摩❌视频在线观看

    www.免费视频🈲🈲🈲

    同桌把我内裤给脱了作文

    30.45MB
    546好评

    斗破玄衣惨遭侵犯

  • 动漫美女被❌乳涩涩免费漫画

    kpopdeepfake 换脸

    鸣人❌雏田🔞动画观看

    29.81MB
    121好评

    一拳超人吹雪被❌的黄漫小黄书

  • 高清码免费网

    Feer♥XXX♥sex

    日本肉体XXXⅩ裸体交

    70.95MB
    451好评

    夏油杰被❌到爽憋尿

  • 女模下部隐私秘网站自慰兽娘通信贝尔全集免费观看 title="丰满BBBBBB大肥奶" class="0v5366j9r7414 app-list-img" src="https://t11.m.mksxm.com/it/u=1040017057,165456434&fm=30&app=106&f=JPEG?w=312&h=208&s=15B07D95426079116A1494FD03009032"">

    惩罚女初高中打屁股♥

    玖辛奈被扒开腿坐做❌同人游戏

  • 白露自慰喷水好爽软件爱爱动态图操新娘 title="男人扒开美女大腿❌❌❌" class="0v5366j9r7414 app-list-img" src="https://t10.m.mksxm.com/it/u=3070224572,165461829&fm=30&app=106&f=JPEG?w=312&h=208&s=C6000AAC4838BAC8463F54AC0300A00B"">

    高跟91娇喘推特网站

    国产XXXX振

  • 小舞揉搓❌难受❌3D动漫巨乳❌拔萝卜❌自慰动漫 title="动漫美女被触手怪袭击18🈲️" class="0v5366j9r7414 app-list-img" src="https://t12.m.mksxm.com/it/u=1041590673,165100299&fm=30&app=106&f=JPEG?w=312&h=208&s=D7383EC642E1D8EA0A87937F0300C078"">

    涩涩同人18❌网站

    莱欧斯利腹肌凸根根大包

/18🈲小泬破白浆啪啪69黑人 类似软件

猜你喜欢

相关攻略
包括 饿了么 的应用集
包括 饿了么 的应用集
谈论
  • 原神凝光乳液狂飙开襟 1天前
    女人蹲便偷拍㊙️无遮挡
  • 虎杖悠仁裸体❌开腿图片 5天前
    精神小妹1V7精神小伙
  • 强制夹冰块高潮惩罚H影片 6天前
    扒开❌狂揉❌喷水作文
  • H漫画啪啪无遮挡在哪里看 7天前
    埃及猫原版动画片免费观看
  • 成人做爰高潮片免费漫画视频 2天前
    脱👙让学生C🐻-百度视频
  • Hentai本子H18同人本子 9天前
    成人叼嘿视频网站免费下载
  • Chinese男男GaY✅视频 1天前
    18🈲免费3d实境模拟器
  • 人与野鲁❌毛片免费浪女人 8天前
    动漫❌❌爆乳❌❌玻璃
  • 520886·mooc美国版520,小学生妹 1天前
    壮熊多毛裸体Gay自慰网站
  • free性厨房bd性BBwHD23 4天前
    石墨生花400段云盘