猫眼电影记者 骆宾王 报道w3u7903ejky2ywls

本文作者来自通义实验室和北京大学，第一作者是北京大学智能学院博士生孙浩，主要研究方向是RAG和Agent，在 NeurIPS、ACL、EMNLP 等国际顶级会议上发表多篇论文，师从张岩教授。该工作在阿里巴巴通义实验室RAG团队实习期间完成。

信息检索能力对提升大语言模型 (LLMs) 的推理表现至关重要，近期研究尝试引入强化学习 (RL) 框架激活 LLMs 主动搜集信息的能力，但现有方法在训练过程中面临两大核心挑战：

文档质量不可控：真实搜索引擎返回内容不可控，训练过程易受噪声干扰。搜索 API 成本高昂：Rollout 阶段频繁调用搜索 API，训练成本极高。

为了解决这些问题，我们提出了 ZeroSearch 框架 —— 无需真实搜索，直接用大语言模型模拟搜索引擎，并引入课程学习策略，在显著降低 88% 成本的同时，在多项任务上性能超过依赖真实搜索引擎的方法。

论文标题：ZeroSearch: Incentivize the Search Capability of LLMs without Searching论文地址：https://arxiv.org/pdf/2505.04588代码地址：https://github.com/Alibaba-NLP/ZeroSearch项目主页：https://alibaba-nlp.github.io/ZeroSearchHuggingface 主页：https://huggingface.co/collections/sunhaonlp/zerosearch-v2-6827f4ee6b6265069d443d4e

方法

无需搜索的强化学习框架

传统训练方法需要在 Rollout 阶段频繁与真实搜索引擎交互，产生大量 API 开销，而大语言模型在预训练阶段积累了丰富的世界知识，具备根据 query 返回相关信息的能力，因此 ZeroSearch 创新性地引入大语言模型作为模拟搜索引擎（Simulation LLM），无需真实搜索，即可为策略模型生成检索文档，大幅降低了训练成本：

为了避免策略模型记住由 Simulation LLM 生成的文档，我们对文档进行了损失屏蔽（Loss Masking），仅对策略模型自己生成的 token 进行损失计算。

结构化训练模板

ZeroSearch 无需初始监督微调（SFT），直接对预训练语言模型进行强化学习训练，通过采用结构化的训练模板，引导模型在每一轮交互中划分思维步骤：

对已有信息分析，明确下一步行动提炼搜索 query总结推理过程，形成最终答案

这种结构化模板提升了模型推理路径的清晰度和可解释性，格式化的输出便于提取最终答案进行奖励计算。

搜索模拟微调

直接通过 Prompt 指导 LLM 生成的模拟检索内容，往往与真实搜索引擎返回的检索内容风格差异较大，且质量不稳定。为了解决这些问题，我们采用了模拟微调策略，具体包含以下三步：

轨迹采集：从策略模型与真实搜索引擎的交互中采集 Query-Document 对质量评估：利用 Qwen-Max 作为评审，对文档进行有用性判别监督微调：构建高质量训练集，进行轻量级微调 (2 万条数据，7B 模型训练时间仅需 30 分钟)

此外我们还在 Prompt 内引入原始问题的正确答案，从而扩充 Simulation LLM 的知识边界。

基于课程学习的文档生成策略

经过微调的 Simulation LLM 可通过调整在 Prompt 中添加 Useful/Noisy 指令，灵活控制生成文档的质量。基于这一能力，我们进一步引入了课程学习策略，通过逐步降低文档质量，循序渐进地提升训练难度，从而更有效地激发模型的推理能力。

为实现训练难度的平滑过渡，我们设计了一个指数函数来控制 Noisy 文档的生成概率：

训练初期：训练难度上升缓慢，模型能够稳步学习基本的输出格式以及任务逻辑。训练后期，训练难度快速上升，从而促使模型不断强化其推理能力与鲁棒性。

该由易到难的训练过程能够持续激发策略模型的推理能力，有效提升强化学习训练的稳定性与最终表现。

奖励函数设计

在实验中，我们发现使用 Exact Match 作为奖励会诱导模型生成冗长内容以 “碰中” 答案，出现 Reward Hacking 问题，我们改用 F1 Score 作为奖励指标，更加关注输出的准确性与简洁性，有效抑制了冗余答案的产生。此外，我们发现模型在训练中即便不显式监督输出格式，也能生成结构规范的回答，因此没有引入格式奖励。

实验结果

主要性能表现

ZeroSearch 超越所有基线方法，该性能优势在域内以及域外数据集上均得以体现，展示了我们方法的鲁棒性。ZeroSearch 的表现优于依赖真实搜索引擎的方法 Search-R1，凸显其在大规模强化学习中替代真实搜索引擎的潜力。ZeroSearch 展现了强大的泛化能力，随着模型参数量增加，其性能进一步提升，体现了良好的扩展性。

与真实搜索引擎对比

ZeroSearch 与真实搜索的奖励趋势相似，随着训练的推进，ZeroSearch 和 Search-R1 的奖励分数都稳步上升。ZeroSearch 的奖励提升更加显著，虽然在训练初期 ZeroSearch 的奖励值低于 Search-R1，但它最终实现了超越，并且波动更小。ZeroSearch 在基础模型和指令微调模型中都展现了良好的泛化能力，在这两类模型下，ZeroSearch 的奖励表现都持续提升。

模拟搜索设定对比

相对于Base Model，不同类型的 Simulation LLM 均可有效激发策略模型的搜索能力。基于 Prompt 的方法效果较差，主要由于其生成的文档风格与真实搜索引擎差异较大，且质量不稳定，难以支撑稳定训练。经过微调的 Simulation LLM，即便仅有 3B 参数量，也能显著提升策略模型性能；随着模型规模扩大，性能进一步提升：SFT-7B 可达到与 Google 相当的效果，SFT-14B 甚至实现超越 Google 的性能。

交互轮数研究

训练初期：交互轮数迅速下降，奖励缓慢上升

此阶段模型尚未掌握搜索调用机制，经常产生冗余交互，检索效果不佳。

训练中期：交互轮数迅速回升，奖励同步显著提升

模型逐渐学会如何高效调用搜索引擎，能够获取准确信息，回答质量显著提高。

训练后期：交互轮数和奖励趋于稳定

模型已适应数据集的跳数分布，交互策略逐步固化，在课程学习设定下，模型需提升推理能力以应对更低质量文档，从而维持较高奖励水平。

课程学习策略研究

实验结果表明，Curriculum（由易到难）训练策略显著优于 Random（随机难度）训练策略，验证了该训练范式在激发模型推理能力方面的有效性。与 Random 类似，真实搜索引擎在训练过程中难以控制文档难度，导致模型缺乏系统性的能力提升路径，从而限制了推理能力的持续进化。

总结

本文提出了 ZeroSearch，一种无需真实搜索引擎即可激活大语言模型搜索能力的强化学习框架，我们使用轻量级的监督微调将 LLM 转变为一个检索模块，在 RL 训练阶段，我们基于课程学习逐步降低检索模型生成文档的质量，通过不断提升检索难度，逐步激发策略模型推理能力。

大量实验表明，ZeroSearch 使用 3B 参数规模的模型作为检索模块时即可激发语言模型检索能力，7B 模型的检索性能已接近真实搜索引擎，而 14B 模型甚至实现了超越。此外，ZeroSearch 对基础模型和指令微调模型均具有良好的泛化能力，并可兼容多种 RL 算法，具备极强的适应性与可扩展性。

  时事1：甜心狐狸外网高清播放

  05月31日,【理响中国】以高水平对外开放促进深层次改革高质量发展,

　　“柳神，当初你是亲眼目睹的吗？”熊孩子旁敲侧击，但是他的小心思怎能瞒过柳神。

第二百零九章 洞天福地,91麻豆精品国产理伦片在线观看。

  05月31日,1月15日至22日陕西出现大范围雨雪寒潮天气,　　然而，这些原本上不了台面的食宿条件，在一些研学机构宣传中，竟也成了“卖点”。一些机构会宣称：“每一次困难都是成长机会”“想让孩子多吃苦，就去村里补一补”……,一直喝水不让尿捂住的作文,曼珠沙华强插爆乳自慰软,黑土被❌🐻黄漫扒衣服在线观看。

  时事2：赵露思裸被高清网站

  05月31日,新疆吐尔尕特口岸：跨国救援十分钟通关,

　　⒋请大家认真阅读本次会议发给大家的科技项目管理办法和奖励办法，并提出修改建议，同时认真填写发给大家的调查表，按时反馈给公司科技信息部。这次立项时，基本上每个单位都有项目，一是为了普及科技、信息项目研究工作，提高大家的积极性。二是解决部分单位科技、信息工作中的实际问题。还有对过去项目的清理、上报工作，请大家月底前必须完成，这也是对大家的工作作风、能力和水平的一次检验

,美女又色❌又黄❌丝袜裸交,卡戴珊被啪21分钟在线,FerrPorno💋👙3D。

  05月31日,从中国两会看全过程人民民主——以具体行动诠释人民至上的生动实践,

　　同志们！现在距离xx年的中考，只有6个月的时间。xx年中考的目标为：力争学校综合位次在学区名列三甲行列，争取进入全县前三十名获县级三等奖。这个目标经过努力还是有希望的。只要我们谦虚谨慎，戒骄戒躁，保持清醒头脑，继续发扬过去那种拼搏精神，发扬过去那种团结协作精神，发扬过去那种积极向上的精神，科学合理地安排毕业班工作，落实好毕业班各项制度，我们的目标一定能达到，我们的愿望一定能实现！希望在座各位务必统一思想，强化认识，主动工作，以“一日无为，三日不安”的责任感和紧迫感，团结一心，励精图治，不辱使命，不负重托，全力做好毕业班工作，为长乐教育事业作出我们更大的贡献！

,小🐤🐤戳进🍑无遮挡欧美,刻晴疯狂❌喷水自慰爽,嗯～c尿了～不许尿出来视频。

  时事3：t66y.com 永久地址

  05月31日,时隔六年再捧杯 国羽队史第11次捧得汤姆斯杯 ,

　　当你背着书包上学时，看到过指示行人过马路的斑马线吗?当你走到路口，看到过为安全站岗的红绿灯吗?当你乘坐火车、汽车时，听到过“为了您的安全，请不要把头、手伸出窗外”的热情关照吗?在我记事时，就听爸爸妈妈说“干什么事，都要注意安全”;走进校门，老师也教我们要注意安全;识字以后，在工地、路口等危险的地方都看到过“请注意安全”、“安全第一”的牌子。安全真的那么重要吗?是的，它是我们生活中永恒的主题!

,笔盒beatbox在线观看官网,jmcomic2最新安装包,扒开狂揉难受公交车欧美。

  05月31日,捕捉“倏忽一瞬” 《余生》新书分享会举办,

　　他心中空灵，遥望这一切，感悟天地奥秘，通晓乾坤变化。

第二百二十一章 神山尊者,七十路の高齢熟女千代子泳装写真,瑞典女人私密紧致,女性㊙️免费自慰。

  时事4：Gay巴西gy又粗又大

  05月31日,中央宣讲团在各地宣讲党的二十届三中全会精神,

中信信用卡催收委托方，会上征信吗？会被起诉吗？

,男男GayXXX军人呻吟动漫,男女无遮挡XXOO120动态图,路易斯拔萝卜视频大全。

  05月31日,市场监管总局发布合规提示 规范“双11”网络集中促销经营活动,

　　“我们也要去，看他到底能不能破掉石毅的纪录！”

,动漫美女被❌奶乳羞羞,a点w片在线,JIZXXXX😍50HD。