先看证据
比模型大小更重要的,是整套研究流程
Samaya AI发布了Sterling,一个经过后训练、面向金融研究的Agent模型。它以NVIDIA的Nemotron 3.5 Lightning为基础,后者是总参数量30B、每次激活3B参数的混合专家模型;Sterling被设计为规划研究、调用金融工具、收集证据,再把结果交给独立的报告撰写器。
这次发布值得技术负责人读,不是因为它简单证明“小模型打败大模型”,而是因为比较对象不只是模型。Samaya把模型、研究流程和工具调用框架一起调整,并报告Sterling在自建的FrontierFinance基准上以更低成本取得更高分数。这个案例更具体的问题是:当任务边界清楚时,能否把一部分能力从通用模型转移到经过设计的执行系统里?
把复杂度从提示词移到系统里
Sterling所依赖的Harness并不是给小模型塞进更多操作说明。Samaya称,它调整了生产环境中的金融研究框架,删减系统提示和工具描述里的详细指导,并合并工具以缩短提示词。两个辅助模型分别处理上下文:一个压缩较长的工具结果,另一个随着执行轨迹增长进行摘要;研究预算则限制Agent能继续工作的时间,之后由报告撰写器根据已收集内容作答。
这种设计把一部分“记住所有规则、持续整理历史”的负担交给外围系统,而不是要求核心模型独自处理。它也意味着成本不能只看模型推理价格:Sterling每题模型本身约花0.04美元,公布的0.61美元总成本还包含工具和辅助模型。换句话说,低成本来自整条流程的配置,而不是仅仅因为激活参数较少。
训练过程把“会研究”拆成几步
Samaya报告的训练流程有四阶段,使用LoRA并通过Tinker训练接口完成。第一阶段用合成轨迹做监督微调:团队生成968个分析师问题,由Kimi K3分别回答两次,再用语言模型评审挑选较好的答案,同时训练模型调用37种工具并提交有效参数。第二阶段针对1,819个专家编写的问题,令教师模型尝试8种研究策略,再保留评分最高的答案;过滤后留下1,157题。Samaya称,8种策略择优覆盖了80%的关键评分项,单一最佳策略约为66%。
随后是离线和在线GRPO。离线阶段比较已有的八种教师答案,不必为每一步重新生成内容;在线阶段则让Sterling对每题生成八次尝试,并根据评分学习。团队还使用截断重要性采样处理MoE采样器不匹配问题。这个安排的重点并非某一个训练技巧,而是先教工具调用和研究策略,再用模型自己的尝试继续优化,令任务流程本身成为训练对象。
分数领先,但证据的边界同样重要
在FrontierFinance的220道公开问题上,Samaya报告Sterling得分58.9%,Claude Fable 5.1为55.9%。对应的每题成本分别是0.61美元和6.89美元,Sterling平均耗时282秒,Fable为268秒。Sterling的高强度模式达到60.6%,每题1.83美元、耗时372秒;最难的三分之一问题上,Sterling从基础模型的31.8%提升到45.2%。
这些数字呈现出质量、成本与速度之间的取舍,而不是全面胜出:高强度模式的分数更高,但花费和耗时也增加;Sterling常规模式略慢于Fable。分数是由三个模型组成的评审组按专家编写的评分标准给出的。Samaya称训练中没有使用基准题,并根据100道内部验证题选择检查点;但FrontierFinance、Harness和Sterling测试都由Samaya构建或运行,因此结果仍需结合评测归属来解读。材料还称,Sterling在基准最难的三分之一题目上得分45.2%,并未消除其在困难问题上的明显余量。
适合验证专用工作流,不等于可以直接部署
对技术团队而言,Sterling最值得借鉴的不是照搬某个模型或训练配方,而是把Agent表现拆开核算:研究规划、工具选择、上下文压缩、执行预算和最终写作各自承担什么工作,哪些环节可以用更小的专用模型完成。Samaya报告的阶段性结果从基础模型的42.5%升至51.4%、54.8%、57.5%,最后到58.9%,中位工具调用数也从3次增加到17次。这提示更高分数伴随着更密集的工具使用,成本评估必须覆盖整个执行轨迹。
不过,基础Nemotron模型的资料不能直接当作Sterling的部署规格。材料称基础模型在BF16和256K上下文下可装入单张H100 80GB,但Sterling的服务上下文长度和运行硬件没有披露;其基础模型上下文上限虽为1M tokens,也不等于Sterling实际服务时采用这一长度。Samaya尚未公布Sterling权重或API。现阶段更稳妥的判断是把它视为专用Agent设计的有用案例:先用自有任务集复核质量和全流程成本,再评估是否值得引入,而不要把单一基准的性价比直接外推到生产环境。