先看证据
实时链路的门槛不是“能生成”，而是能按时返回
Liquid AI于2026年10月22日发布RIPL，即Real-time Inference Pipeline，一套面向Liquid Foundation Models（LFMs）的推理引擎。它面向搜索、推荐和支付风控等在线请求，希望在请求到达后尽快返回完整回答，而不是只优化某个生成阶段的速度。Liquid AI称，RIPL可用于企业GPU部署，服务LFM2.5系列中约230M至2.6B参数的模型。
这项发布回应的是一种实际取舍：延迟预算紧的业务常用梯度提升树或其他传统模型，通用生成模型服务则常被用于能容忍更长等待的任务。RIPL要改变的不是“生成模型能不能回答”，而是团队是否能在不放宽请求时限的情况下，把生成能力放入在线链路。这个目标值得讨论，但“低于50毫秒”不能脱离具体输入、输出和模型大小理解。
端到端优化是定位，内部实现仍未公开
Liquid AI把RIPL描述为优化从请求抵达到完整回答返回的端到端路径，并称它面向持续到来的流量。对线上系统而言，这个口径比单看每秒生成多少token更接近用户体验，因为排队和请求处理都可能影响最终响应时间。不过，现有公开资料没有说明RIPL具体采用了什么调度、批处理、缓存或内核方案，不能据此推断它靠哪项实现获得加速。
性能也不只来自服务引擎。LFM2.5本身采用混合架构，例如LFM2.5-1.2B有16层，其中10层是双门控卷积块、6层是GQA块；2.6B版本有30层，其中22层是卷积块、8层是GQA块。MarkTechPost报道提到Liquid AI还展示了同一个LFM2.5-350M分别运行在RIPL和vLLM上的对照，说明厂商试图部分拆分引擎影响，但公开报道没有给出这组对照的具体数字。
基准显示优势，但不是一场只比引擎的比赛
已披露的主要对比是在单张NVIDIA B200上，以开放式Poisson到达流量测量端到端p95延迟。LFM运行在RIPL上，对照模型则运行在vLLM上。短请求中，1.2B LFM处理32个输入、生成32个输出、每秒1000个请求时，p95为34.6毫秒；Qwen3.5-0.8B的对应数字是498毫秒，差距约14.4倍。这是一个达到50毫秒以内的具体条件，不是所有请求都能复用的承诺。
请求变长后，结果和预算都变了。输入256、输出128、每秒400个请求时，1.2B LFM的p95升至155.8毫秒，对照为4431毫秒，差距约28.4倍。更大的2.6B模型在32进32出、每秒1000个请求时为76.4毫秒，对照为586.8毫秒；在256进128出、每秒300个请求时为449.1毫秒，对照为2499毫秒。对应加速比分别约7.7倍和5.6倍，也再次说明短输入下的低延迟不等同于长请求的50毫秒保证。
业务预算要和请求形状一起看
Liquid AI列出六类实时工作负载及其预算，范围从20到150毫秒。例子包括搜索意图分类，128个输入token、1个输出token，预算20毫秒；搜索重排，约1000个输入token、1个输出token，预算30毫秒；支付风险评分，512个输入token、16个输出token，预算50毫秒。信用决策给出8K输入、64输出和150毫秒预算，图像替代文本则涉及512×512图像及文本输入，预算为100毫秒。这些例子有助于把“实时”落到请求形状上，但它们是厂商列出的应用映射，不等于每种工作负载都已被独立验证。
RIPL所称可部署硬件包括NVIDIA H100、H200、B200和RTX PRO 6000，但已披露的基准是在单张B200上测得，不能把同一组数字直接外推到其他GPU。材料还称Shopify在搜索增强生产流量上的LFM推理低于20毫秒，但该合作案例在2025年已被Liquid AI提及，现有资料没有证明它使用RIPL。权重采用LFM Open License，也不代表服务引擎同样开放：RIPL面向企业部署，属于闭源引擎，价格也未披露。
把它当作候选服务栈，而不是通用SLA
14.4到28.4倍的对比同时更换了模型和推理引擎，因此不能把全部差距归功于RIPL。模型架构、参数规模和服务软件都可能影响延迟，厂商虽提到同一模型跨引擎测试，却没有公开数值供外部核对。所有主要数字均为Liquid AI自报，现有材料没有独立复测，也没有给出与SGLang或TensorRT-LLM在相同条件下的比较。对技术负责人来说，这些结果足以支持进一步验证，却不足以据此替换生产服务栈。
更稳妥的评估方式，是先选定一个请求形状明确、延迟预算紧的窄任务，再用真实输入长度、到达率和目标p95开展影子流量测试。若问题是“RIPL引擎本身贡献多少”，就应固定模型、硬件、输入输出形状和负载，只更换服务引擎，并同时检查输出质量与资源成本。若问题是“生成模型能否替代传统模型”，则还要把质量、失败模式和业务结果纳入比较。当前可执行的判断是：RIPL让特定LFM实时部署多了一个候选路径，但50毫秒仍是按负载争取的目标，而不是脱离条件的产品保证。