公开知识图谱记录
Liquid RIPL
记录摘要
优化从请求到完整响应的端到端推理路径。
来自项目知识图谱的有来源实体;具体工具属性仍需补齐。
已记录信息
- 能力: 为实时请求路径提供 LFM 完整生成响应
- 能力: 在实时请求路径中为 LFMs 提供服务
- 部署方式: 企业部署;支持 NVIDIA H100、H200、B200、RTX PRO 6000
- 部署方式: 可用于 NVIDIA H100、H200、B200 和 RTX PRO 6000 上的企业 LFM 部署
- 性能: 响应延迟低于 50 ms
- 性能: p95 延迟比 Qwen3.5 on vLLM 低 5.6–28.4 倍
- 性能: p95 为 155.8 ms
- 性能: p95 为 76.4 ms
资料覆盖
知识图谱当前记录了 8 个已知资料维度,另有 10 个维度尚未记录,关联 1 篇公开资料。这些数字只描述资料覆盖,不代表模型性能或适配性已经验证。
相关公开记录
- Liquid AI — 研发
- vLLM — 胜过
- Qwen3.5 — 胜过
- NVIDIA B200 — 采用
- LFM2 — 采用