公开知识图谱记录
NVIDIA Dynamo
记录摘要
Optimization framework designed to improve GPU kernel performance.
来自项目知识图谱的有来源实体;具体工具属性仍需补齐。
已记录信息
- 能力: 处理prefill/decode路由
- 能力: 处理路由
- 能力: 提供 KV-aware router
- 能力: KV-aware routing
资料覆盖
知识图谱当前记录了 7 个已知资料维度,另有 12 个维度尚未记录,关联 3 篇公开资料。这些数字只描述资料覆盖,不代表模型性能或适配性已经验证。
相关公开记录
- KV-aware routing — 具备特性
- llm-d — 相关
- Inference Engineering — 支持
- llm-d — 相关
- Prime Inference — 采用