公开知识图谱记录
SGLang
记录摘要
用于LLM推理加速的开源库，实现高并发吞吐
来自项目知识图谱的有来源实体；具体工具属性仍需补齐。
已记录信息
- 能力: 支持 LLM、VLM 和扩散模型
- 能力: 支持在线服务
- 集成: 作为ThinkingCap-Qwen3.8-27B的兼容服务栈
- 集成: 提供 Step 5 Preview 专用 Docker 镜像及 OpenAI 兼容 API
- 许可: Apache 2.0
- 性能: 单张H100上各并发水平保持吞吐优势
资料覆盖
知识图谱当前记录了 9 个已知资料维度，另有 9 个维度尚未记录，关联 24 篇公开资料。这些数字只描述资料覆盖，不代表模型性能或适配性已经验证。
相关公开记录
- apex-flash-1 — 采用
- Beam — 集成
- Clef — 采用
- Instella-MoE-16B-A3B — 采用
- K2 Horizon — 支持