公开知识图谱记录
LiteLLM
记录摘要
提供 Python SDK 和代理服务器；项目报告 1K RPS 时 P95 延迟为 8 ms。
来自项目知识图谱的有来源实体；具体工具属性仍需补齐。
已记录信息
- 能力: 支持 100+ 个提供商
- 能力: 支持 chat、embeddings、images、audio、batches、rerank、MCP 和 A2A 端点
- 能力: 路由器支持重试、故障转移和跨部署负载均衡
- 能力: 提供管理界面、护栏和日志功能
- 集成: 提供 Python SDK 和代理服务器
- 支持类型: 支持图像和音频相关请求
- 性能: P95 延迟 8 ms，1K RPS
- 性能: 1K RPS 时 P95 延迟为 8 ms
资料覆盖
知识图谱当前记录了 7 个已知资料维度，另有 10 个维度尚未记录，关联 3 篇公开资料。这些数字只描述资料覆盖，不代表模型性能或适配性已经验证。
相关公开记录
- RRSI — 集成
- AI/MCP Gateway — 属于
- A2A — 支持
- MCP — 支持
- Trivy — 采用