公开知识图谱记录
FreeToken
记录摘要
Edge-native MoE serving engine, runs large models on consumer GPUs.
来自项目知识图谱的有来源实体；具体工具属性仍需补齐。
已记录信息
- 能力: Bandwidth-adaptive execution
- 能力: Elastic memory management
- 能力: Semantic-aware caching
资料覆盖
知识图谱当前记录了 7 个已知资料维度，另有 12 个维度尚未记录，关联 4 篇公开资料。这些数字只描述资料覆盖，不代表模型性能或适配性已经验证。
相关公开记录
- Mixture-of-Experts — 基于
- KTransformers — 竞品
- llama.cpp — 竞品
- MoE-Infinity — 竞品
- Ollama — 竞品