公开知识图谱记录
llama.cpp
记录摘要
维基:一个可在各种大语言模型上执行推理的开源软件库。
来自项目知识图谱的有来源实体;具体工具属性仍需补齐。
已记录信息
- 能力: llama.cpp 的 --jinja 标志支持工具调用
- 部署方式: local
- 部署方式: 支持本地模型推理
- 部署方式: 支持本地模型运行
- 集成: OpenAI-compatible server
- 集成: llama-server 提供本地 OpenAI 兼容接口
- 集成: 相关集成工作已在公开pull request中
资料覆盖
知识图谱当前记录了 9 个已知资料维度,另有 10 个维度尚未记录,关联 25 篇公开资料。这些数字只描述资料覆盖,不代表模型性能或适配性已经验证。
相关公开记录
- Hermes Agent — 采用
- OpenCode — 集成
- OpenCode — 采用
- FreeToken — 竞品
- FreeToken — 胜过