公开知识图谱记录
awq_w4a16
记录摘要
Uses 4-bit weights with 16-bit activations to preserve precision for normalizati
来自项目知识图谱的有来源实体；具体工具属性仍需补齐。
已记录信息
- 能力: 通过激活幅度识别显著通道
- 性能: 相对Hugging Face FP16实现速度超过3倍
资料覆盖
知识图谱当前记录了 8 个已知资料维度，另有 11 个维度尚未记录，关联 5 篇公开资料。这些数字只描述资料覆盖，不代表模型性能或适配性已经验证。
相关公开记录
- Safetensors — 采用
- Nunchaku Lite — 采用
- Nunchaku — 支持
- Altar-1 — 采用