Bonsai-demo 是 Shell 演示项目,聚焦小型语言模型,集成 llama.cpp 和 MLX 推理框架。它展示本地运行轻量 LLM 的流程,适合探索小模型部署的开发者。显著特点是多后端支持且面向资源受限场景。
Bonsai Demo
| 热度动量 | 25% | 10.0 | |
| 开发活跃 | 25% | 10.0 | |
| 社区响应 | 15% | 9.9 | |
| 文档质量 | 15% | 10.0 | |
| 发布节奏 | 10% | 0.0 | |
| 风险控制 | 10% | 10.0 |
评分由 公开的焚评公式 程序计算,数据来自 GitHub API,最近重算于 12 小时前。