LiteLLM 是快速轻量的 AI 网关,用 Rust 核心和 Python 开发包统一调用 100 多个大模型接口,支持 OpenAI 或原生格式,带成本跟踪、护栏、负载均衡和日志记录,可连接 Bedrock、Azure、Anthropic、Vertex AI 等,适合需要多模型接入与集中管理的开发者与团队。
The fastest, litest AI Gateway. Rust core with Python SDK. Call 100+ LLM APIs in OpenAI (or native) format with cost tracking, guardrails, load balancing, and logging [Bedrock, Azure, OpenAI, Anthropi
| 热度动量 | 25% | 10.0 | |
| 开发活跃 | 25% | 7.0 | |
| 社区响应 | 15% | 0.0 | |
| 文档质量 | 15% | 2.6 | |
| 发布节奏 | 10% | 0.0 | |
| 风险控制 | 10% | 2.0 |
评分由 公开的焚评公式 程序计算,数据来自 GitHub API,最近重算于 3 小时前。