SDK软件开发
litellm
用统一接口调用百余种模型并集中治理 LLM 流量
- Stars
- 53,206
- Forks
- 9,642
- 更新时间
- 更新于 2026年7月10日
用统一接口调用百余种模型并集中治理 LLM 流量
LiteLLM 可作为 Python SDK 或自托管 AI Gateway，把 OpenAI、Anthropic、Gemini、Bedrock、Azure 等百余种模型统一成 OpenAI 兼容接口。团队可借此切换提供商，并在网关层集中处理虚拟密钥、成本追踪、负载均衡、日志与防护规则。
资源类型
使用场景
核心能力
GitHub 公开事实最近同步于 2026年7月10日。
用统一 TypeScript API 构建跨模型的 AI 应用与智能体
用 Python 快速实现 MCP Server 和 Client
用 TypeScript 构建 MCP Server、Client 与运行时集成
从 Node、命令行或 AI agent 生成 Lacuna 音乐