‹ 首页

ai-infrastructure-litellm

@agents-inc · 收录于 3 周前

LiteLLM proxy server setup, TypeScript client patterns via OpenAI SDK, model routing, fallbacks, load balancing, spend tracking, virtual keys, and production deployment

适合你,如果需要为多个 LLM 提供商搭建统一代理网关

/ 通过 npx 安装 校验哈希
npx oh-my-skill add agents-inc/skills/ai-infrastructure-litellm
/ 通过 bash 安装
curl -fsSL https://oh-my-skill.com/install.sh | bash -s -- agents-inc/skills/ai-infrastructure-litellm
/ 已经装过?验证本机副本,不用重装
npx oh-my-skill verify agents-inc/skills/ai-infrastructure-litellm
安装目标可用 --agent / --scope 或 --to 明确指定;省略时只会在唯一已存在的 agent 目录上自动选择,零命中或多命中会停止并提示。content_hash 缺失或不一致均拒装。
15GitHub stars
~3.5K最小装载
~7.6K含声明引用
~8.7K文本包总量
索引托管

怎么用

商店整理自技能原文 · 版本 279811b · 表述以原文为准
它做什么

安装后,Claude 会帮你配置 LiteLLM 代理服务器,生成 config.yaml 文件,设置模型路由、故障转移和负载均衡,并编写 TypeScript 客户端代码通过 OpenAI SDK 连接代理。

什么时候触发

当你需要统一管理多个 LLM 提供商(如 OpenAI、Anthropic、Azure),或需要虚拟密钥、预算跟踪、故障转移等功能时触发。

装好后可以这样说
生成使用 OpenAI SDK 的客户端示例。

评论

登录即可评论;带「已验证安装」的,是发布者名下有本店的安装或持有记录。