TOOLORA / ローカル閲覧版
LiteLLM
SDK・プロキシでモデル呼出しを統一し、仮想鍵・予算・経路・使用量を管理。
製品紹介
LiteLLMはモデルサービスを統一形式にし、Python SDKや共有AI Gatewayとして使えます。仮想鍵・費用・負荷分散・防護規則でアクセスを管理します。推論自体は接続先が担い、公開部品と企業機能の許諾範囲は配備版で確認します。
- 会社の所在国・地域
- アメリカ合衆国 · 会社本社
公式の出典・参考資料
- 公式サイトhttps://www.litellm.ai/
- 公式ドキュメントhttps://docs.litellm.ai/
公開情報に基づく紹介です。機能、料金、地域ごとの提供状況は公式サイトで確認してください。