LocalAI

製品紹介

LocalAI は言語・視覚・音声・画像などを API で提供する自己導入型推論エンジンです。必要なバックエンドを導入し、llama.cpp・vLLM 等の実行基盤、モデル、認証、割当、ツールを設定します。独立したモデル群ではなくモデルを提供する仕組みで、API 互換性は実行基盤次第です。CPU 対応でもメモリ・速度・機材の制約は残ります。

公式の出典・参考資料

• 公式サイトhttps://localai.io/
• 公式ドキュメントhttps://github.com/mudler/LocalAI/blob/master/README.md

公開情報に基づく紹介です。機能、料金、地域ごとの提供状況は公式サイトで確認してください。