LocalAI

产品介绍

LocalAI 是面向开发者的自部署推理引擎，将语言、视觉、语音及图像等能力通过 API 提供给应用。不同后端按需要安装，可连接 llama.cpp、vLLM 等执行引擎，并配置模型、认证、用户配额和智能体工具。它解决的是模型服务和运行环境问题，不是单独的模型家族；兼容接口是否覆盖具体参数，应以所选模型和后端文档为准。支持 CPU 路径，但内存、速度和硬件需求仍取决于实际任务。

官方来源与参考资料

• 官方网站https://localai.io/
• 官方文档https://github.com/mudler/LocalAI/blob/master/README.md

介绍按公开资料整理；功能、价格与地区可用性以官网为准。