TOOLORA / Édition locale
LocalAI
Déployez l’inférence multimodale dans votre environnement avec API compatibles et moteurs de modèles.
Présentation
LocalAI est un moteur d’inférence auto-hébergé pour langage, vision, voix et images via API. Installez les moteurs nécessaires, comme llama.cpp ou vLLM, et configurez modèles, authentification, quotas et outils. Il sert des modèles, sans constituer une famille indépendante. Compatibilité et contraintes de mémoire, vitesse ou matériel dépendent du moteur et de la tâche, même avec le CPU.
Guide d’utilisation et coûts
- Avant de commencer
Code sous MIT ; poids, moteurs et dépendances ont leurs licences. Préparation initiale : réseau et stockage possibles. Matériel ou cloud restent à financer ; les outils externes peuvent transmettre des données malgré l’auto-hébergement.
Détails officiels ↗ · Détails officiels ↗
Sources officielles et références
- Site officielhttps://localai.io/
- Documentationhttps://github.com/mudler/LocalAI/blob/master/README.md
Les descriptions résument des informations publiques. Consultez les sites officiels pour les fonctionnalités, les tarifs et la disponibilité régionale.