TOOLORA / Edición local de lectura
llama.cpp
Ejecuta modelos locales en C/C++, con línea de comandos, herramientas de cuantización y servidor con interfaz web.
Descripción
llama.cpp es un proyecto de inferencia mantenido por ggml-org, no un modelo Llama concreto. Con archivos compatibles permite conversar por CLI o ejecutar un servidor con interfaz web y API compatibles. Admite flujos GGUF, cuantización y varios backends CPU/GPU para inferencia local o autogestionada. Archivos, licencias y hardware deben revisarse por separado; el nombre no implica compatibilidad con cualquier modelo.
Fuentes oficiales y referencias
- Sitio oficialhttps://github.com/ggml-org/llama.cpp
- Documentaciónhttps://github.com/ggml-org/llama.cpp/tree/master/tools/server
Las descripciones resumen información pública. Consulta los sitios oficiales para funciones, precios y disponibilidad regional.