语言 / Language

TOOLORA / 로컬 읽기 버전

LocalAI

호환 API·모델 백엔드로 자체 환경에 멀티모달 추론을 배포합니다.

분류 · 모델 개발회사·조직 · LocalAI 프로젝트제품 정보 갱신일
읽기와 구독

제품 소개

LocalAI는 언어·시각·음성·이미지를 API로 제공하는 자체 배포 추론 엔진입니다. 필요한 백엔드를 설치하고 llama.cpp·vLLM 등의 실행 엔진, 모델·인증·할당량·도구를 설정합니다. 독립 모델군이 아닌 모델 서비스 기반이며 API 호환성은 백엔드에 따릅니다. CPU를 지원해도 메모리·속도·하드웨어 제약은 남습니다.

이용 안내 및 비용

이용 전 확인

코드는 MIT이며 가중치·백엔드·의존성 허가는 별도입니다. 초기 준비에 네트워크·저장 공간이 필요할 수 있고 장비·클라우드 운영비도 발생합니다. 외부 도구를 쓰면 자체 배포여도 데이터 전송이 생깁니다。

공식 안내 ↗ · 공식 안내 ↗

공식 출처와 참고 자료

공개 정보를 정리한 소개입니다. 기능, 가격, 지역별 제공 여부는 공식 사이트를 확인하세요.

기본 제품 페이지 ↗