← 오픈소스

llama.cpp

일반 PC·노트북에서도 언어 모델을 가볍게 돌리는 C/C++ 실행 엔진

오픈소스오픈소스관심

제공 기능

  • CPU·GPU에서 LLM 실행
  • 양자화(용량 줄인) 모델 지원
  • 로컬 서버 실행

정보

요금 유형
오픈소스
저장소
https://github.com/ggml-org/llama.cpp
GitHub 스타
132,594
최근 커밋
2026-10-28
라이선스
MIT
요구 사항
명령줄 사용
최종 확인
2026-10-28
등록
2026-10-28

설명

여러 로컬 AI 도구가 내부에서 쓰는 엔진입니다. 초보라면 Ollama부터 시작하세요.

출처

연결된 콘텐츠