차트로 돌아가기

ggml-org/Llama-macOS

macOS용 로컬 LLM 메뉴 막대 앱

차트
지금은 차트에 없어요
스타
1,848

GitHub에서 보기홈페이지

무엇인가요

Mac에서 로컬 LLM을 실행하고 관리할 수 있는 4MB 크기의 네이티브 macOS 메뉴 막대 앱이에요. llama.cpp를 기반으로 동작하며, 요청 시 모델을 불러오고 유휴 상태일 때 메모리에서 해제하는 로컬 API 서버를 제공해요.

누구에게 좋나요

Mac에서 별도 설정 없이 로컬 LLM을 채팅이나 코딩 에이전트, 외부 앱에 연결해 쓰고 싶은 개발자와 사용자에게 적합해요.

왜 지금 주목받나요

최근 0.47.0 릴리스가 공개되었고 오늘 하루 76개의 스타를 얻어 총 1,840개의 스타를 기록했어요. ggml-org가 llama.cpp와 함께 개발하는 공식 계열 앱으로, Hugging Face 캐시를 공유하고 하드웨어에 맞는 모델을 추천해 주는 점이 돋보여요.

주요 기능

  • localhost:9931/v1 로컬 API 서버 및 유휴 시 자동 모델 언로드
  • Mac 사양에 맞는 GGUF 모델 추천 및 원클릭 설치
  • models.user.ini를 통한 모델별 세부 설정 병합 지원
  • Tailscale 또는 로컬 네트워크를 통한 선택적 외부 접속 지원

2026년 11월 17일에 README와 저장소 정보를 바탕으로 정리한 요약이에요. 틀린 내용이 있을 수 있으니 중요한 판단은 원문을 확인해 주세요. 요약이 틀렸다면 알려 주세요