ddalcu/mlx-serve
Apple Silicon용 네이티브 로컬 AI 추론 서버
- 차트
- 지금은 차트에 없어요
- 스타
- 2,496
무엇인가요
Python 없이 Zig 백엔드와 Swift macOS 앱으로 동작하는 Apple Silicon용 네이티브 AI 추론 서버예요. 하나의 로컬 서버와 앱으로 채팅, 코딩 에이전트, 이미지, 영상, 음악, 음성, 3D 모델 실행을 지원하며 OpenAI, Anthropic, Ollama API와 호환돼요.
누구에게 좋나요
Mac 환경에서 외부 계정이나 인터넷 연결 없이 다양한 오픈 AI 모델과 코딩 에이전트를 로컬로 실행하려는 개발자와 사용자에게 적합해요.
왜 지금 주목받나요
오늘 하루에만 544개의 스타를 얻으며 총 2,484개를 기록했고, 최근 두 대의 Mac에서 DeepSeek를 분산 실행하고 GGUF를 MLX 속도로 구동하는 v26.11.2 릴리즈가 공개되었어요.
주요 기능
- OpenAI, Anthropic, Ollama API 단일 포트 호환
- Claude Code 등 로컬 코딩 에이전트 연동 지원
- 이미지, 영상, 음악, 음성 복제 및 3D 생성 지원
- Thunderbolt 5 및 네트워크를 통한 Mac 간 모델 분산 실행
2026년 11월 17일에 README와 저장소 정보를 바탕으로 정리한 요약이에요. 틀린 내용이 있을 수 있으니 중요한 판단은 원문을 확인해 주세요. 요약이 틀렸다면 알려 주세요