zml/zml
Zig·MLIR 기반 멀티 하드웨어 AI 추론 스택
- 차트
- 지금은 차트에 없어요
- 스타
- 4,261
무엇인가요
ZML은 Zig, MLIR, Bazel로 구축된 프로덕션 AI 추론 스택이에요. 코드를 다시 작성하지 않고도 하나의 코드베이스로 NVIDIA, AMD, Intel, TPU, Trainium 등 다양한 가속기에서 모델을 컴파일해 실행할 수 있어요.
누구에게 좋나요
특정 하드웨어 종속 없이 다양한 GPU나 TPU 환경에서 AI 모델을 배포하려는 엔지니어가 사용하기 좋아요.
왜 지금 주목받나요
오늘 22개의 스타를 받으며 관심을 얻고 있어요. Llama 3.1/3.2, Qwen 3.5 같은 모델을 단일 코드베이스로 여러 가속기 백엔드에 직접 컴파일해 실행할 수 있다는 점이 돋보여요.
주요 기능
- CUDA, ROCm, OneAPI, TPU, Neuron 등 다양한 가속기 플랫폼 플래그 지원
- Llama 3.1/3.2, Qwen 3.5, LFM 2.5용 통합 LLM CLI 제공
- 로컬 경로, Hugging Face(hf://), S3(s3://) 모델 로딩 지원
- 논리 메시와 파티셔너를 활용한 샤딩 및 벤치마크 예제 제공
2026년 11월 17일에 README와 저장소 정보를 바탕으로 정리한 요약이에요. 틀린 내용이 있을 수 있으니 중요한 판단은 원문을 확인해 주세요. 요약이 틀렸다면 알려 주세요