차트로 돌아가기

zml/zml

Zig·MLIR 기반 멀티 하드웨어 AI 추론 스택

차트
지금은 차트에 없어요
스타
4,261

GitHub에서 보기홈페이지

무엇인가요

ZML은 Zig, MLIR, Bazel로 구축된 프로덕션 AI 추론 스택이에요. 코드를 다시 작성하지 않고도 하나의 코드베이스로 NVIDIA, AMD, Intel, TPU, Trainium 등 다양한 가속기에서 모델을 컴파일해 실행할 수 있어요.

누구에게 좋나요

특정 하드웨어 종속 없이 다양한 GPU나 TPU 환경에서 AI 모델을 배포하려는 엔지니어가 사용하기 좋아요.

왜 지금 주목받나요

오늘 22개의 스타를 받으며 관심을 얻고 있어요. Llama 3.1/3.2, Qwen 3.5 같은 모델을 단일 코드베이스로 여러 가속기 백엔드에 직접 컴파일해 실행할 수 있다는 점이 돋보여요.

주요 기능

  • CUDA, ROCm, OneAPI, TPU, Neuron 등 다양한 가속기 플랫폼 플래그 지원
  • Llama 3.1/3.2, Qwen 3.5, LFM 2.5용 통합 LLM CLI 제공
  • 로컬 경로, Hugging Face(hf://), S3(s3://) 모델 로딩 지원
  • 논리 메시와 파티셔너를 활용한 샤딩 및 벤치마크 예제 제공

2026년 11월 17일에 README와 저장소 정보를 바탕으로 정리한 요약이에요. 틀린 내용이 있을 수 있으니 중요한 판단은 원문을 확인해 주세요. 요약이 틀렸다면 알려 주세요