alibaba/MNN
온디바이스 AI 및 LLM 경량 추론 엔진
- 차트
- 지금은 차트에 없어요
- 스타
- 1.7만
무엇인가요
Alibaba가 개발한 경량 딥러닝 프레임워크로, 모바일과 임베디드 기기에서 모델 추론과 학습을 지원합니다. MNN-LLM과 MNN-Diffusion을 통해 기기 내 LLM 및 이미지 생성 모델 실행도 제공합니다.
누구에게 좋나요
모바일 앱이나 IoT 등 온디바이스 환경에 딥러닝 모델과 LLM을 배포하려는 개발자에게 적합합니다.
왜 지금 주목받나요
최근 3.6.2 릴리즈와 함께 모바일 앱 전용 언어 모델인 MNN-Pocket-0.3B를 공개했으며, 오늘 하루 동안 96개의 스타를 받았습니다.
주요 기능
- TensorFlow, Caffe, ONNX, Torchscripts 모델 변환 및 실행 지원
- ARM·x64 CPU와 Metal, OpenCL, Vulkan, CUDA 등 GPU 가속 지원
- FP16, INT8, INT4 양자화 및 경량 바이너리 빌드 제공
- MNN-LLM, MNN-Diffusion, MNN-CV 등 확장 도구 포함
2026년 11월 17일에 README와 저장소 정보를 바탕으로 정리한 요약이에요. 틀린 내용이 있을 수 있으니 중요한 판단은 원문을 확인해 주세요. 요약이 틀렸다면 알려 주세요