차트로 돌아가기

alibaba/MNN

온디바이스 AI 및 LLM 경량 추론 엔진

차트
지금은 차트에 없어요
스타
1.7만

GitHub에서 보기

무엇인가요

Alibaba가 개발한 경량 딥러닝 프레임워크로, 모바일과 임베디드 기기에서 모델 추론과 학습을 지원합니다. MNN-LLM과 MNN-Diffusion을 통해 기기 내 LLM 및 이미지 생성 모델 실행도 제공합니다.

누구에게 좋나요

모바일 앱이나 IoT 등 온디바이스 환경에 딥러닝 모델과 LLM을 배포하려는 개발자에게 적합합니다.

왜 지금 주목받나요

최근 3.6.2 릴리즈와 함께 모바일 앱 전용 언어 모델인 MNN-Pocket-0.3B를 공개했으며, 오늘 하루 동안 96개의 스타를 받았습니다.

주요 기능

  • TensorFlow, Caffe, ONNX, Torchscripts 모델 변환 및 실행 지원
  • ARM·x64 CPU와 Metal, OpenCL, Vulkan, CUDA 등 GPU 가속 지원
  • FP16, INT8, INT4 양자화 및 경량 바이너리 빌드 제공
  • MNN-LLM, MNN-Diffusion, MNN-CV 등 확장 도구 포함

2026년 11월 17일에 README와 저장소 정보를 바탕으로 정리한 요약이에요. 틀린 내용이 있을 수 있으니 중요한 판단은 원문을 확인해 주세요. 요약이 틀렸다면 알려 주세요