AI·머신러닝 · C · 11월 18일 (수) 월간 차트

AI·머신러닝 분야 레포를 모든 언어 차트에서 모아 스타 증가순으로 다시 매긴 순위예요. 11월 18일 (수) 오전 6시 기준.

  1. 1

    JustVugg/colibri

    대형 MoE 모델을 위한 계층형 추론 엔진

    colibri는 수천억 파라미터 규모의 대형 MoE 모델을 일반 PC 하드웨어에서 실행하는 C 기반 추론 엔진이에요. 밀집 레이어와 자주 쓰이는 expert는 GPU나 RAM에 두고, 나머지는 NVMe 디스크에서 스트리밍해 GPU 없이도 동작해요.

    C스타 5.2만기여하기 좋은 이슈 1AI·머신러닝

    +9,41530일간

  2. 2

    FareedKhan-dev/kimi-k3-in-c

    단일 CPU와 8GB RAM용 Kimi K3 C99 추론 엔진

    2.78조 파라미터 규모의 Kimi K3 모델을 BLAS, 프레임워크, GPU 없이 순수 C99로 추론하는 엔진이에요. 1.56TB 체크포인트를 디스크에서 스트리밍하며 8.24GB RAM 환경에서도 동일한 결과를 생성해요.

    C스타 1.2만AI·머신러닝

    +3,25930일간