차트로 돌아가기

NVIDIA-NeMo/Switchyard

AI 에이전트용 LLM 모델 라우팅 라이브러리

차트
지금은 차트에 없어요
스타
3,651

GitHub에서 보기

무엇인가요

Switchyard는 AI 에이전트가 요청마다 어떤 모델을 사용할지 선택하도록 돕는 오픈소스 라이브러리예요. 효율적인 모델과 고성능 모델을 함께 활용해 작업 성공률, 비용, 지연 시간의 균형을 맞출 수 있어요.

누구에게 좋나요

자체 게이트웨이나 에이전트 하네스에서 여러 LLM과 프로바이더 간 트래픽을 유연하게 라우팅하려는 개발자와 팀이 사용하기 좋아요.

왜 지금 주목받나요

오늘 하루 41개의 스타를 받으며 누적 3,623개를 기록했고, v0.3.0 릴리스 이후에도 활발히 개발되고 있어요. OpenAI와 Anthropic API 호환성을 유지하면서 작업과 실행 신호에 따라 모델을 동적으로 선택할 수 있는 점이 특징이에요.

주요 기능

  • Auto, Task, Execution, Composite 등 다양한 라우팅 알고리즘 지원
  • Rust 코어 libsy 임베딩 및 Python, TypeScript 바인딩 제공
  • Agent Router, LiteLLM, NeMo Relay, OpenRouter 등 게이트웨이 연동
  • 로컬 데모 서버를 통한 라우팅 설정 비교 및 벤치마크 평가

2026년 11월 17일에 README와 저장소 정보를 바탕으로 정리한 요약이에요. 틀린 내용이 있을 수 있으니 중요한 판단은 원문을 확인해 주세요.