NVIDIA-NeMo/Switchyard
AI 에이전트용 LLM 모델 라우팅 라이브러리
- 차트
- 지금은 차트에 없어요
- 스타
- 3,651
무엇인가요
Switchyard는 AI 에이전트가 요청마다 어떤 모델을 사용할지 선택하도록 돕는 오픈소스 라이브러리예요. 효율적인 모델과 고성능 모델을 함께 활용해 작업 성공률, 비용, 지연 시간의 균형을 맞출 수 있어요.
누구에게 좋나요
자체 게이트웨이나 에이전트 하네스에서 여러 LLM과 프로바이더 간 트래픽을 유연하게 라우팅하려는 개발자와 팀이 사용하기 좋아요.
왜 지금 주목받나요
오늘 하루 41개의 스타를 받으며 누적 3,623개를 기록했고, v0.3.0 릴리스 이후에도 활발히 개발되고 있어요. OpenAI와 Anthropic API 호환성을 유지하면서 작업과 실행 신호에 따라 모델을 동적으로 선택할 수 있는 점이 특징이에요.
주요 기능
- Auto, Task, Execution, Composite 등 다양한 라우팅 알고리즘 지원
- Rust 코어 libsy 임베딩 및 Python, TypeScript 바인딩 제공
- Agent Router, LiteLLM, NeMo Relay, OpenRouter 등 게이트웨이 연동
- 로컬 데모 서버를 통한 라우팅 설정 비교 및 벤치마크 평가
2026년 11월 17일에 README와 저장소 정보를 바탕으로 정리한 요약이에요. 틀린 내용이 있을 수 있으니 중요한 판단은 원문을 확인해 주세요.