358개의 AI 제공업체를 하나의 엔드포인트로 통합하여 월 16억 개의 무료 토큰을 제공하는 AI 게이트웨이
중간맛 분석
TypeScript 기반의 프로덕션 급 AI 게이트웨이로, 358개 제공업체, 1312개의 모델 ID, RTK+Caveman 압축으로 15~95% 토큰 절감을 제공합니다. 4계층 자동 폴백(구독→→저가→무료), 19개의 라우팅 전략, 회로 차단기, TLS 스텔스, MCP 110개 도구를 탑재했습니다. 설치 직후 'auto' 모델로 즉시 동작하며, , , Electron으로 모든 플랫폼에서 실행 가능합니다. 데모: /dashboard/free-tiers에서 실시간 여유 토큰 확인 가능.
이런 레포예요
이럴 때 쓰면 좋아요
- Claude Code, Cursor, Cline 등 AI 코딩 에이전트에 358개 제공업체 연결하여 비용 절감
- 팀에서 여러 AI 구독을 하나의 로컬 엔드포인트로 통합하여 대시보드 관리 간소화
- API 키 없이 즉시 시작하고 필요에 따라 제공업체를 추가로 연결하는 프로토타이핑
핵심 기능
대안 대비 차별점
진정한 제로 설정 부팅과 2주마다 재감사되는 무료 풀 카탈로그(월 16억 토큰 정확한 계산)로, LiteLLM, openai-python-proxy 등 기존 프록시보다 토큰 비용 최적화와 무료 티어 투명성 면에서 우월합니다.
먹어본 사람들
실제로 차려 먹어본 손님들의 흔적이에요 — 한마디와 완주 인증 모두 검수 후 공개돼요.
이 레포, 해먹는 법
처음 오셨어요? 어렵지 않아요 — 위에서 아래로 따라 하면 내 컴퓨터에 이 레포를 차려서 바로 맛볼 수 있어요.
준비물
- Node.js (npm) 또는 Docker
바로 차려먹기Node.js (npm)
깃밥이 레포 구조를 확인하고 만든 실행 명령이에요. 터미널에 붙여넣으면 받기부터 실행까지 한 번에 진행돼요.
git clone --depth 1 https://github.com/cheaper-inference/OmniRoute.git && cd OmniRoute && npm install && npm run dev
코드는 내 컴퓨터에서 실행돼요 — 처음 보는 레포라면 내용을 한번 훑어보고 실행하는 습관을 추천해요.
README가 안내하는 자세한 단계 보기
- OmniRoute를 전역으로 설치합니다.
npm i -g omniroute
- 서버를 시작합니다.
omniroute
(localhost:20128에서 부팅됨, 설정 불필요)
- 설치된 상태에서 즉시 테스트합니다.
curl http://localhost:20128/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model":"auto","messages":[{"role":"user","content":"Hello!"}]}'
-
IDE/CLI를 http://localhost:20128/v1 로 가리킵니다. (Claude Code, Cursor, Cline 등 모든 OpenAI 호환 도구)
-
모델 이름을 'auto'로 설정하여 자동 라우팅을 활성화합니다.
-
대시보드에 접속하여 실시간 사용량, 쿼터, 절감액을 확인합니다 (http://localhost:20128/dashboard/free-tiers).
깃밥트라이로 맛보기
받아보기 귀찮고 살짝 불안했다면 — 안전 스캔부터 설치까지 터미널 한 줄로 끝나요.
터미널에 붙여넣으면 깃밥 안전 스캔 → 격리 폴더 clone → 설치 → 실행법 안내까지 자동이에요. 처음이어도 괜찮아요 — 이 한 줄이 전부예요.
npx gitbap-try cheaper-inference/OmniRoute
Node.js만 있으면 설치 없이 실행돼요 · 깃밥트라이가 뭐예요? →
별 추이 · 7일
확인 시각
활용성 · 따라 만들기 좋은가
- 관대한 라이선스
- 테스트 있음
- 예제 디렉토리
- 최근 활동
- AGENTS.md
- llms.txt
- 템플릿
🟢 최근 활동 있음 · 2026년 생성
「MCP·클로드 연동」 이런 레포, 매주 받아보실래요?
매주 월요일 아침, 골라 담은 밥상만. 광고 없이 · 언제든 해지.
내 레포인가요? README에 깃밥 배지 달기
[](https://www.gitbap.com/r/cheaper-inference/OmniRoute)🔌 클로드에서 바로 써보기 — 깃밥 연결하는 법
깃밥을 클로드에 연결하면 이런 레포를 클로드·커서·Codex에서 바로 찾고 체험할 수 있어요.
클로드 설정 → 커넥터에 이 주소를 붙여넣기.
https://www.gitbap.com/api/mcp플러그인을 설치하면 /gitbap-trending·/gitbap-try 슬래시 커맨드로 레포를 그 자리에서 체험. Claude Code에서 아래 두 줄을 차례로 실행하세요.
/plugin marketplace add jakeparkcolde/gitbap-cowork/plugin install gitbap-cowork@gitbapAI가 README 기반으로 요약했습니다 · 원문 보기