openvinotoolkit/openvino
PyTorch, TensorFlow, ONNX 모델을 최적화하고 CPU/GPU/NPU에 배포하는 오픈소스 AI 추론 엔진
10,458+21이번 주0 찜
3,264포크293이슈
중간맛 분석
스택: C++, Python, C, NodeJS / CPU·GPU·NPU 지원 / PyTorch, TensorFlow, ONNX, PaddlePaddle, JAX/Flax 지원
난이도: pip install 한 줄로 설치 후 Python 코드 5줄이면 모델 변환·컴파일·추론 가능
바로 쓸 수 있는가: 네, PyTorch/TensorFlow 모델 직접 변환 후 CPU에서 즉시 실행 가능
데모: 노트북 지원(LLM 챗봇, YOLO 객체 감지, Whisper 음성 인식, Stable Diffusion 등), GenAI 로 LLM/확산 모델 최적화 파이프라인 제공
이런 레포예요
이럴 때 쓰면 좋아요
- 학습된 PyTorch/TensorFlow 모델을 엣지 디바이스(모바일, 라즈베리파이 등)에 배포해 지연 시간과 전력 소비 줄이기
- YOLO, Whisper 등 대중 모델을 최적화해 실시간 객체 감지, 음성 인식 구현하기
- LLM과 Diffusion 모델을 CPU에서 빠르게 실행하는 생성AI 애플리케이션 구축하기
핵심 기능
다중 프레임워크 변환 지원 (PyTorch, TensorFlow, ONNX, JAX 등)CPU·GPU·NPU 멀티플랫폼 배포생성AI 특화 GenAI API (LLM, 확산 모델 최적화 파이프라인)
대안 대비 차별점
Intel 공식 지원으로 x86/ARM CPU 최적화에 강하며, 생성AI(LLM·Diffusion) 전용 API와 양자화·희소성 최적화 생태(NNCF)를 갖춘 완성도 높은 멀티플랫폼 추론 엔진입니다.
준비물
- Python 3.8+
- PyTorch/TensorFlow/ONNX 중 하나 (모델 준비 시)
바로 시작하기
- pip로 OpenVINO 설치
pip install -U openvino
- 설치 확인
import openvino as ov
print(ov.__version__)
- PyTorch 모델 변환 및 추론
import openvino as ov
import torch
import torchvision
model = torch.hub.load("pytorch/vision", "shufflenet_v2_x1_0", weights="DEFAULT")
example = torch.randn(1, 3, 224, 224)
ov_model = ov.convert_model(model, example_input=(example,))
core = ov.Core()
compiled_model = core.compile_model(ov_model, 'CPU')
output = compiled_model({0: example.numpy()})
별 추이 · 7일
10,458+21 / 7일
활용성 · 따라 만들기 좋은가
따라 하기 좋음샘플 점수 52/100
- 관대한 라이선스
- 테스트 있음
- 예제 디렉토리
- 최근 활동
- AGENTS.md
- llms.txt
- 템플릿
🟢 최근 활동 있음 · 2018년 생성
이 레포에 깃밥 배지 달기
[](https://www.gitbap.com/r/openvinotoolkit/openvino)🔌 클로드에서 바로 써보기
깃밥을 클로드에 연결하면 이런 레포를 클로드·커서·Codex에서 바로 찾고 체험할 수 있어요.
방법 ① 커넥터 URL
클로드 설정 → 커넥터에 이 주소를 붙여넣기.
https://www.gitbap.com/api/mcp방법 ② 플러그인 (체험까지)
플러그인을 설치하면 /gitbap-trending·/gitbap-try 슬래시 커맨드로 레포를 그 자리에서 체험. Claude Code에서 아래 두 줄을 차례로 실행하세요.
/plugin marketplace add jakeparkcolde/gitbap-cowork/plugin install gitbap-cowork@gitbapAI가 README 기반으로 요약했습니다 · 원문 보기