딥러닝 모델을 최적화하고 CPU, GPU, NPU 등 다양한 장치에 배포하는 오픈소스 AI 추론 가속 도구
중간맛 분석
OpenVINO는 PyTorch, TensorFlow, ONNX, Keras, PaddlePaddle, JAX/Flax 프레임워크의 모델을 지원한다. Python, C++, Node.js 등 여러 언어로 를 제공하며, CPU(x86/ARM), GPU(Intel 통합/별도), NPU 등 광범위한 하드웨어에서 추론을 실행할 수 있다. 모델 양자화와 희소화를 위한 NNCF 도구, LLM/생성형 AI 최적화를 위한 GenAI , vLLM/ONNX 등과의 통합이 가능하다. 설치는 pip install -U openvino로 간단하며, 공식 노트북(LLM 챗봇, YOLOv11, 텍스트-이미지 생성 등)으로 바로 시작할 수 있다.
이런 레포예요
이럴 때 쓰면 좋아요
- 학습된 YOLOv11 물체 감지 모델을 엣지 카메라에 배포하여 실시간 객체 인식 성능 향상
- Hugging Face의 대규모 언어 모델을 양자화하고 최적화하여 일반 CPU에서 빠른 추론 속도 달성
- Stable Diffusion 이미지 생성 모델을 변환하여 로컬 컴퓨터에서 빠르게 생성하기
핵심 기능
대안 대비 차별점
Intel이 주도하는 오픈소스 프로젝트로 x86, ARM, GPU, NPU 등 다양한 하드웨어를 지원하며, NNCF와 GenAI API로 LLM부터 컴퓨터 비전까지 통합 최적화 경험을 제공한다.
먹어본 사람들
실제로 차려 먹어본 손님들의 흔적이에요 — 한마디와 완주 인증 모두 검수 후 공개돼요.
이 레포, 해먹는 법
처음 오셨어요? 어렵지 않아요 — 위에서 아래로 따라 하면 내 컴퓨터에 이 레포를 차려서 바로 맛볼 수 있어요.
준비물
- Python 3.8 이상
- PyTorch 또는 TensorFlow 등 딥러닝 프레임워크 (선택)
바로 차려먹기Python (uv)
깃밥이 레포 구조를 확인하고 만든 실행 명령이에요. 터미널에 붙여넣으면 받기부터 실행까지 한 번에 진행돼요.
git clone --depth 1 https://github.com/openvinotoolkit/openvino.git && cd openvino && uv sync
uv가 없다면: brew install uv · 실행 명령은 README를 확인하세요.
코드는 내 컴퓨터에서 실행돼요 — 처음 보는 레포라면 내용을 한번 훑어보고 실행하는 습관을 추천해요.
README가 안내하는 자세한 단계 보기
- OpenVINO 설치하기
pip install -U openvino
- 설치 확인하기
import openvino as ov
print(ov.__version__)
- PyTorch 모델 불러오기 및 변환하기
import openvino as ov
import torch
import torchvision
# PyTorch 모델을 메모리에 로드
model = torch.hub.load("pytorch/vision", "shufflenet_v2_x1_0", weights="DEFAULT")
# OpenVINO 모델로 변환
example = torch.randn(1, 3, 224, 224)
ov_model = ov.convert_model(model, example_input=(example,))
# CPU 장치용으로 컴파일
core = ov.Core()
compiled_model = core.compile_model(ov_model, 'CPU')
# 추론 실행
output = compiled_model({0: example.numpy()})
- TensorFlow 모델 불러오기 및 변환하기
import numpy as np
import openvino as ov
import tensorflow as tf
# TensorFlow 모델을 메모리에 로드
model = tf.keras.applications.MobileNetV2(weights='imagenet')
# OpenVINO 모델로 변환
ov_model = ov.convert_model(model)
# CPU 장치용으로 컴파일
core = ov.Core()
compiled_model = core.compile_model(ov_model, 'CPU')
# 추론 실행
data = np.random.rand(1, 224, 224, 3)
output = compiled_model({0: data})
깃밥트라이로 맛보기
받아보기 귀찮고 살짝 불안했다면 — 안전 스캔부터 설치까지 터미널 한 줄로 끝나요.
터미널에 붙여넣으면 깃밥 안전 스캔 → 격리 폴더 clone → 설치 → 실행법 안내까지 자동이에요. 처음이어도 괜찮아요 — 이 한 줄이 전부예요.
npx gitbap-try openvinotoolkit/openvino
Node.js만 있으면 설치 없이 실행돼요 · 깃밥트라이가 뭐예요? →
별 추이 · 7일
확인 시각
활용성 · 따라 만들기 좋은가
- 관대한 라이선스
- 테스트 있음
- 예제 디렉토리
- 최근 활동
- AGENTS.md
- llms.txt
- 템플릿
🟢 최근 활동 있음 · 2018년 생성
「AI 미디어 생성」 이런 레포, 매주 받아보실래요?
매주 월요일 아침, 골라 담은 밥상만. 광고 없이 · 언제든 해지.
내 레포인가요? README에 깃밥 배지 달기
[](https://www.gitbap.com/r/openvinotoolkit/openvino)🔌 클로드에서 바로 써보기 — 깃밥 연결하는 법
깃밥을 클로드에 연결하면 이런 레포를 클로드·커서·Codex에서 바로 찾고 체험할 수 있어요.
클로드 설정 → 커넥터에 이 주소를 붙여넣기.
https://www.gitbap.com/api/mcp플러그인을 설치하면 /gitbap-trending·/gitbap-try 슬래시 커맨드로 레포를 그 자리에서 체험. Claude Code에서 아래 두 줄을 차례로 실행하세요.
/plugin marketplace add jakeparkcolde/gitbap-cowork/plugin install gitbap-cowork@gitbapAI가 README 기반으로 요약했습니다 · 원문 보기