深層学習モデルの最適化とデプロイを行うオープンソースツールキット
中辛 の解説
OpenVINOはC++ベースの推論エンジンで、PyTorch、TensorFlow、ONNX、Keras、JAX/Flaxなど主要フレームワークに対応しています。計算量削減や低消費電力化により、コンピュータビジョン、音声認識、生成AIなど多領域で推論速度を向上させます。CPU(x86、ARM)、GPU(Intel統合・離散)、NPUに対応し、エッジからクラウドまで柔軟なデプロイが可能です。Hugging Face Optimum Intelとの統合、LangChain・LlamaIndex・vLLMなどとの連携も提供され、即座に本番環境で使えます。
こんなリポジトリです
こんなときに便利です
- コンピュータビジョンモデル(YOLO、ResNetなど)をエッジデバイスで高速実行する必要がある場合
- 大規模言語モデル(LLM)やStable Diffusionを低リソース環境で推論させたい場合
- 複数のハードウェアプラットフォーム(CPU、GPU、NPU)に同じモデルをデプロイしたい場合
主な機能
ほかとの違い
Intel系プロセッサに最適化された推論エンジンで、CPU・GPU・NPU間で統一的な最適化パイプラインを提供し、エッジからクラウドまで幅広いハードウェアで高性能デプロイを実現します。
このリポジトリの作り方
はじめてですか? むずかしくありません — 上から順にたどれば、自分の環境で動かして味見できます。
準備するもの
- Python 3.6以上
- PyTorchまたはTensorFlow(モデル変換時)
すぐに始める
- pipでOpenVINOをインストールします。
pip install -U openvino
- インストール後、Pythonで動作確認します。
import openvino as ov
print(ov.__version__)
- PyTorchモデルを変換・推論します。
import openvino as ov
import torch
import torchvision
model = torch.hub.load("pytorch/vision", "shufflenet_v2_x1_0", weights="DEFAULT")
example = torch.randn(1, 3, 224, 224)
ov_model = ov.convert_model(model, example_input=(example,))
core = ov.Core()
compiled_model = core.compile_model(ov_model, 'CPU')
output = compiled_model({0: example.numpy()})
- TensorFlowモデルを変換・推論します。
import numpy as np
import openvino as ov
import tensorflow as tf
model = tf.keras.applications.MobileNetV2(weights='imagenet')
ov_model = ov.convert_model(model)
core = ov.Core()
compiled_model = core.compile_model(ov_model, 'CPU')
data = np.random.rand(1, 224, 224, 3)
output = compiled_model({0: data})
ギット飯トライで味見
入れるのが面倒で少し不安だったなら — 安全スキャンからインストールまで、ターミナル一行で終わります。
ターミナルに貼り付ければ、ギット飯の安全スキャン → 隔離フォルダへ clone → インストール → 実行方法の案内まで自動です。はじめてでも大丈夫 — この一行だけです。
npx gitbap-try openvinotoolkit/openvino
Node.js さえあれば、インストールなしで動きます · ギット飯トライとは? →
スター推移 · 7日
確認日時
使いやすさ · まねしやすいか
- ゆるいライセンス
- テストあり
- サンプル集
- 最近の更新
- AGENTS.md
- llms.txt
- テンプレート
最近の更新あり · 2018 年に作成
「AI メディア生成」 こういうリポジトリを毎週受け取りませんか?
毎週月曜の朝、選んだ一膳だけ。広告なし · いつでも解除。
自分のリポジトリですか? README にギット飯バッジを貼る
[](https://www.gitbap.com/r/openvinotoolkit/openvino)Claude からそのまま使う — ギット飯のつなぎ方
ギット飯を Claude につなぐと、こうしたリポジトリを Claude・Cursor・Codex から直接さがして試せます。
Claude の設定 → コネクタにこのアドレスを貼り付け。
https://www.gitbap.com/api/mcpプラグインを入れると /gitbap-trending·/gitbap-try のスラッシュコマンドで、その場でリポジトリを試せます。Claude Code で下の 2 行を順に実行してください。
/plugin marketplace add jakeparkcolde/gitbap-cowork/plugin install gitbap-cowork@gitbapAI が README をもとに要約しました · 原文を見る