PyTorchからデバイス上のAI推論を直接デプロイできる統合ソリューション
中辛 の解説
PyTorchモデルをAOT(事前コンパイル)で最適化し、50KBの軽量ランタイムで動作させます。XnnpackやCoreML、Qualcommなど12以上のハードウェアバックエンドに対応しており、1行の設定変更でバックエンドを切り替え可能です。LLM、ビジョン、音声、マルチモーダルモデルに対応しており、Llama 3.2やLlavaなどの実装例が豊富です。量子化・メモリ最適化・プロファイラ(ETDump)といった本番運用向けツールが組み込まれています。難易度は中程度で、PyTorchの基礎知識があれば取り組めます。
이런 레포예요
이럴 때 쓰면 좋아요
- スマートフォンアプリ内でLLMやビジョンモデルをリアルタイム実行
- プライバシー保護が必要なクラウド非依存のAI処理
- メモリやバッテリー制約が厳しいスマートウォッチやイヤフォンでのAI推論
핵심 기능
대안 대비 차별점
ONNX・TFLiteといった中間フォーマットを経由しないため、モデルセマンティクスを保持したまま複数ハードウェアに一括デプロイでき、ベンダーロックインを回避できます。
食べた人たち
実際に使ってみた人の記録です — 一言も完走の記録も、確認のうえで公開しています。
このリポジトリの作り方
はじめてですか? むずかしくありません — 上から順にたどれば、自分の環境で動かして味見できます。
준비물
- Python 3.8以上
- PyTorch(インストール対象に含まれる)
- 対象プラットフォーム用のSDK(iOS/Android/組込みシステム構築時)
すぐ動かしてみるPython (uv)
ギット飯がリポジトリの構成を確認して組み立てた実行コマンドです。ターミナルに貼り付ければ、取得から実行までまとめて進みます。
git clone --depth 1 https://github.com/pytorch/executorch.git && cd executorch && uv sync
uv가 없다면: brew install uv · 실행 명령은 README를 확인하세요.
コードは自分の環境で動きます — はじめて見るリポジトリなら、中身にひととおり目を通してから実行するのがおすすめです。
README가 안내하는 자세한 단계 보기
- ExecuTorchをインストール
pip install executorch
- PyTorchモデルをエクスポート
import torch
from executorch.exir import to_edge_transform_and_lower
from executorch.backends.xnnpack.partition.xnnpack_partitioner import XnnpackPartitioner
model = MyModel().eval()
example_inputs = (torch.randn(1, 3, 224, 224),)
exported_program = torch.export.export(model, example_inputs)
- ターゲットハードウェアに最適化
program = to_edge_transform_and_lower(
exported_program,
partitioner=[XnnpackPartitioner()]
).to_executorch()
- デプロイ用ファイルを保存
with open("model.pte", "wb") as f:
f.write(program.buffer)
- C++で実行(例)
#include <executorch/extension/module/module.h>
Module module("model.pte");
auto outputs = module.forward(tensor);
ギット飯トライで味見
入れるのが面倒で少し不安だったなら — 安全スキャンからインストールまで、ターミナル一行で終わります。
ターミナルに貼り付ければ、ギット飯の安全スキャン → 隔離フォルダへ clone → インストール → 実行方法の案内まで自動です。はじめてでも大丈夫 — この一行だけです。
npx gitbap-try pytorch/executorch
Node.js さえあれば、インストールなしで動きます · ギット飯トライとは? →
スター推移 · 7日
使いやすさ · まねしやすいか
- ゆるいライセンス
- テストあり
- サンプル集
- 最近の更新
- AGENTS.md
- llms.txt
- テンプレート
最近の更新あり · 2022 年に作成
「모바일」 こういうリポジトリを毎週受け取りませんか?
毎週月曜の朝、選んだ一膳だけ。広告なし · いつでも解除。
自分のリポジトリですか? README にギット飯バッジを貼る
[](https://www.gitbap.com/r/pytorch/executorch)Claude からそのまま使う — ギット飯のつなぎ方
ギット飯を Claude につなぐと、こうしたリポジトリを Claude・Cursor・Codex から直接さがして試せます。
Claude の設定 → コネクタにこのアドレスを貼り付け。
https://www.gitbap.com/api/mcpプラグインを入れると /gitbap-trending·/gitbap-try のスラッシュコマンドで、その場でリポジトリを試せます。Claude Code で下の 2 行を順に実行してください。
/plugin marketplace add jakeparkcolde/gitbap-cowork/plugin install gitbap-cowork@gitbapAI が README をもとに要約しました · 原文を見る