PyTorch 모델을 스마트폰·마이크로컨트롤러 등 엣지 기기에 직접 배포하는 온디바이스 AI 런타임
중간맛 분석
스택: PyTorch(Python) + 12가지 하드웨어 백엔드(XNNPACK, CoreML, Qualcomm, Vulkan, ARM 등) 난이도: 중상(export→compile→ 3단계) 즉시 사용성: pip 설치 후 torch.export() + to_edge_transform_and_lower() + 으로 3줄의 Python 코드로 가능. C++/Swift/Kotlin 런타임 제공. 데모: Llama 3.2, LLaVA, Whisper, MobileNetV2, YOLO26 예제 포함. Colab 노트북 제공.
이런 레포예요
이럴 때 쓰면 좋아요
- 스마트폰 앱에 LLM(Llama) 통합하여 오프라인 텍스트 생성 실행
- IoT 기기나 마이크로컨트롤러에서 이미지 분류(MobileNetV2) 또는 객체 인식(YOLO) 추론
- Meta 스마트글래스처럼 VR/AR 기기에서 실시간 음성·비전 멀티모달 모델 구동
핵심 기능
대안 대비 차별점
PyTorch 생태계와 완전 통합되어 .onnx나 .tflite 같은 중간 형식 변환 없이 직접 내보낼 수 있고, Meta의 수십억 사용자 제품에서 검증된 프로덕션 기술입니다.
먹어본 사람들
실제로 차려 먹어본 손님들의 흔적이에요 — 한마디와 완주 인증 모두 검수 후 공개돼요.
이 레포, 해먹는 법
처음 오셨어요? 어렵지 않아요 — 위에서 아래로 따라 하면 내 컴퓨터에 이 레포를 차려서 바로 맛볼 수 있어요.
준비물
- Python 3.9+
- PyTorch 설치
바로 차려먹기Python (uv)
깃밥이 레포 구조를 확인하고 만든 실행 명령이에요. 터미널에 붙여넣으면 받기부터 실행까지 한 번에 진행돼요.
git clone --depth 1 https://github.com/pytorch/executorch.git && cd executorch && uv sync
uv가 없다면: brew install uv · 실행 명령은 README를 확인하세요.
코드는 내 컴퓨터에서 실행돼요 — 처음 보는 레포라면 내용을 한번 훑어보고 실행하는 습관을 추천해요.
README가 안내하는 자세한 단계 보기
- ExecuTorch 설치하기
pip install executorch
- PyTorch 모델 내보내기
# Python 코드로 모델 export
python3 << 'EOF'
import torch
from executorch.exir import to_edge_transform_and_lower
from executorch.backends.xnnpack.partition.xnnpack_partitioner import XnnpackPartitioner
model = torch.nn.Linear(10, 5).eval()
example_inputs = (torch.randn(1, 10),)
exported_program = torch.export.export(model, example_inputs)
program = to_edge_transform_and_lower(
exported_program,
partitioner=[XnnpackPartitioner()]
).to_executorch()
with open("model.pte", "wb") as f:
f.write(program.buffer)
print("Model exported to model.pte")
EOF
- 로컬에서 실행 테스트하기
python3 << 'EOF'
from executorch.runtime import Runtime
import torch
runtime = Runtime.get()
method = runtime.load_program("model.pte").load_method("forward")
outputs = method.execute([torch.randn(1, 10)])
print("Output shape:", outputs[0].shape)
EOF
- Llama 모델 내보내기 (선택사항)
python -m executorch.extension.llm.export.export_llm --model llama3_2 --output llama.pte
깃밥트라이로 맛보기
받아보기 귀찮고 살짝 불안했다면 — 안전 스캔부터 설치까지 터미널 한 줄로 끝나요.
터미널에 붙여넣으면 깃밥 안전 스캔 → 격리 폴더 clone → 설치 → 실행법 안내까지 자동이에요. 처음이어도 괜찮아요 — 이 한 줄이 전부예요.
npx gitbap-try pytorch/executorch
Node.js만 있으면 설치 없이 실행돼요 · 깃밥트라이가 뭐예요? →
별 추이 · 7일
활용성 · 따라 만들기 좋은가
- 관대한 라이선스
- 테스트 있음
- 예제 디렉토리
- 최근 활동
- AGENTS.md
- llms.txt
- 템플릿
🟢 최근 활동 있음 · 2022년 생성
「모바일」 이런 레포, 매주 받아보실래요?
매주 월요일 아침, 골라 담은 밥상만. 광고 없이 · 언제든 해지.
내 레포인가요? README에 깃밥 배지 달기
[](https://www.gitbap.com/r/pytorch/executorch)🔌 클로드에서 바로 써보기 — 깃밥 연결하는 법
깃밥을 클로드에 연결하면 이런 레포를 클로드·커서·Codex에서 바로 찾고 체험할 수 있어요.
클로드 설정 → 커넥터에 이 주소를 붙여넣기.
https://www.gitbap.com/api/mcp플러그인을 설치하면 /gitbap-trending·/gitbap-try 슬래시 커맨드로 레포를 그 자리에서 체험. Claude Code에서 아래 두 줄을 차례로 실행하세요.
/plugin marketplace add jakeparkcolde/gitbap-cowork/plugin install gitbap-cowork@gitbapAI가 README 기반으로 요약했습니다 · 원문 보기