🍚 깃밥 PRO가 열렸어요 — 월 3,900원 · 알아보기 →
StayLameBro/backburner

맥북과 아이폰을 USB-C로 연결해 로컬 LLM(Qwen3.8-27B)을 더 빠르고 긴 컨텍스트로 돌리는 llama.cpp 기반 도구

설치형 도구맘대로 써도 됨 · MIT모바일Python난이도
9050 찜
91포크5이슈

중간맛 분석

맥북과 아이폰을 USB-C로 묶어 로컬 LLM의 프리필(프롬프트 처리) 속도를 높이고 저장 가능한 컨텍스트 길이를 늘리는 llama.cpp 기반 서버+아이폰 앱 세트입니다. 구조는 자체 포크한 llama.cpp 엔진(SME2, Metal 커널 최적화, DFlash2 추측 디코딩 포함)이 맥에서 돌아가고, 64개 레이어 중 뒷부분(41-64)을 아이폰 GPU가 분담해 프리필을 파이프라인으로 처리하며, 64k 토큰을 넘는 오래된 KV 캐시는 아이폰 GPU/Neural Engine이 어텐션 계산을 맡아 저장합니다. 는 설치 스크립트 한 줄(curl | bash) 또는 git 후 cmake 빌드, huggingface-로 모델 다운로드, split-gguf.py로 아이폰용 모델 절반 생성, Xcode 또는 AltStore로 아이폰 앱 설치까지 단계별 절차를 제공합니다. 실행하면 :8080에서 OpenAI 호환 서버가 뜨고, 아이폰이 연결·실행 중이면 자동으로 활용됩니다. 사전 준비가 많고(모델 24GB, iOS 앱 빌드/설치, USB-C 10Gb/s 케이블) 사전 지식(cmake, Xcode, GGUF 변환)이 요구되는 개발자용 도구입니다.

이런 레포예요

이럴 때 쓰면 좋아요

  • 맥에서 로컬 에이전트를 돌리는 개발자가 긴 파일/도구 결과를 읽을 때 대기 시간을 줄이고 싶을 때
  • 24GB 맥 메모리로는 부족한 긴 컨텍스트(최대 229k 토큰)를 아이폰 메모리를 빌려 확보하고 싶을 때

핵심 기능

맥 레이어 1-40과 아이폰 레이어 41-64를 파이프라인으로 나눠 처리하는 split prefill64k 토큰 이후 오래된 KV 캐시를 아이폰 GPU/Neural Engine이 대신 들고 어텐션 계산DFlash2 추측 디코딩과 SME2 Metal 커널로 맥 단독 성능도 가속

대안 대비 차별점

유휴 상태의 아이폰을 USB-C로 연결해 레이어 연산과 오래된 KV 캐시 어텐션을 분담시켜, 맥 단독 실행 대비 프리필 속도와 저장 가능한 컨텍스트 길이를 모두 늘린 점이 일반 로컬 LLM 서버와 다릅니다.

먹어본 사람들

실제로 차려 먹어본 손님들의 흔적이에요 — 한마디와 완주 인증 모두 검수 후 공개돼요.

시식평 · 먹어본 사람 한마디

아직 시식평이 없어요. 먹어보셨다면 첫 한마디를 남겨주세요.

다른 레포 시식평 구경하기 →

이 레포로 만든 것들

🖋 완주 인증하기

아직 이 레포로 만든 완주 인증이 없어요. 첫 밥도장을 찍어보세요!

이 레포, 해먹는 법

처음 오셨어요? 어렵지 않아요 — 위에서 아래로 따라 하면 내 컴퓨터에 이 레포를 차려서 바로 맛볼 수 있어요.

준비물

  • Apple Silicon Mac(M4 Pro 24GB 기준 테스트)
  • iPhone 15 Pro 이상 또는 M 시리즈 iPad(미검증)
  • 10Gb/s USB-C 케이블(아이폰 기본 케이블은 USB 2라 속도 부족)
  • 약 24GB 모델 다운로드 공간
  • Xcode 또는 AltStore를 통한 아이폰 앱 설치
  • cmake, huggingface-cli, coremltools 등 빌드 도구

바로 시작하기

  1. 설치 스크립트로 맥 엔진과 모델(~24GB)을 한 번에 받습니다.
curl -fsSL https://raw.githubusercontent.com/StayLameBro/backburner/main/install.sh | bash
  1. 아이폰을 케이블로 연결하고 Backburner 앱을 연 상태에서 아이폰용 모델 절반을 전송합니다(최초 1회).
backburner phone
  1. OpenAI 호환 서버를 실행합니다(http://127.0.0.1:8080/v1).
backburner

깃밥트라이로 맛보기

받아보기 귀찮고 살짝 불안했다면 — 안전 스캔부터 설치까지 터미널 한 줄로 끝나요.

터미널에 붙여넣으면 깃밥 안전 스캔 → 격리 폴더 clone → 설치 → 실행법 안내까지 자동이에요. 처음이어도 괜찮아요 — 이 한 줄이 전부예요.

npx gitbap-try StayLameBro/backburner

Node.js만 있으면 설치 없이 실행돼요 · 깃밥트라이가 뭐예요? →

별 추이 · 7일

9057일 증가분은 비교 데이터가 부족해요

확인 시각

활용성 · 따라 만들기 좋은가

따라 하기 좋음샘플 점수 52/100
  • 관대한 라이선스
  • 테스트 있음
  • 예제 디렉토리
  • 최근 활동
  • AGENTS.md
  • llms.txt
  • 템플릿

🟢 최근 활동 있음 · 2026년 생성

시작하기

사용 전 확인

준비물 · 이용 조건

  • Apple Silicon Mac(M4 Pro 24GB 기준 테스트)
  • iPhone 15 Pro 이상 또는 M 시리즈 iPad(미검증)
  • 10Gb/s USB-C 케이블(아이폰 기본 케이블은 USB 2라 속도 부족)
  • 약 24GB 모델 다운로드 공간
  • Xcode 또는 AltStore를 통한 아이폰 앱 설치
  • cmake, huggingface-cli, coremltools 등 빌드 도구
라이선스MIT
라이선스 원문 확인

프로젝트 활동

저장소 생성

최근 릴리스와 코드 변경 날짜는 GitHub 기록에서 확인해 주세요.

비슷한 레포

소개·기능·태그가 비슷한 프로젝트를 골랐어요.

충분히 비슷한 프로젝트를 아직 찾지 못했어요.

같은 분야 더 보기

「모바일」 이런 레포, 매주 받아보실래요?

매주 월요일 아침, 골라 담은 밥상만. 광고 없이 · 언제든 해지.

내 레포인가요? README에 깃밥 배지 달기
[![깃밥](https://www.gitbap.com/badge/StayLameBro/backburner.svg)](https://www.gitbap.com/r/StayLameBro/backburner)
🔌 클로드에서 바로 써보기 — 깃밥 연결하는 법

깃밥을 클로드에 연결하면 이런 레포를 클로드·커서·Codex에서 바로 찾고 체험할 수 있어요.

방법 ① 커넥터 URL

클로드 설정 → 커넥터에 이 주소를 붙여넣기.

https://www.gitbap.com/api/mcp
방법 ② 플러그인 (체험까지)

플러그인을 설치하면 /gitbap-trending·/gitbap-try 슬래시 커맨드로 레포를 그 자리에서 체험. Claude Code에서 아래 두 줄을 차례로 실행하세요.

/plugin marketplace add jakeparkcolde/gitbap-cowork
/plugin install gitbap-cowork@gitbap
연결 방법 자세히 →

AI가 README 기반으로 요약했습니다 · 원문 보기