drumih/turbo-fieldfare

Apple Silicon Mac에서 단 2GB 메모리로 Gemma 4 26B-A4B LLM을 실행하는 Swift + Metal 런타임

완성 앱맘대로 써도 됨 · Apache-2.0LLM 도구·RAGSwift난이도
572+0이번 주0 찜
18포크4이슈

중간맛 분석

스택: Swift 6.2, Metal 4, macOS 26+, Apple Silicon(M2 이상) 난이도: 중상(모델 최적화 및 시스템 수준의 메모리 관리 필요) 바로 쓸 수 있나: 예. 빌드 후 Mac 앱에서 클릭 한 번으로 모델 설치, 즉시 대화 가능 성능: M2 MacBook Air에서 5.1-6.3 tok/s, M5 Pro에서 31-35 tok/s 데모: 내장 SwiftUI/AppKit Mac 앱으로 프롬프트 입력 후 텍스트 생성 확인 가능. 로도 JSON 메시지 파일로 반복 실행 가능.

이런 레포예요

이럴 때 쓰면 좋아요

  • 8GB RAM 맥에서 로컬로 대규모 언어 모델을 실행하여 온프레미스 AI 기반 앱 개발
  • 오프라인 환경이나 프라이빗 네트워크에서 생성형 AI 기능 제공
  • Metal 커널 최적화와 메모리 제약 환경에서의 시스템 설계 학습 및 참고

핵심 기능

SSD 스트리밍과 LFU 캐시를 통한 메모리 효율적 MoE 실행(2GB RAM에서 26B 모델 추론)Metal 커널 기반 고속 양자화 GEMV, attention, normalization 계산Mac 앱과 CLI로 제공되는 사용자 친화적 인터페이스(설치·생성·샘플링 제어 한 곳에서)

대안 대비 차별점

범용 런타임이 아닌 Gemma 4 26B-A4B 전용으로 설계되어 SSD 스트리밍, LFU 캐시, Metal 최적화를 종합적으로 적용해 8GB 메모리 제약을 실제로 극복한 유일한 오픈소스 프로젝트입니다.

먹어본 사람들

실제로 차려 먹어본 손님들의 흔적이에요 — 한마디와 완주 인증 모두 검수 후 공개돼요.

시식평 · 먹어본 사람 한마디

아직 시식평이 없어요. 먹어보셨다면 첫 한마디를 남겨주세요.

다른 레포 시식평 구경하기 →

이 레포로 만든 것들

🖋 완주 인증하기

아직 이 레포로 만든 완주 인증이 없어요. 첫 밥도장을 찍어보세요!

이 레포, 해먹는 법

처음 오셨어요? 어렵지 않아요 — 위에서 아래로 따라 하면 내 컴퓨터에 이 레포를 차려서 바로 맛볼 수 있어요.

준비물

  • Apple Silicon Mac(검증된 대상: 8GB M2 MacBook Air)
  • macOS 26 이상, Metal 4
  • Xcode 26 이상, Swift 6.2 이상
  • 모델 설치용 약 14.3GB 여유 저장 공간
  • 초기 모델 다운로드용 인터넷 연결

바로 시작하기

  1. 저장소를 클론합니다.
git clone https://github.com/drumih/turbo-fieldfare.git
cd turbo-fieldfare
  1. 릴리스 모드로 전체 패키지를 빌드합니다(Mac 앱과 decode 서비스 포함).
swift build -c release
  1. Mac 앱을 실행합니다.
.build/release/TurboFieldfareMac

  1. 앱이 열리면 Install을 선택하고 모델 다운로드 및 재패킹이 완료될 때까지 기다립니다(약 15GB).

  2. Load Model을 선택한 후 프롬프트를 입력하고 Generate를 눌러 텍스트를 생성합니다.

또는 CLI로 기존 .gturbo 설치를 사용하려면, 먼저 모델을 설치합니다(Mac 앱 또는 아래 명령):

swift run -c release TurboFieldfareRepack --output scratch/gemma4.gturbo --overwrite

그 다음 대화를 시작합니다:

swift run -c release TurboFieldfareCLI --model scratch/gemma4.gturbo --messages-file messages.json

깃밥트라이로 맛보기

받아보기 귀찮고 살짝 불안했다면 — 안전 스캔부터 설치까지 터미널 한 줄로 끝나요.

터미널에 붙여넣으면 깃밥 안전 스캔 → 격리 폴더 clone → 설치 → 실행법 안내까지 자동이에요. 처음이어도 괜찮아요 — 이 한 줄이 전부예요.

npx gitbap-try drumih/turbo-fieldfare

Node.js만 있으면 설치 없이 실행돼요 · 깃밥트라이가 뭐예요? →

이걸로 써먹는 법

맛봤다면 이제 써먹을 차례 — 이 레포를 내 일과 사업에 응용하는 방법을 모아뒀어요.

🍳 레시피 — AI에게 이대로 시켜보세요

레시피 불러오는 중…

별 추이 · 7일

572+0 / 7일

활용성 · 따라 만들기 좋은가

따라 하기 좋음샘플 점수 46/100
  • 관대한 라이선스
  • 테스트 있음
  • 예제 디렉토리
  • 최근 활동
  • AGENTS.md
  • llms.txt
  • 템플릿

🟢 최근 활동 있음 · 2026년 생성

「LLM 도구·RAG」 이런 레포, 매주 받아보실래요?

매주 월요일 아침, 골라 담은 밥상만. 광고 없이 · 언제든 해지.

내 레포인가요? README에 깃밥 배지 달기
[![깃밥](https://www.gitbap.com/badge/drumih/turbo-fieldfare.svg)](https://www.gitbap.com/r/drumih/turbo-fieldfare)
🔌 클로드에서 바로 써보기 — 깃밥 연결하는 법

깃밥을 클로드에 연결하면 이런 레포를 클로드·커서·Codex에서 바로 찾고 체험할 수 있어요.

방법 ① 커넥터 URL

클로드 설정 → 커넥터에 이 주소를 붙여넣기.

https://www.gitbap.com/api/mcp
방법 ② 플러그인 (체험까지)

플러그인을 설치하면 /gitbap-trending·/gitbap-try 슬래시 커맨드로 레포를 그 자리에서 체험. Claude Code에서 아래 두 줄을 차례로 실행하세요.

/plugin marketplace add jakeparkcolde/gitbap-cowork
/plugin install gitbap-cowork@gitbap
연결 방법 자세히 →

AI가 README 기반으로 요약했습니다 · 원문 보기