로컬에서 대형언어모델을 2배 빠르게, 70% 적은 VRAM으로 학습하고 추론하는 통합 플랫폼
중간맛 분석
Unsloth는 PyTorch 기반의 LLM 최적화 라이브러리로, 커스텀 Triton 커널과 수학적 최적화를 통해 학습 성능을 극대화합니다. Gemma, Llama, Mistral, Qwen 등 500+ 모델 지원하며, 4-bit 양자화, LoRA, 강화학습(GRPO), 임베딩 및 비전 모델 학습도 가능합니다. Windows/Linux/macOS에서 바로 설치해 사용 가능하고, GPU(NVIDIA, AMD, Intel), CPU, macOS MLX 백엔드를 모두 지원합니다.
이런 레포예요
이럴 때 쓰면 좋아요
- 개인 GPU에서 Llama/Mistral 같은 대형 모델을 빠르게 커스텀 데이터로 파인튜닝하기
- PDF/CSV 데이터를 자동으로 처리해 학습 데이터셋 만들고 강화학습(GRPO) 실행하기
- 로컬 환경에서 음성·비전 모델을 학습하고 GGUF로 변환해 저사양 기기에 배포하기
핵심 기능
대안 대비 차별점
vLLM이나 ollama 같은 추론 전용 도구 대비, Unsloth는 학습과 추론을 모두 지원하며 커스텀 커널로 메모리 효율성과 속도를 동시에 극대화한다는 점이 핵심입니다.
먹어본 사람들
실제로 차려 먹어본 손님들의 흔적이에요 — 한마디와 완주 인증 모두 검수 후 공개돼요.
이 레포, 해먹는 법
처음 오셨어요? 어렵지 않아요 — 위에서 아래로 따라 하면 내 컴퓨터에 이 레포를 차려서 바로 맛볼 수 있어요.
준비물
- Python 3.13 (Unsloth Core 사용 시)
- NVIDIA/AMD/Intel GPU 또는 macOS (선택사항, 학습용)
- PyTorch 설치 환경
바로 차려먹기Python (uv)
깃밥이 레포 구조를 확인하고 만든 실행 명령이에요. 터미널에 붙여넣으면 받기부터 실행까지 한 번에 진행돼요.
git clone --depth 1 https://github.com/unslothai/unsloth.git && cd unsloth && uv sync
uv가 없다면: brew install uv · 실행 명령은 README를 확인하세요.
코드는 내 컴퓨터에서 실행돼요 — 처음 보는 레포라면 내용을 한번 훑어보고 실행하는 습관을 추천해요.
README가 안내하는 자세한 단계 보기
- macOS/Linux/WSL에 Unsloth Studio 설치
curl -fsSL https://unsloth.ai/install.sh | sh
- Windows에 Unsloth Studio 설치
irm https://unsloth.ai/install.ps1 | iex
- Unsloth Studio 웹 UI 실행
unsloth studio -p 8888
- 또는 Unsloth Core를 Python 코드 기반으로 사용하려면, Linux/WSL에서:
curl -LsSf https://astral.sh/uv/install.sh | sh
uv venv unsloth_env --python 3.13
source unsloth_env/bin/activate
uv pip install unsloth --torch-backend=auto
- Windows에서 Unsloth Core 설치
winget install -e --id Python.Python.3.13
winget install --id=astral-sh.uv -e
uv venv unsloth_env --python 3.13
.\unsloth_env\Scripts\activate
uv pip install unsloth --torch-backend=auto
- Docker를 사용한 실행
docker run -d -e JUPYTER_PASSWORD="mypassword" \
-p 8888:8888 -p 8000:8000 -p 2222:22 \
-v $(pwd)/work:/workspace/work \
--gpus all \
unsloth/unsloth
깃밥트라이로 맛보기
받아보기 귀찮고 살짝 불안했다면 — 안전 스캔부터 설치까지 터미널 한 줄로 끝나요.
터미널에 붙여넣으면 깃밥 안전 스캔 → 격리 폴더 clone → 설치 → 실행법 안내까지 자동이에요. 처음이어도 괜찮아요 — 이 한 줄이 전부예요.
npx gitbap-try unslothai/unsloth
Node.js만 있으면 설치 없이 실행돼요 · 깃밥트라이가 뭐예요? →
이걸로 써먹는 법
맛봤다면 이제 써먹을 차례 — 이 레포를 내 일과 사업에 응용하는 방법을 모아뒀어요.
🍳 레시피 — AI에게 이대로 시켜보세요
레시피 불러오는 중…
별 추이 · 7일
활용성 · 따라 만들기 좋은가
- 관대한 라이선스
- 테스트 있음
- 예제 디렉토리
- 최근 활동
- AGENTS.md
- llms.txt
- 템플릿
🟢 최근 활동 있음 · 2023년 생성
「디자인·UI 컴포넌트」 이런 레포, 매주 받아보실래요?
매주 월요일 아침, 골라 담은 밥상만. 광고 없이 · 언제든 해지.
내 레포인가요? README에 깃밥 배지 달기
[](https://www.gitbap.com/r/unslothai/unsloth)🔌 클로드에서 바로 써보기 — 깃밥 연결하는 법
깃밥을 클로드에 연결하면 이런 레포를 클로드·커서·Codex에서 바로 찾고 체험할 수 있어요.
클로드 설정 → 커넥터에 이 주소를 붙여넣기.
https://www.gitbap.com/api/mcp플러그인을 설치하면 /gitbap-trending·/gitbap-try 슬래시 커맨드로 레포를 그 자리에서 체험. Claude Code에서 아래 두 줄을 차례로 실행하세요.
/plugin marketplace add jakeparkcolde/gitbap-cowork/plugin install gitbap-cowork@gitbapAI가 README 기반으로 요약했습니다 · 원문 보기