hiyouga/LlamaFactory

100+ 대형언어모델을 노코드 CLI와 웹UI로 간편하게 파인튜닝하는 통합 플랫폼

설치형 도구맘대로 써도 됨 · Apache-2.0LLM 도구·RAG난이도
72,186+2이번 주8,833968Python
데모·홈페이지 열기llamafactory.readthedocs.io
중간맛 분석

Python 기반, Transformers·PEFT·PyTorch를 스택으로 하는 프로덕션급 도구입니다. CLI(llamafactory train) 또는 Gradio 웹UI(LLaMA Board)로 즉시 사용 가능하며, Colab 무료 환경에서도 Llama-3 파인튜닝 데모가 작동합니다. QLoRA, LoRA, 16비트 풀튜닝 등 다양한 경량 학습 기법을 지원하고, Qwen3·DeepSeek·GLM·Gemma 등 100+ 최신 모델을 하루 내 지원합니다.

이런 레포예요

이럴 때 쓰면 좋아요

  • 기업 문서로 법률/기술 상담 챗봇 구축
  • 판매팀 고객응답 자동화 모델 커스터마이징
  • 한국어 도메인 지식(의료/금융) 학습 모델 만들기

핵심 기능

100+ 모델 원클릭 지원QLoRA·LoRA·풀튜닝 경량 학습 기법웹UI + CLI 이중 인터페이스보상 모델·강화학습(PPO/DPO) 통합 파이프라인5-6비트 양자화로 2×4090에서 1000B 모델 학습 가능

대안 대비 차별점

Megatron-core 및 AWS/Aliyun 클라우드 환경 통합으로 엔터프라이즈급 분산 학습을 지원하며, 단순 파인튜닝을 넘어 강화학습과 멀티모달(음성·이미지) 작업까지 원스톱으로 처리 가능합니다.

준비물
  • Python 3.8+
  • CUDA 가능 GPU (또는 CPU 학습)
  • 4GB 이상 GPU 메모리 (QLoRA 기준)
바로 시작하기
  1. 저장소 클론하기
git clone https://github.com/hiyouga/LLaMA-Factory.git
cd LLaMA-Factory
  1. 의존성 설치하기
pip install -e .
  1. 훈련 데이터 준비하기 (JSON 형식, 예제는 data/ 디렉토리 참조)
# 기본 제공 데이터셋 사용 또는 커스텀 JSON 파일 생성
  1. 훈련 설정 파일 작성하기 (examples/ 폴더의 설정 예제 참조)
# 또는 웹 UI에서 그래픽으로 설정
  1. 웹 UI로 시작하기
called-llama-board
  1. 또는 CLI에서 훈련 시작하기
called-train examples/your_config.yaml
별 추이 · 7일
72,186+2 / 7일
활용성 · 따라 만들기 좋은가
베스트 샘플샘플 점수 68/100
  • 관대한 라이선스
  • 테스트 있음
  • 예제 디렉토리
  • 최근 활동
  • AGENTS.md
  • llms.txt
  • 템플릿

🟢 최근 활동 있음 · 2023년 생성

AI가 README 기반으로 요약했습니다 · 원문 보기