このリポジトリはunslothaiが公開する、ローカルでLLMを実行・学習するためのツール群です。デスクトップアプリ、Studioと呼ばれるWeb UI、コードから使うUnsloth Coreという3つの利用形態を1つのリポジトリに収めています。READMEにはQwen3.8やDeepSeek-V4、Gemma4などのモデル名が並びますが、実在や公開状況はこの資料だけでは確認できません。
中核はpyproject.tomlで定義されたPythonパッケージunslothで、コンソールスクリプト`unsloth`はcli.py経由でunsloth_cli.appを起動します。基本インストールはtyper・pydantic・huggingface-hubなど軽量な依存だけで、FastAPIバックエンドやフロントエンドを含む「studio」エクストラは別途有効化する構成です。install.shとinstall.ps1がOSとGPU種別を検出し、unsloth/device_type.pyや_gpu_init.pyがCUDA・ROCm・Vulkanなどの分岐を担います。`unsloth start claude`のようなコマンドはunsloth_cli/commands/start.pyを通じ、ローカルモデルをClaude CodeやCodexなどのエージェントに接続します。デスクトップアプリはTauriでフロントエンドとStudioバックエンドを1つの実行体にまとめ、studio-tauri-smoke.ymlなど多数のCIワークフローでWindows・macOS・Linuxの起動を検証しています。CIのコメントを見ると、pipキャッシュやフロントエンドdistキャッシュの整合性チェックなど、運用面の作り込みが具体的に確認できます。
- STEP 01
macOSやLinuxならcurl経由でinstall.shを実行し、まずOSとGPUの検出ログが表示されます。
- STEP 02
Windowsではinstall.ps1をirmで実行し、CUDA対応GPUの有無に応じて依存パッケージの解決内容が変わります。
- STEP 03
初回起動時はstudio/frontendのビルド済みdistが無ければフロントエンドのビルドが走り、数十秒から数分待つ場面に出会います。
- STEP 04
`unsloth start claude`のようなコマンドを打つと、ローカルモデルとClaude Codeなどのエージェントを繋ぐ設定が自動生成されます。
- STEP 05
StudioのバックエンドはFastAPIとuvicornで動き、ブラウザで/docsを開くとローカルに同梱されたSwagger UIが表示されます。
- STEP 06
GGUFやMLX形式のモデルを選んで読み込むと、ダウンロード進捗とロード状況がCLIまたはUI上に流れます。
手元に残るのは、ローカルLLMを起動・チャット・ファインチューニングできるCLIとStudio UI、そしてOpenAI互換APIエンドポイントです。加えてLoRAやQLoRAで作った成果物をGGUFなどの形式に書き出す手段も得られます。ただし実際の学習速度や精度向上の数値はこの資料からは検証できません。
README記載のQwen3.8やGLM-5.3-Flash、DeepSeek-V4などのモデル名は、この時点で実在するモデルかどうかをファイルツリーやコードだけからは確認できません。
GPU種別ごとの分岐（device_type.py、_gpu_init.py）が本体を占めており、CUDA・ROCm・Vulkanのどれで動くかによって体験が大きく変わる可能性があります。
Studioエクストラを有効にするとFastAPI・Node系フロントエンド・Tauriまで含む大きな依存構成になり、コアのCLIだけを使う場合と体感が異なります。
多数のCIワークフローが存在すること自体は運用の丁寧さを示しますが、それが個々のOSやGPU組み合わせでの動作保証を意味するとは限りません。
ローカル環境でLLMのファインチューニングと推論を1つのCLIないしGUIで済ませたい開発者、特にすでにunslothの学習ワークフローを使っている人に向いています。install.sh・pyproject.toml・CI用actionのコメントから、プラットフォーム分岐やキャッシュ整合性まで具体的に作り込まれていることは資料から読み取れます。一方でモデル名の実在性や実際の速度・精度の数値は本資料だけでは判断できないため、その部分は導入前に公式ドキュメント側で確認することをお勧めします。