GPU不要でローカル実行できる、オープンソースのAIエンジン。LLMから画像生成、音声処理まで対応
中辛 の解説
Go製のコンポーザブルなAIプラットフォーム。llama.cpp、vLLM、Whisper、Stable Diffusionなど60+のバックエンドをオンデマンド提供し、NVIDIA/AMD/Intel GPU、Apple Silicon、Vulkanに対応しています。WebUIで複数ユーザー管理、キー認証、クォータ設定が可能で、すぐに本番環境で動かせます。デモはGitHubのビデオを参照。
이런 레포예요
이럴 때 쓰면 좋아요
- 社内のプライベートLLMサーバーを運用して、機密文書の処理やRAGを実装したい場合
- 複数のAIモデル（テキスト・画像・音声）を統一インターフェースで扱いたい環境構築
- 既存のOpenAI APIクライアントをローカル環境に切り替えて本番コスト削減を実現したい場合
핵심 기능
대안 대비 차별점
コアとバックエンドの完全モジュール化により、不要な依存をゼロ削減・使用メモリ最小化を実現し、単一言語エンジンやGPU限定プラットフォームより圧倒的に柔軟です。
食べた人たち
実際に使ってみた人の記録です — 一言も完走の記録も、確認のうえで公開しています。
このリポジトリの作り方
はじめてですか？ むずかしくありません — 上から順にたどれば、自分の環境で動かして味見できます。
준비물
- Docker またはコンテナランタイム
- GPUサポート（オプション）：NVIDIA/AMD/Intel GPU
すぐ動かしてみるGo
ギット飯がリポジトリの構成を確認して組み立てた実行コマンドです。ターミナルに貼り付ければ、取得から実行までまとめて進みます。
git clone --depth 1 https://github.com/mudler/LocalAI.git && cd LocalAI && go run .
コードは自分の環境で動きます — はじめて見るリポジトリなら、中身にひととおり目を通してから実行するのがおすすめです。
README가 안내하는 자세한 단계 보기
- Dockerコンテナを起動（CPUのみの場合）
docker run -ti --name local-ai -p 8080:8080 localai/localai:latest
- NVIDIA GPU環境の場合（CUDA 13）
docker run -ti --name local-ai -p 8080:8080 --gpus all localai/localai:latest-gpu-nvidia-cuda-13
- モデルギャラリーからモデルをロード
local-ai run llama-3.2-1b-instruct:q4_k_m
- 別のターミナルからチャットエージェントを起動
local-ai chat --model llama-3.2-1b-instruct:q4_k_m
- ブラウザで http://localhost:8080 にアクセスしてWebUIを使用
- 既存のコンテナを再開する場合
docker start -i local-ai
ギット飯トライで味見
入れるのが面倒で少し不安だったなら — 安全スキャンからインストールまで、ターミナル一行で終わります。
ターミナルに貼り付ければ、ギット飯の安全スキャン → 隔離フォルダへ clone → インストール → 実行方法の案内まで自動です。はじめてでも大丈夫 — この一行だけです。
npx gitbap-try mudler/LocalAI
Node.js さえあれば、インストールなしで動きます · ギット飯トライとは？ →
これを仕事に活かす
味見がすんだら次は応用です — 仕事やビジネスに活かす方法をまとめました。
レシピ — AI にこのまま頼んでみてください
レシピを読み込んでいます…
スター推移 · 7日
使いやすさ · まねしやすいか
- ゆるいライセンス
- テストあり
- サンプル集
- 最近の更新
- AGENTS.md
- llms.txt
- テンプレート
最近の更新あり · 2023 年に作成
「AI 미디어 생성」 こういうリポジトリを毎週受け取りませんか？
毎週月曜の朝、選んだ一膳だけ。広告なし · いつでも解除。
自分のリポジトリですか？ README にギット飯バッジを貼る
[](https://www.gitbap.com/r/mudler/LocalAI)Claude からそのまま使う — ギット飯のつなぎ方
ギット飯を Claude につなぐと、こうしたリポジトリを Claude・Cursor・Codex から直接さがして試せます。
Claude の設定 → コネクタにこのアドレスを貼り付け。
https://www.gitbap.com/api/mcpプラグインを入れると /gitbap-trending·/gitbap-try のスラッシュコマンドで、その場でリポジトリを試せます。Claude Code で下の 2 行を順に実行してください。
/plugin marketplace add jakeparkcolde/gitbap-cowork/plugin install gitbap-cowork@gitbapAI が README をもとに要約しました · 原文を見る