GPUなしで任意のAIモデルをローカル実行できるオープンソースAIエンジン
中辛 の解説
Go言語で開発された統合AIプラットフォーム。llama.cpp、vLLM、whisper.cpp、stable-diffusionなど60以上のバックエンドに対応し、OpenAI・Anthropic・ElevenLabs APIと互換性があります。NVIDIA・AMD・Intel・Apple Silicon・Vulkan・CPU環境に対応し、テキスト生成・画像生成・音声認識・視覚処理・分散推論まで実装可能です。ユーザー認証・クォータ管理・エージェント機能・MCP対応など、エンタープライズ向け機能も備えています。難易度3/5。
こんなリポジトリです
こんなときに便利です
- プライベートデータを使ってローカルで大規模言語モデルを実行し、外部サーバーへの送信を完全に避けたい場合
- 複数のAI機能（テキスト・画像・音声）を1つのAPIで統合し、OpenAI互換のインターフェースで自社アプリケーションに組み込みたい場合
- CPUのみのサーバーや古いGPU搭載マシンで軽量なAIモデルを運用し、GPU購入コストを削減したい場合
主な機能
ほかとの違い
複数のAIタスク（LLM・画像生成・音声認識・視覚処理）をOpenAI互換APIで統一できる点と、分散クラスタ構成・ユーザー認証・VRAM管理が組み込まれているため、個別ツール統合ではなくワンストップソリューションとして機能します。
このリポジトリの作り方
はじめてですか？ むずかしくありません — 上から順にたどれば、自分の環境で動かして味見できます。
準備するもの
- Docker または互換コンテナランタイム
すぐに始める
- macOS用インストーラーをダウンロードするか、Dockerコンテナを起動します
# CPUのみの場合
docker run -ti --name local-ai -p 8080:8080 localai/localai:latest
# NVIDIA GPU（CUDA 13）の場合
docker run -ti --name local-ai -p 8080:8080 --gpus all localai/localai:latest-gpu-nvidia-cuda-13
- ローカルAIをインストール後、ターミナルでモデルを実行します
local-ai run llama-3.2-1b-instruct:q4_k_m
- 別ターミナルから内蔵エージェントを起動してチャットします
local-ai chat --model llama-3.2-1b-instruct:q4_k_m
- またはHugging FaceやOllamaなど複数のソースからモデルを読み込めます
# Hugging Faceから
local-ai run huggingface://TheBloke/phi-2-GGUF/phi-2.Q8_0.gguf
# Ollamaレジストリから
local-ai run ollama://gemma:2b
ギット飯トライで味見
入れるのが面倒で少し不安だったなら — 安全スキャンからインストールまで、ターミナル一行で終わります。
ターミナルに貼り付ければ、ギット飯の安全スキャン → 隔離フォルダへ clone → インストール → 実行方法の案内まで自動です。はじめてでも大丈夫 — この一行だけです。
npx gitbap-try mudler/LocalAI
Node.js さえあれば、インストールなしで動きます · ギット飯トライとは？ →
これを仕事に活かす
味見がすんだら次は応用です — 仕事やビジネスに活かす方法をまとめました。
レシピ — AI にこのまま頼んでみてください
レシピを読み込んでいます…
スター推移 · 7日
確認日時
使いやすさ · まねしやすいか
- ゆるいライセンス
- テストあり
- サンプル集
- 最近の更新
- AGENTS.md
- llms.txt
- テンプレート
最近の更新あり · 2023 年に作成
「AI メディア生成」 こういうリポジトリを毎週受け取りませんか？
毎週月曜の朝、選んだ一膳だけ。広告なし · いつでも解除。
自分のリポジトリですか？ README にギット飯バッジを貼る
[](https://www.gitbap.com/r/mudler/LocalAI)Claude からそのまま使う — ギット飯のつなぎ方
ギット飯を Claude につなぐと、こうしたリポジトリを Claude・Cursor・Codex から直接さがして試せます。
Claude の設定 → コネクタにこのアドレスを貼り付け。
https://www.gitbap.com/api/mcpプラグインを入れると /gitbap-trending·/gitbap-try のスラッシュコマンドで、その場でリポジトリを試せます。Claude Code で下の 2 行を順に実行してください。
/plugin marketplace add jakeparkcolde/gitbap-cowork/plugin install gitbap-cowork@gitbapAI が README をもとに要約しました · 原文を見る