モバイルデバイスとウェアラブルで動作するハイブリッドエッジ・クラウドAIエンジン
中辛 の解説
C++で実装されたモバイル向けAIフレームワーク。スタック：LLaMA・Gemma・Whisper対応、独自CQ量子化（4ビット～1ビット）、ARM NEON SIMDカーネル最適化。iPhone 15 Proで毎秒26トークン、iPad M5で毎秒71トークン。OpenAI互換提供、Swift・Kotlin・Flutter・React Nativeバインディング完備。即座に使用可能：cactus runでモデルを自動ダウンロード実行。デモ実績あり（ベンチマークテーブル掲載）。
이런 레포예요
이럴 때 쓰면 좋아요
- インターネット接続なしでiPhone・Androidで複雑なLLMを実行する
- 画像やテキストの機密データをデバイス内で処理し、プライバシーを確保する
- リアルタイム音声認識や多言語翻訳をオフライン環境で提供する
핵심 기능
대안 대비 차별점
モバイル向け専用設計と信頼度ベースのクラウド自動ハンドオフにより、オフライン動作と必要時のクラウド活用を統合している点。
食べた人たち
実際に使ってみた人の記録です — 一言も完走の記録も、確認のうえで公開しています。
このリポジトリの作り方
はじめてですか？ むずかしくありません — 上から順にたどれば、自分の環境で動かして味見できます。
준비물
- C++コンパイラ（Apple Clang / GCC）
- Python 3.12以上
- CMake 3.0以上
- libcurl（OpenSSL版）
바로 시작하기
- リポジトリをクローンしセットアップを実行する
git clone https://github.com/cactus-compute/cactus && cd cactus
source ./setup
- モデルを実行する（初回時は自動ダウンロード）
cactus run google/gemma-4-E2B-it
- プロンプトを送信する
cactus run google/gemma-4-E2B-it --prompt "What is AI?"
- 画像推論を実行する（オプション）
cactus run google/gemma-4-E2B-it --image /path/to/image.jpg
- 音声ファイルを文字化する
cactus transcribe nvidia/parakeet-tdt-0.6b-v3 --file audio.wav
- OpenAI互換HTTPサーバーを起動する
cactus serve google/gemma-4-E2B-it --port 8080
ギット飯トライで味見
入れるのが面倒で少し不安だったなら — 安全スキャンからインストールまで、ターミナル一行で終わります。
ターミナルに貼り付ければ、ギット飯の安全スキャン → 隔離フォルダへ clone → インストール → 実行方法の案内まで自動です。はじめてでも大丈夫 — この一行だけです。
npx gitbap-try cactus-compute/cactus
Node.js さえあれば、インストールなしで動きます · ギット飯トライとは？ →
スター推移 · 7日
使いやすさ · まねしやすいか
- ゆるいライセンス
- テストあり
- サンプル集
- 最近の更新
- AGENTS.md
- llms.txt
- テンプレート
最近の更新あり · 2025 年に作成
「모바일」 こういうリポジトリを毎週受け取りませんか？
毎週月曜の朝、選んだ一膳だけ。広告なし · いつでも解除。
自分のリポジトリですか？ README にギット飯バッジを貼る
[](https://www.gitbap.com/r/cactus-compute/cactus)Claude からそのまま使う — ギット飯のつなぎ方
ギット飯を Claude につなぐと、こうしたリポジトリを Claude・Cursor・Codex から直接さがして試せます。
Claude の設定 → コネクタにこのアドレスを貼り付け。
https://www.gitbap.com/api/mcpプラグインを入れると /gitbap-trending·/gitbap-try のスラッシュコマンドで、その場でリポジトリを試せます。Claude Code で下の 2 行を順に実行してください。
/plugin marketplace add jakeparkcolde/gitbap-cowork/plugin install gitbap-cowork@gitbapAI が README をもとに要約しました · 原文を見る