「LocalLLMClient」を入れたら、iPhoneの中でLLMが画像を読んだ
- 公開
- 正式公開 2025-04-29
- 作り手
- tattn（個人）
- 対応
- iOS・Mac・Linux
- 言語
- Swift
- 価格
- 無料（MIT ライセンス）
- 評価
- GitHub のスター 219（2026-10-16）
どんなアプリか
LocalLLMClient は、端末の中で動く大規模言語モデル（ローカル LLM）を Swift から扱うためのパッケージです。対応先は iOS・macOS・Linux です。
推論の土台には llama.cpp・Apple の MLX・FoundationModels フレームワークを使い、GGUF 形式と MLX 形式のモデルを読み込めます。README のコード例では、どの土台でも LLMSession にモデルを渡して respond で返事を受け取る形になっています。
返事を少しずつ受け取るストリーミングの API のほか、画像を読ませるマルチモーダルと、外部の仕組みを呼び出すツール呼び出しにも対応しています。この2つは実験的な機能と書かれています。
Hugging Face からモデルを取得する仕組みと、ターミナルから動かせるコマンドラインツールも入っています。
README の動作確認済みのモデルの一覧には、LLaMA 3、Gemma 4 / 3、Qwen 3 / 2 などが挙がっています。
料金とデータの置き場所
GitHub で MIT ライセンスのもとで公開されています。作り手は GitHub Sponsors で支援を受け付けています。
同じ分野のアプリ
| 名前 | 型 | 仕掛け | 対応 | 料金 |
|---|---|---|---|---|
| LocalLLMClient | Swift パッケージ | llama.cpp・MLX・FoundationModels でローカル LLM を動かす | iOS・macOS・Linux | 無料（MIT） |
| EdgeLLM | Swift パッケージ | Qwen・Gemma・Phi-3 などを1行のコードで iPhone 上でオフライン実行 | iOS | 無料（Apache-2.0） |
| React Native Apple Image Playground | React Native・Expo パッケージ | Apple Intelligence の Image Playground をアプリから呼べる | iOS 18.2+ | 無料（MIT） |
入れる前に
This project is still experimental. The API is subject to change.
tattn さん、LocalLLMClient の GitHub の README
README では、まだ実験段階で API が変わることがあると断っています。動かすには iOS 17.0 以降または macOS 14.0 以降と、Xcode 16.0 以降が必要です。
FoundationModels を使う場合は iOS 26.0 以降または macOS 26.0 以降と Apple Intelligence が必要です。ツール呼び出しは対応しているモデルでしか使えず、どのモデルが使えるかは土台ごとに異なります。
大きなモデルを安定して動かしたいときは、アプリに com.apple.developer.kernel.increased-memory-limit の entitlement を加えるよう README で勧めています。