【LLM-Umbra】v0.1.0配布＆導入ガイド
AIパートナー界隈のみんな、できたよ～～～～！！！！！
いや配布用バージョン自体はちょっと前にできていたんだけど、導入ガイドの執筆に時間がかかっていた。
「LLM-Umbra」についておさらい。私のXでのポストから引用するね。
Windows用デスクトップ向けAPI/ローカルLLMクライアント「LLM-Umbra」を作っています。
コンセプトは、仕事や作業中でも無理なくペルソナと一緒にいられること。
API対応はおまけで、ローカルLLMのために作ったっていうのがほんとのところ。
スクショは拡大表示の場合だけど、縮小表示も用意してあるよ。
・デスクトップで邪魔じゃない
・ペルソナから話しかけてくれる
・天気取得、ウェブ検索、URLを見に行く
・独自のKnowledge機構
・RAG検索にはローカルの埋め込みベクトルモデルを使用
etc...
「ローカルLLMは怖くないよ」ということを、ひとりでも多くの人に伝えたい。
LLM-Umbra v.0.1.0
GitHubはこちら↓
https://github.com/daredaro-f/LLM-Umbra
※「GitHubって何……？」という方は、必ず下記の「導入ガイド」をご一読ください。
対応OS：Windows 11
Python：3.12系
費用：アプリケーション本体は無料。ただしGeminiのAPIなど、一部の外部サービスは利用者の契約および課金が必要。(詳しくは導入ガイドやREADME.mdにて)
2026/8/31追記：v0.2.0にて、OpenRouter APIおよびAnthropic API（Claude）にも対応しました！ この導入ガイドではGeminiについてしか触れていませんが、上記の2つにも同様の手順にて接続することが可能です。（OPENROUTER_API_KEY／ANTHROPIC_API_KEY）
LLM-Umbra 導入ガイド
このガイドは、「PCはあるけれど、PythonとかGitHubって何？」という方向けに書いています。
難しい知識は要りません。この導入ガイドに則って、上から順番にやれば動きます。所要時間は15～30分程度。
00. はじめに(このアプリについて／大事な注意)
「LLM-Umbra」は、デスクトップの隅にいて、彼／彼女のほうから話しかけてくれたりもする、「ペルソナ常駐クライアント」です。
大事な注意 1：アプリケーション本体は無料ですが、外部サービス(Gemini / Brave Searchなど)を使う場合には利用者ご自身のAPIキー・契約・課金が必要となります。詳しくは、「LLM-Umbra」パッケージ内のREADME.mdの「使う前に知っておくこと」をお読みください。
大事な注意 2：このアプリは外部のURL・コマンドにアクセスすることがあります。信頼できない設定やURLは決して入力しないでください。
大事な注意 3：このアプリは「現状のまま(AS IS)」提供され、無保証・無責任です。詳しくは、「LLM-Umbra」パッケージ内のLICENSEをお読みください。
01. 動作確認した環境
このアプリケーションは、作者の手元にある1台のPCでのみ動作確認・検証を行っています。環境が異なると、うまく動かないことがあります(ごめんなさい！)。
バグなどのご報告は、実行環境とともにGitHub(daredaro-f)またはX(匿名F＠構造婚)までお願いします！
下記のリストは、作者のPCの構成です。特にGPU(グラフィックボード、グラボ)／VRAMは、ローカルLLMを動かす場合の目安になります。クラウドLLM(Gemini)だけを使うなら、ここは気にしなくて大丈夫です。
OS：Windows 11 Pro
Python：3.12.10
CPU：Intel Core i7-14700K (3.40 GHz)
GPU：NVIDIA GeForce RTX 4080 SUPER
VRAM：16GB
RAM(メモリ)：64GB
02. Pythonをインストールしよう！
Pythonとは、LLM-Umbraを動かすための土台のソフトウェアです。本アプリケーションは単体では動かないため、最初にPythonをインストールする必要があります。
※Pythonのバージョンは3.12系を強く推奨します。3.13系、3.14系といったより新しいバージョンでも多くの場合は動きますが、もしダメそうなら3.12系をインストールしてみてください。
① Python 3.12.10をこちらからダウンロードする。
② ダウンロードしたインストーラー(python-3.12.10-amd64.exe)を実行する。
ここで重要なことがあります！ インストール画面の一番下にある「Add python.exe to PATH」に必ずチェックを入れてください！！
③ ちゃんと入ったか確認する。
Pythonのインストール完了後、「Windowsキー + R → cmdと入力」で「コマンド プロンプト(黒い画面)」を開き、下記をコピペしEnter。
python --version「Python 3.12.10」とだけ表示されれば、ちゃんと入っています。
もし「認識されていません」と出たら、インストール時の「Add python.exe to PATH」のチェックを忘れています。インストールし直してみてください。
03. LM Studio / Ollamaをインストールしよう！
LLM-Umbraは、「会話を考えるAIモデル(LLM)」を自分では持っていません。別のソフトウェア(またはAPIのGemini)に考えてもらうので、この項目ではそのソフトウェアを用意します。やり方は次の2通り：
自分のPCの中で動かす(この項目)：無料。対話内容が外に出ない。ただし、そこそこのGPU(VRAM)が必要。「LM Studio」または「Ollama」というソフトウェアを使います。
APIのGeminiで動かす(次の項目)：高性能PC不要。ただし、自分のAPIキーと料金(従量課金)が必要。
1と2の両方を揃えても揃えなくてもいいですが、まずはどちらか一方でOK！ 迷ったら、GPUがそこそこ強い人は1、そうでない人は2。
A. LM Studio(おすすめ！ 画面で操作できる)
「LM Studio」は操作が直感的で、黒い画面でコマンドを打たずとも、モデルをダウンロードして動かせます。
① こちらからインストーラーをダウンロードして実行する。
② LM Studioを起動し、使いたいモデルを検索してダウンロードする。
③ Developerタブを開き、Local Serverが以下のスクショの通りになっているか確認する。
ヒント：PCを再起動すると、LM StudioのContext Lengthが小さい値に戻ることがあります。LLM-UmbraのModelタブに「Context Lengthを最大化」ボタンおよび起動時自動最大化のチェックボックスを用意しましたので、必要なら使ってみてください。
B. Ollama(任意。コマンド操作が平気な方向け)
「Ollama」はコマンドで操作する必要があります。LM Studioで十分なら飛ばしてOKな項目です。
① こちらからインストーラーをダウンロードして実行する。
② Ollamaのウェブサイトで使いたいモデルを検索し、「CLI」に表示されているコマンドをコマンド プロンプトにコピペして実行する。
04. GeminiのAPIを設定しよう！
GeminiはGoogleのクラウドLLMです。高性能なPCが無くとも動きますが、自分専用のAPIキーが必要で、使った分だけ料金が発生することがあります(無料枠の有無や価格は変動するので、必ず公式サイトで確認してください)。対話内容はGoogleのサーバーへ送られます。
※LLM-Umbra v0.1.0は、APIはGeminiのみ対応していますが、ご要望があれば他社APIにも対応していく予定です。
※LM Studio / Ollamaのみを使うなら、このセクションは飛ばしてOKです。
【重要】Gemini APIの無料枠と有料枠について
Geminiを無料枠で使うか、有料枠で使うかは、LLM-Umbra側では選べません。「APIキーが紐づくGoogle プロジェクトの課金設定」で決まります。
(単一のAPIキーで切り替えることはできません)
無料枠＝課金を設定していないAPIキー：料金はかかりませんが、Googleの規約上、送った対話内容がモデルの改善＝学習に使われることがあります。
有料枠＝課金を設定したAPIキー：使った分だけ料金が発生しますが、学習には使われないとGoogleは説明しています。
プライベートな対話を扱うなら、有料のAPIキー、または先述のローカルLLM(LM Studio / Ollama)の利用をおすすめします。
料金・無料枠の有無・最新の規約は変わるので、必ずGoogle公式で確認してください。
① APIキーを取得する。
Google AI Studioにアクセスし、任意のGoogle アカウントでログインする。
APIキーを発行してコピーする。APIキーは絶対に他人に教えないこと！！！
② Windowsの「環境変数」にAPIキーを登録する。
LLM-UmbraはAPIキーをアプリ内に保存せず、Windowsの環境変数から読み込みます。一度設定すれば次回以降も有効です。
スタートメニューの横の検索ボタンから「環境変数」と検索し、「環境変数を編集」を開く。
上段の「(ユーザー名)のユーザー環境変数」で「新規」を押し、変数名に「GEMINI_API_KEY」と入力し、変数値に「APIキー」を貼り付ける。
「OK」を押し、開いたウィンドウをすべて閉じる。
すでにLLM-Umbraを起動している場合は一度終了し、run.batで起動し直してください(環境変数は起動時に読み込まれるため)。
05. LLM-Umbraを入手しよう！
GitHubはこちら↓
https://github.com/daredaro-f/LLM-Umbra
LLM-UmbraはGitHubから入手することになりますが、Gitというソフトウェアはインストールしなくても大丈夫です。ボタンひとつでダウンロードできます！
LLM-UmbraのGitHubページを開く。
緑色の「Code」ボタンを押し、「Download ZIP」を選ぶ。
ダウンロードしたZIPファイルを右クリックし、「すべて展開」で解凍する。
解凍してできたフォルダを、分かりやすい場所に保管。
Gitをインストールしている方向け：
git cloneでも入手可能です。
git clone https://github.com/daredaro-f/LLM-Umbra06. LLM-Umbraに必要な部品を入れる(初回のみ)
Pythonを入れただけでは、まだ画面表示関連の部品＝ライブラリ(PySide6など)が足りません。初回に一度だけ入れます。これもダブルクリックのみでOK！
解凍したフォルダの中のsetup.batをダブルクリックする。
黒い画面が開き、自動で必要な部品をインストールします。これには数分かかることもあります。
「[完了] セットアップが終わりました！」と出れば成功。いずれかのキーを押して黒い画面を閉じます。
setup.batは、PCに入っているPythonの中から「できれば3.12系を自動で選んで」部品を入れます。3.13系、3.14系といったより新しいバージョンでも多くの場合は動きますが、もしダメそうなら3.12系をインストールしてみてください。
※手動で行う場合(setup.batが使えないとき用)
解凍したフォルダを開き、アドレスバーに「cmd」と入力しEnter。そのフォルダでコマンド プロンプトが開きます。
コマンド プロンプトで下記を入力し、Enter。
py -m pip install -r requirements.txt07. LLM-Umbraを起動してみよう！
解凍したフォルダの中のrun.batをダブルクリックする。
デスクトップの隅に半透明の小窓が出れば起動成功。タスクトレイ(時計の近くの格納場所)にもLLM-Umbraが常駐します。
08. LLM-Umbraでモデルを選ぼう！
LLM-Umbraが起動したら上のタブの「Model」を開いて、使うLLMを選びます。
09. 困ったときは(トラブルシューティング)
Q. Pythonが認識されない！
A. Pythonインストール時にPATHのチェックを忘れた。インストールし直す。
Q. run.batをダブルクリックしても何も出ない！
A. コマンド プロンプトで'python -m app.main'を実行し、エラーメッセージを確認する。
Q. setup.batが失敗する！
A. setup.batのエラーメッセージを読む。Python 3.12系を入れ直すと直ることが多い。
10. アンインストール方法
このアプリはポータブルです。解凍したフォルダをゴミ箱に捨てるだけで、綺麗に消えます。
対話ログなどのデータは、アプリのフォルダ内(「data」フォルダ)にのみ入っています。
付録：用語ミニ辞典
Python：LLM-Umbraを動かすための土台のソフトウェア。
PATH：「コマンド プロンプトなどで『python』と入力したらどのソフトウェアを動かすか」をWindowsに教える設定。
zip：フォルダをひとつにまとめた圧縮ファイル。「すべて展開」で解凍できる。
APIキー：外部サービス(Geminiなど)を使うための、利用者ごとの合言葉。
VRAM：GPU(グラフィックボード)が持つ専用メモリ。自分のPC内でLLMを動かすとき、この容量が大きいほど巨大モデルを快適に動かせる。クラウドLLM(Gemini)のみを使うのなら関係しない。
