「社内データをクラウドの AI に入れたくない。だから社内 PC でローカル LLM を動かしたい」。この相談が、2026年に入って一段と増えました。Ollama のような実行環境は無料で入手でき、数 GB のモデルを落とせばノート PC でも会話できます。けれども「入れた瞬間にデータが外に出なくなる」わけではなく、設定次第でクラウドのモデルを呼び、モデルの取得や更新で外部と通信します。
この記事は、ローカル LLM を社内で使うかどうかを判断する経営者と情報システム・業務改善の担当者に向けて書いています。出典は Ollama と Microsoft Foundry Local の公式ドキュメント、個人情報保護委員会の注意喚起、総務省・経済産業省の AI事業者ガイドライン第1.2版に限り、特定のベンダーに寄せません。攻撃の手口は書かず、防ぐ側で何を確かめ、何を決めるかに絞ります。
結論 — 先に要点だけ
- 「ローカル」は設定で決まる。 Ollama はローカル実行ではプロンプトを同社に送らないと公式に明記しているが、同じ道具からクラウドモデルも呼べる。クラウド機能を止める設定を社内標準にする
- データ区分ごとに処理場所を分ける。 個人情報保護委員会は、本人の同意なく個人データをプロンプトに入れ、応答以外の目的で扱われる場合の法違反の可能性を指摘している。ローカル処理はその懸念を小さくするが、利用目的と権限管理は残る
- 費用の中心は GPU メモリと運用の手間。 従量課金はないが、モデルの大きさと VRAM で使えるものが決まり、更新・ログ・アクセス制御は自社の仕事になる
- ライセンスはモデルごとに違う。 Apache 2.0 のモデルもあれば、独自の利用規約と利用制限方針が付くモデルもある。AI事業者ガイドラインは「商用利用可能なライセンスかどうか」の確認を求めている
- ローカル API には認証がない。 既定では自分の PC からしか届かないが、社内公開の設定にした瞬間に誰でも使える状態になる。公開の線引きと更新の責任者を先に決める
ローカルファーストという考え方 — 2019年の定義を選定基準に読み替える
ローカルファーストという言葉は、2019年4月に Ink & Switch の研究者らが発表した論考に由来します。論考は、データの保存先として遠隔のデータセンターより手元の端末やローカルネットワークを優先するソフトウェアを「ローカルファースト・ソフトウェア」と呼び、7つの理想を挙げました。
※ 出典: Ink & Switch — Local-first software: You own your data, in spite of the cloud(取得 2026-11)
7つの理想のうち、業務システムの選定にそのまま使えるのは次の3つです。
| 論考の理想 | 業務システム選定での確認項目 |
|---|---|
| The network is optional(ネットワークは任意) | 回線が切れても、手元のデータで仕事が続けられるか |
| Security and privacy by default(既定で安全とプライバシー) | 既定の設定のままで、データが外部に送られないか。送る機能は明示的に有効化する設計か |
| You retain ultimate ownership and control(最終的な所有と管理は利用者に残る) | サービス提供元が事業をやめても、データとモデルが手元に残るか |
ローカル LLM はこの考え方を AI に当てはめたものです。ただし論考が言う「既定で安全」は、道具の設定が既定のままで安全であることを求めています。次の章で、実際の道具がどこまでそうなっているかを公式ドキュメントで確かめます。
「ローカル LLM」で本当にクラウドに出ないもの、出るもの
結論から言うと、プロンプトと応答はローカルに留まりますが、それ以外の通信はあります。Ollama の公式 FAQ は「Ollama はローカルで動く。ローカルで動かしているとき、私たちはあなたのプロンプトやデータを見ない」と明記しています。同時に、クラウド上のモデルを使う場合は「サービス提供のためにプロンプトと応答を処理する」としています。
※ 出典: Ollama Docs — FAQ(Does Ollama send my prompts and answers back to ollama.com?)(取得 2026-11)
| 要素 | ローカル実行で外に出るか | 根拠と注意点 |
|---|---|---|
| プロンプトと応答 | 出ない | FAQ が明記。ただしクラウドモデルを選んだ場合は処理のために送られる |
| モデルファイルの取得 | 出る(取得時のみ) | 「Ollama はモデルをインターネットから取得する」とあり、HTTPS のみを使う。プロキシ経由は HTTPS_PROXY で設定 |
| クラウドモデルの混在 | 選べば出る | アプリや CLI では gemma4:cloud のように :cloud タグで指定し、サインインが必要。ダウンロード不要で動く |
| アプリの自動更新 | 出る | macOS と Windows では更新を自動でダウンロードする。Linux はインストールスクリプトの再実行 |
| 利用メタデータ | 出る(内容は含まない) | プライバシーポリシーは、アプリのバージョンやリクエスト数などの限定的なメタデータを集め、プロンプトや応答の内容は含まないとする |
| 処理地 | クラウド利用時は米国の可能性 | プライバシーポリシーに「データは米国に移転され処理されることがある」と明記 |
※ 出典: Ollama Docs — Cloud/Ollama — Privacy Policy(Last updated: March 2026)(取得 2026-11)
この表で重要なのは、同じアプリ・同じコマンドでローカルモデルとクラウドモデルの両方が使えることです。社員が :cloud 付きのモデル名を選べば、プロンプトは外部で処理されます。会社としてローカルだけに限定するなら、設定で明示的に止めます。FAQ によれば、~/.ollama/server.json に disable_ollama_cloud を true で書くか、環境変数 OLLAMA_NO_CLOUD=1 を設定して再起動すると、ログに Ollama cloud disabled: true と出ます。クラウドモデルと Web 検索は使えなくなります。
Microsoft の Foundry Local も同じ構図です。公式ドキュメントは「アプリケーションが完全にデバイス上で動く、エンドツーエンドのローカル AI ソリューション」であり「データはデバイスから出ない」「トークン単位の費用も、維持すべきバックエンドもない」と説明します。モデルは初回利用時に自動でダウンロードされ、ローカルにキャッシュされます。つまり、どの道具でも「推論は手元、モデルの取得は外部」という形は共通です。
※ 出典: Microsoft Learn — What is Foundry Local?(取得 2026-11)
判断1 — どのデータを、どこで処理するか
ローカル LLM を入れる理由の多くは、個人情報と社外秘をクラウドに出したくないことです。この判断の軸になる公的資料は2つあります。
個人情報保護委員会は2023年6月2日、生成 AI サービスの利用に関する注意喚起を公表しました。個人情報取扱事業者に対する注意点は2つです。第一に、個人情報を含むプロンプトを入力する場合は、特定された利用目的を達成するために必要な範囲内であることを十分に確認すること。第二に、あらかじめ本人の同意を得ずに個人データを含むプロンプトを入力し、その個人データが応答結果の出力以外の目的で取り扱われる場合、法に違反する可能性があるため、提供事業者が機械学習に利用しないこと等を十分に確認すること。
※ 出典: 個人情報保護委員会 — 生成 AI サービスの利用に関する注意喚起等について(令和5年6月2日)PDF(取得 2026-11)
総務省・経済産業省の AI事業者ガイドライン第1.2版(令和8年3月31日)は、AI 利用者の取り組みとして「AI システム・サービスへ個人情報を不適切に入力することがないよう注意を払う」「機密情報等を不適切に入力することがないよう注意を払う」を挙げています。
※ 出典: 総務省 — AI事業者ガイドライン(第1.2版)本編 PDF/AI事業者ガイドライン 掲載ページ(取得 2026-11)
この2つを「処理場所」の判断表に落とすと、次のようになります。自社の情報区分に合わせて行を増やしてください。
| データ区分 | クラウド AI | ローカル LLM | 共通して残る確認 |
|---|---|---|---|
| 公開情報(Web 掲載済み・公開資料) | 可 | 可 | 出力の事実確認 |
| 社外秘(見積・設計・未公開の計画) | 提供事業者が学習に使わない・保持しないことを規約で確認できる場合のみ | 可(クラウド機能を止めた構成) | アクセス権と保存先の管理 |
| 個人データ(顧客名簿・履歴書・問い合わせ内容) | 本人同意または利用目的の範囲内であること+学習不使用の確認 | 可(外部に送らない構成)。利用目的の範囲内であることの確認は同じ | 誰がどの名簿を処理したかの記録 |
| 要配慮個人情報(健康・信条など) | 原則入れない | 処理する業務自体を限定し、責任者を決める | 法務・顧問への確認 |
ローカル処理は「提供事業者が内容を受け取る」という論点を消しますが、「利用目的の範囲内か」「誰がアクセスできるか」「記録が残るか」は消えません。ローカル LLM が入った PC にアクセスできる人は、その PC に置かれた名簿にもアクセスできます。処理場所の判断と、端末のアクセス管理は別の問題として扱ってください。
判断2 — 性能・費用・管理の現実
ハードウェアはモデルの大きさで決まる
ローカル LLM の性能は、ほぼ GPU メモリ(VRAM)または Mac の統合メモリで決まります。Ollama のクイックスタートは、約 7.2 GB のモデルを例に「8 GB の空き VRAM、または Mac の統合メモリを推奨」し、VRAM が足りない場合はシステム RAM を使えるが応答が遅くなる、としています。
※ 出典: Ollama Docs — Quickstart(取得 2026-11)
対応 GPU は公式の「Hardware support」に一覧があります。NVIDIA は compute capability 5.0 以上でドライバー 550 以降、AMD は Linux で ROCm v7 ドライバー、Apple は Metal 経由、そのほか Windows と Linux では Vulkan でも動きます。Windows 版は Windows 10 22H2 以降が対象で、本体のインストールに 4GB、モデルは数十〜数百 GB になり得る、と書かれています。
※ 出典: Ollama Docs — Hardware support/Ollama Docs — Windows(取得 2026-11)
モデルの大きさの目安は、公式ライブラリに表示されるファイルサイズで確認できます(2026年11月時点の表示)。
| モデル(公式ライブラリの表記) | 公開されている主なサイズ | ライセンスの表記 |
|---|---|---|
| gpt-oss | 14GB/65GB | Apache 2.0 |
| gemma3 | 292MB〜17GB | Gemma Terms of Use |
| llama3.3 | 43GB | Llama 3.3 Community License(Acceptable Use Policy 付き) |
| qwen3 | 523MB〜142GB | ライブラリの各タグとモデルカードで確認 |
※ 出典: Ollama Library — gpt-oss/gemma3/llama3.3/qwen3(取得 2026-11)
コンテキスト長(一度に読める文章量)も VRAM で既定値が変わります。公式ドキュメントは、VRAM 24 GiB 未満で 4k、24〜48 GiB で 32k、48 GiB 以上で 256k を既定とし、長くするほど必要なメモリが増えると説明しています。長い契約書や議事録を一度に読ませたい業務ほど、必要な VRAM が増えると考えてください。
※ 出典: Ollama Docs — Context length(取得 2026-11)
費用は「従量課金ゼロ」と「運用の手間」の差し引き
Foundry Local の公式ドキュメントが言うとおり、ローカル実行にトークン単位の費用はありません。代わりに、GPU 搭載機の調達、電気代、モデルの更新、障害対応が自社の仕事になります。クラウド API の月額と比べるときは、次の3つを同じ表に並べてください。
- 初期費用(GPU 搭載 PC またはサーバー)と更新周期
- 運用の人件費(モデル更新・ログ確認・問い合わせ対応を誰が何時間やるか)
- 処理量が増えたときの上限(クラウドは課金で伸びる、ローカルは台数で伸びる)
数字は自社の見積で埋めるもので、一般論の相場を当てはめないでください。
管理は「どこに何が置かれるか」から始まる
Ollama が置くファイルの場所は公式 FAQ に明記されています。モデルは macOS では ~/.ollama/models、Linux では /usr/share/ollama/.ollama/models、Windows では C:\Users\%username%\.ollama\models に入り、環境変数 OLLAMA_MODELS で変えられます。Windows のログは %LOCALAPPDATA%\Ollama にあり、Linux でサービスとして動かす場合は journalctl -e -u ollama で読めます。
※ 出典: Ollama Docs — FAQ(Where are models stored?)/Ollama Docs — Linux(取得 2026-11)
情報システム担当が特に知っておくべき点が一つあります。Windows 版のインストーラーは管理者権限を必要とせず、既定でユーザーのホームディレクトリに入ります。つまり、社員は許可なく自分の PC にローカル LLM を入れられます。禁止するだけでは把握できないので、会社が許可する道具と設定を先に用意し、資産管理ツールで実行ファイルの有無を確認する運用にしてください。
※ 出典: Ollama Docs — Windows(取得 2026-11)
判断3 — モデルのライセンスと配布元
AI事業者ガイドライン第1.2版は、AI 開発者の取り組みの中で、学習済みモデルを選ぶときの確認項目として「商用利用可能なライセンスかどうか、事前学習データ、学習・実行に必要なスペック、真正性等」を挙げています。自社でモデルを選んで動かすローカル LLM では、この確認が利用する会社の責任になります。
※ 出典: 総務省 — AI事業者ガイドライン(第1.2版)本編 PDF(取得 2026-11)
上の表のとおり、ライセンスはモデルごとに違います。gpt-oss は Apache 2.0 で、公式ライブラリは「コピーレフトの制約や特許リスクなしに自由に構築でき、商用展開にも向く」と説明しています。gemma3 は Gemma Terms of Use、llama3.3 は Llama 3.3 Community License と Acceptable Use Policy に従い、モデルカードに明記されていない言語での利用など、範囲外の使い方が列挙されています。
※ 出典: Apache License, Version 2.0/Ollama Library — gpt-oss/Ollama Library — llama3.3(取得 2026-11)
会社として決めるのは次の3点です。
- 採用するモデルを一覧にする。 モデル名・バージョン・ライセンス名・ライセンス原文の URL・確認日・確認者を1行ずつ
- 配布元を固定する。 公式ライブラリまたは開発元の公式配布からだけ取得し、個人が持ち込んだモデルファイルは使わない
- 更新の判断を一人に任せない。 モデルの更新はライセンスも変わり得るので、更新のたびに一覧を更新する
判断4 — 社内公開の線引き(ローカル API には認証がない)
Ollama は既定で 127.0.0.1 のポート 11434 にだけ待ち受け、同じ PC からしか届きません。環境変数 OLLAMA_HOST を変えると社内ネットワークに公開できます。ここで重要なのは、公式 API ドキュメントが「http://localhost:11434 のローカル API は認証を必要としない」と明記していることです。
※ 出典: Ollama Docs — FAQ(How can I expose Ollama on my network?)/Ollama Docs — API Authentication(取得 2026-11)
つまり、1台の GPU 機を部署で共有しようとして待ち受けアドレスを変えた瞬間、そのネットワークに届く人は誰でも、認証なしにモデルを使い、モデルの追加や削除もできる状態になります。公開するなら、次の順で決めてください。
| 公開範囲 | 推奨する構成 | 決める人 |
|---|---|---|
| 自分の PC だけ | 既定のまま(OLLAMA_HOST を変えない) | 本人 |
| 部署の数人で共有 | 認証を持つリバースプロキシを前に置き、接続元を社内の固定範囲に限定。ブラウザからの利用は OLLAMA_ORIGINS で許可する発信元を限定 | 情報システム |
| 社内全体のサービスとして | 専用サーバー・専用ユーザーで動かし、利用記録を残し、更新の責任者を決める。Linux の公式手順は専用の ollama ユーザーでサービス化する | 情報システム+責任者 |
| インターネットから到達可能 | 行わない | — |
※ 出典: Ollama Docs — FAQ(How can I allow additional web origins to access Ollama?)/Ollama Docs — Linux(Adding Ollama as a startup service)(取得 2026-11)
更新も運用の一部です。macOS と Windows では更新が自動でダウンロードされ、メニューから「Restart to update」で適用します。Linux はインストールスクリプトを再実行します。自動更新を止める場合は、誰がいつ更新するかを決めておかないと、古い版が残り続けます。
※ 出典: Ollama Docs — FAQ(How can I upgrade Ollama?)(取得 2026-11)
向く業務と向かない業務
ローカル LLM が向くのは、社外に出せないデータを、決まった形で、人が確認しながら処理する業務です。向かないのは、最新情報や最高精度が要る業務と、処理量が読めない業務です。
| 業務 | 向き不向き | 理由 |
|---|---|---|
| 社内規程・マニュアルの検索と要約 | 向く | データが社内で完結し、精度は人が確認できる |
| 問い合わせメールの分類・下書き(個人情報を含む) | 向く | 個人データを外部に送らずに済む。送信は人が握る |
| 契約書・見積の要点抽出 | 条件付き | 文書が長いほど VRAM が要る。要点は必ず原本で確認 |
| 議事録の整形・社外秘の資料の下書き | 向く | 社外秘を扱える。公開前に人が読む |
| Web 公開記事の下書き(公開情報のみ) | どちらでも | 外に出して困るデータがない。クラウドで十分な場合が多い |
| 最新のニュース・相場・法改正の確認 | 向かない | モデルは学習時点の知識しか持たない。検索と一次資料で確認する |
| 高い精度が要る翻訳・コード生成 | 条件付き | 使えるモデルは VRAM で決まる。要求水準をクラウドと比べて決める |
| 月末に処理量が跳ね上がる一括処理 | 向かない | ローカルは台数でしか伸びない。クラウドと併用する |
すぐ使える3点セット — チェックリスト・導入手順・失敗パターン
セルフチェックリスト(15項目)
導入前と、導入後の四半期ごとに確認してください。
- 処理するデータの区分(公開・社外秘・個人データ・要配慮)を業務ごとに書き出した
- 区分ごとに処理場所(クラウド/ローカル/入れない)を決め、表にした
- 個人データを扱う業務は、利用目的の範囲内であることを確認した
- クラウド機能を止める設定(Ollama なら
OLLAMA_NO_CLOUD=1またはserver.json)を社内標準に入れた - 設定後、ログに
Ollama cloud disabled: trueが出ることを確認した - 採用モデルの一覧(名前・バージョン・ライセンス・URL・確認日・確認者)がある
- モデルの配布元を公式に固定し、持ち込みを禁止した
- 待ち受けアドレスは既定のまま、または公開範囲と認証を決めてから変えた
- 社内共有する場合、リバースプロキシの認証と接続元の限定を入れた
- ローカル LLM が入った PC のアクセス権は、処理するデータの区分に見合っている
- モデルファイルとログの保存場所を把握し、バックアップと削除の方針を決めた
- 本体とモデルの更新担当者と周期を決めた
- 資産管理で、許可していない PC に実行ファイルが入っていないか確認している
- 出力をそのまま社外に出さず、人が確認する手順が業務フローにある
- 障害時(GPU 故障・モデル破損)の代替手段を決めた
導入手順(5ステップ)
- 1業務で試す。 社外秘を含むが個人データを含まない業務を1つ選び、担当者一人の PC で始める。クラウド機能は最初から止める
- データ区分表を作る。 試した業務で触ったデータを区分し、処理場所の表に落とす。ここで法務・顧問に見せる
- モデルとハードウェアを決める。 要求するコンテキスト長と応答速度から VRAM を逆算し、ライセンス一覧を作る
- 共有するなら公開範囲を決める。 部署共有か全社かで構成が変わる。認証なしの公開はしない
- 運用表を作って引き継ぐ。 更新担当・ログ確認・問い合わせ窓口・障害時の代替を1枚にして、本人以外も回せる状態にする
失敗パターン5つ
| 失敗 | 何が起きるか | 防ぎ方 |
|---|---|---|
| 「ローカルだから安全」で止まる | 社員がクラウドモデルを選び、社外秘が外部で処理される | クラウド機能を設定で止め、ログで確認する |
| 共有のために待ち受けを広げる | 認証なしの API が社内に開き、誰でもモデルを使い、消せる | リバースプロキシの認証と接続元限定を先に入れる |
| ライセンスを読まずに商用利用する | 利用規約の範囲外の使い方になる | モデル一覧にライセンスと確認者を書く |
| VRAM を見ずに大きなモデルを選ぶ | 応答が極端に遅く、現場が使わなくなる | 業務に必要なコンテキスト長から逆算する |
| 担当者が一人で抱える | 退職や異動で更新が止まり、古い版が残る | 運用表を作り、更新担当を二人以上にする |
公的・公式リソース集
| 資料 | 使いどころ |
|---|---|
| 個人情報保護委員会 — 生成 AI サービスの利用に関する注意喚起等(令和5年6月2日) | 個人データをプロンプトに入れるときの2つの注意点 |
| 総務省・経済産業省 — AI事業者ガイドライン(第1.2版) | AI 利用者の取り組み(U-4・U-5)、モデル選定の確認項目、チェックリスト(別添7) |
| IPA — 情報セキュリティ10大脅威 2026 | 組織向け3位「AI の利用をめぐるサイバーリスク」。許可なく使われる AI への対策 |
| Ollama Docs — FAQ | プライバシー・クラウド機能の停止・待ち受け・保存場所・更新 |
| Ollama Docs — Hardware support | 対応 GPU とドライバー |
| Microsoft Learn — What is Foundry Local? | もう一つのローカル実行環境の公式説明 |
| Ink & Switch — Local-first software | ローカルファーストの原典と7つの理想 |
※ 出典: IPA — 情報セキュリティ10大脅威 2026(取得 2026-11)
導入支援会社やツールを選ぶときに聞くこと
ローカル LLM の構築を外部に頼む場合、見積の前に次を書面で聞いてください。答えが曖昧な相手は、この記事の判断1〜4を自社で埋めてから再度相談した方が早く進みます。
- クラウド機能を止めた状態で納品するか。止めたことをどのログで確認できるか
- 採用モデルのライセンス名と原文 URL、商用利用の条件を一覧で出せるか
- 待ち受けの範囲と認証の構成を図で示せるか。インターネットから到達しない設計か
- 更新(本体・モデル・ドライバー)を誰がどの周期でやるか。契約終了後に自社で回せる運用表を渡すか
- 障害時の代替手段(クラウド併用か、予備機か)を提案に含むか
Tufe Company は、AI・SEO・Web 制作・自動化を手がける会社です。ローカル LLM とクラウド AI の使い分けの設計や、データ区分表の作成から相談できます。詳しくは AI 導入支援のページとサービス一覧をご覧ください。
よくある質問
Q. ローカル LLM を入れれば、社内データは一切クラウドに出ませんか?
出ない部分と、出る部分があります。Ollama の公式 FAQ は、ローカルで動かす限りプロンプトや応答を同社は見ないと明記しています。一方で、モデルのダウンロードはインターネットから行われ、同じ道具からクラウド上のモデルも呼べます。クラウド機能を止める設定があるので、社内の標準設定に入れておくのが確実です。
Q. 個人情報を含む書類をローカル LLM で処理するのは、法的に問題ありませんか?
個人情報保護委員会の注意喚起が問題にしているのは、本人の同意なく個人データをプロンプトに入れ、それが応答の出力以外の目的で扱われることです。手元の PC で完結し、外部の事業者が内容を受け取らない構成なら、その懸念は小さくなります。ただし利用目的の範囲内であることの確認と、アクセス権・ログの管理は変わらず必要です。
Q. 社員が自分の PC に勝手にローカル LLM を入れてしまうことは防げますか?
完全には防げません。Ollama の Windows 版インストーラーは管理者権限を必要とせず、ホームディレクトリに入ります。禁止で終わらせず、会社が許可する道具・設定・申請の流れを先に決め、資産管理で把握するのが現実的です。この記事のチェックリストと規程案を出発点にしてください。
Q. ローカル LLM とクラウド AI は、どちらか一方に決めるべきですか?
決める必要はありません。公開情報の下書きや要約はクラウド、社外秘や個人データを含む処理はローカル、というようにデータ区分ごとに処理場所を分けるのが実務的です。この記事の「データ区分 × 処理場所」の表を、自社の情報区分に合わせて埋めるところから始めてください。
次の一歩
まず、AI に読ませているデータを業務ごとに4区分(公開・社外秘・個人データ・要配慮)に書き出してください。次に、区分ごとの処理場所を表に埋め、ローカルにする業務が1つでもあれば、クラウド機能を止めた設定で担当者一人の PC から始めてください。
自社の情報区分に合わせた処理場所の設計、モデルとハードウェアの選定、社内共有時の認証構成について、書面で整理した上で相談したい場合は、お問い合わせからお送りください。現在の業務と扱うデータの区分を書いていただければ、契約を前提にせず、確認すべき点と進め方を返信します。
更新履歴
- 2026-11-03: 初版公開