自分のパソコン内でAIを動かしたい

最初に確認：PC内で動く条件

ローカルLLMは、取得したモデルを自分のPCで実行する使い方です。同じアプリからクラウドモデルや外部サービスを使う場合は、PC内だけで処理する条件から外れます。機密資料を入れる前に、次の3点を確認してください。

• 実行場所：選んだモデルがPCに保存され、PC上で動く設定か確認します。アプリがPCに入っているだけでは、ローカル実行とは限りません。
• 外部へ渡す機能：クラウドモデル、Web検索、外部APIや連携ツールの利用有無と送信先を確認します。不要な機能は使わず、組織の利用ルールにも従ってください。
• 準備の通信：アプリ・モデルの取得や更新には通信が必要な場合があります。準備のための通信と、入力した文章をクラウド処理へ送ることは別です。

Ollamaの場合：クラウドモデルとWeb検索を無効にするローカル専用設定があります。公式FAQでは環境変数 OLLAMA_NO_CLOUD=1 などを案内しています。OSに合う設定方法を確認し、変更後に再起動してログの Ollama cloud disabled: true を確認します。この設定は、別のアプリや外部連携先の通信まで止めるものではありません。

LM Studioの場合：モデルを取得した後のローカルチャットや文書処理はオフラインで利用できます。モデルの検索・取得・更新などは通信するため、準備時と利用時を分けて考えます。

まず試す：架空の備品メモから3項目を取り出す

1. PCのメモリと対応OSを公式資料で確認し、実行アプリとPCで扱えるローカルモデルを1つ用意します。Ollama・LM Studioは実行アプリ、Gemma・Llama・Qwenはモデルの例です。
2. 実行場所と外部連携を確認し、チャット画面に次の短文を入力します。最初は機密情報や個人情報を使わないでください。
3. 返答が出たら、品名・数量・未定の情報が変わっていないか人が照合します。モデル名と設定、待ち時間も控えておくと比較できます。

入力する指示と架空のメモ

次のメモから「品名」「数量」「納期」を1行ずつ取り出してください。
書かれていない情報を足さず、未定のものは「未定」としてください。

メモ：USBケーブルを3本追加する。納期は未定。

目指す出力の例

品名：USBケーブル
数量：3本
納期：未定

この入力・出力は、このページのために作った架空の例で、実際のAIの実行結果ではありません。同じ指示でも結果は変わります。納期を勝手に補ったり数量が変わったりしたら、そのまま使わず修正・再確認してください。

モデル取得後、ネット接続がない状態でもこの短文で返答できるか試すと、オフライン利用の確認に役立ちます。ただし、1回返答できたことだけでは、すべての機能や将来の通信まで保証できません。機密資料を扱う前には、設定・連携先・組織のルールを改めて確認してください。

確認に使った公式資料

• Ollama FAQ：ローカル実行・クラウド機能の無効化と設定方法
• LM Studio：オフラインで使える処理と通信が必要な操作
• LM Studio：導入から最初のモデル取得まで