ローカルLLMは、
どこまで仕事に使えるか。

実測を読む

RTX 3090 24GB / Ollama 0.19 / 温度0・seed7 で、日本語の業務課題7カテゴリを回した2026年6月6日の記録です。現在のモデルを測り直したものではありません。

• J-WorkBench の結果一覧 →

  ローカル4モデルとクラウドのサブスクCLI3種類の相対得点。

• ローカルとクラウドの比較と測定の限界 →

  相対得点の読み方と、実業務の代替率と読み替えない理由。

• ローカルLLMの失敗例7ケース →

  JSON崩壊、根拠のない断定、二重計上などを保存出力から。

• 費用回収の計算 →

  GPUの初期費用を、削減できる月額と電気代から見積もる。

• 自分のPCで再現する →

  Ollamaでモデルを入れ、npm run bench で同じ課題を採点する。

• 生データ(全トランスクリプト・採点記録) →

  記事の数字の元になった保存記録。

GPU・モデルを選ぶ

手元のVRAMで何が動くかを先に決め、用途に合わせてモデルを選びます。

• ローカルLLM レコメンダー →

  GPUと用途を選ぶと候補モデルを絞り込むツール。

• VRAM別に載るモデルと量子化 →

  8〜32GBで載るサイズを、GGUFの実ファイルとKVキャッシュから見積もる。

• GPU選び(2026年4月版) →

  RTX 50/40/30 と Apple Silicon の判断軸。

• 用途別のモデル選び →

  要約・翻訳・コード・RAG・長文で選ぶ。

入れる・つなぐ

実行環境を入れ、APIやコーディングエージェントからつなぎます。

• Ollama 導入ガイド →

  インストール、REST API、モデルの保存先。

• LM Studio の使い方 →

  導入、モデル選び、OpenAI互換API。

• LM Studio と Ollama の比較 →

  GUI/CLI、API互換、複数モデル、ライセンス。

• Claude Code / Codex CLI から使う →

  Ollama接続の実行ログと、ローカルに寄せる作業の目安。

動かないとき

• Ollama が Windows で GPU を使わない →

  ollama ps の PROCESSOR 列、server.log、nvidia-smi で確かめる。