本文へスキップ
codeagent.jp
このサイトについて

ガイド · ローカルLLM

ガイド更新：。 記事ごとの測定日・仕様確認日は、リンク先に記載しています。

ローカルLLMの実測と導入GPU・VRAM・Ollama・LM Studio

自分のGPUで回した日本語業務ベンチの記録を起点に、GPU・VRAMの選び方、実行環境の導入、コーディングエージェントからの接続までをつなぎます。

初めて使うなら、何から決める？

  1. 試す仕事を1つ選ぶ。短い要約、JSONへの整形など、答えを自分で確認できる小さな課題から始めます。
  2. 手元のGPUとVRAMを確認する。必要量はモデルのパラメータ数だけでなく、量子化・入力の長さ・KVキャッシュでも変わります。VRAM別の見積もり方と保存済みロード実測で切り分けます。
  3. 実行環境を選び、同じ入力で確かめる。LM StudioとOllamaの比較から導入へ進み、モデル名・量子化・入力長・所要時間・出力の誤りを残します。

RTX 3090で保存した日本語業務ベンチの結果

2026年6月6日、RTX 3090 24GBで回した人工課題30問の記録です。次の4行は、公開JSONを配布スクリプトで再集計した値です。今回モデルを動かし直した結果ではありません。

ローカルモデルクラウド比の相対得点品質点
qwen2.5:14b8685
gpt-oss:20b8786
qwen2.5-coder:14b6866
qwen2.5:7b6665

相対得点は、各課題のクラウド最高点との得点比を集計したものです。仕事の66〜87%を任せられるという意味ではありません。品質点は各課題の採点値の平均です。AI採点を含むため、どちらも第三者が保証する性能値ではありません。

7モデルのJSON・検算スクリプト・計算方法を公開しています。保存後の検算は通信やGPUを使いません。具体的な失敗は保存出力の失敗例7ケースで確かめられます。

RTX 3090 24GB で測ったもの

同じ手元のRTX 3090 24GB（Windows）とOllamaで測った公開記事です。結果は各記事と保存JSONの値をそのまま載せています。どれも当時のモデル・バージョンで1回ずつ測ったもので、ほかのGPUでの速さや順位は測っていません。保存JSONを公開していない測定は、記事に出力を載せています。

  • J-WorkBench：日本語の業務課題30問

    測定日
    2026-06-06（日本時間）
    モデル
    qwen2.5:14b、gpt-oss:20b、qwen2.5-coder:14b、qwen2.5:7b
    Ollama
    0.19.0
    条件
    温度0・seed 7・num_ctx 8192、ドライバ610.47
    結果
    クラウド比の相対得点はgpt-oss:20bが87、qwen2.5:14bが86（上の表）。AI採点を含む。
    保存JSON
    qwen2.5:14b、gpt-oss:20b、qwen2.5-coder:14b、qwen2.5:7b

  • 中学数学7分野30問

    測定日
    2026-10-26
    モデル
    gemma4:31b、qwen3.6:35b-a3b、gpt-oss:20b、qwen2.5:14b
    Ollama
    0.30.6
    条件
    温度0・seed 20261026・num_ctx 4096・1問300秒まで、各1回、ドライバ617.42
    結果
    gemma4:31bとgpt-oss:20bが30/30、qwen3.6:35b-a3bが28/30（時間切れ2問）、qwen2.5:14bが厳密採点で28/30。
    保存JSON
    local-llm-math-bench-20261026.json

  • 暗号解読6課題

    測定日
    2026-10-26
    モデル
    gemma4:31b、qwen3.6:35b-a3b、gpt-oss:20b、qwen2.5:14b
    Ollama
    0.30.6
    条件
    温度0・seed 20261026・num_ctx 8192・1課題300秒まで、各1回、ドライバ617.42
    結果
    完全一致はgemma4:31bが5/6、gpt-oss:20bが4/6、qwen3.6:35b-a3bとqwen2.5:14bが0/6。
    保存JSON
    local-llm-cipher-bench-20261026.json

  • ロード直後のVRAM使用量

    測定日
    2026-09-14
    モデル
    gpt-oss:20b、qwen3-coder:30b、gemma4:31b、qwen3.6:35b-a3b
    Ollama
    0.30.6
    条件
    num_ctx 8192、/api/psのsize_vram
    結果
    11.97GiB（gpt-oss:20b）〜21.72GiB（qwen3.6:35b-a3b）。4モデルとも100% GPU。
    保存JSON
    公開していない（記事に出力を掲載）

  • コンテキスト長とCPUオフロード

    測定日
    2026-09-14
    モデル
    qwen3-coder:30b（Q4_K_M）
    Ollama
    0.30.6
    条件
    num_ctx 8192と131072、ドライバ616.92
    結果
    131072では27%/73% CPU/GPUに分かれ、生成は約160 tok/sから約25 tok/sに落ちた。
    保存JSON
    公開していない（記事に出力を掲載）

  • Claude Code / Codex CLIからの接続

    測定日
    2026-09-14
    モデル
    qwen3-coder:30b（Claude Code 2.1.261）、gpt-oss:20b（Codex CLI 0.144.1）
    Ollama
    0.30.6
    条件
    各1往復
    結果
    Claude Codeは2ターンで入力51,877トークン（1ターン約26,000）、API所要時間25.3秒。
    保存JSON
    公開していない（記事に出力を掲載）

導入手順とAPIの実行出力は、Ollama導入ガイドとLM StudioとOllamaの比較（どちらも2026-09-14、Ollama 0.30.6）にあります。

実測を読む

RTX 3090 24GB / Ollama 0.19 / 温度0・seed7 で、日本語の業務課題7カテゴリを回した2026年6月6日の記録です。現在のモデルを測り直したものではありません。

GPU・モデルを選ぶ

手元のVRAMで何が動くかを先に決め、用途に合わせてモデルを選びます。

入れる・つなぐ

実行環境を入れ、APIやコーディングエージェントからつなぎます。

動かないとき

このページの範囲

J-WorkBench の得点は、自作の人工課題に対する当時のモデルの相対指標です。AI採点を含み、第三者の監査を受けたものではありません。モデルの入れ替わりが速いので、選ぶ前に各記事の測定日と、いま手に入るモデルを確かめてください。