local-llm
13 件の記事
-
ローカルLLMで暗号解読を実測|シーザー暗号は解けても、換字式は4モデルとも未解読(RTX 3090)
RTX 3090とOllama 0.30.6で、gemma4:31b・qwen3.6:35b-a3b・gpt-oss:20b・qwen2.5:14bにシーザー暗号・ROT13・単一換字式・解読コード生成など6課題を1回ずつ出しました。完全一致はgemma4が5/6、gpt-ossが4/6、残り2モデルは0/6。採点スクリプトと結果JSONを同梱します。
local-llm / ollama / benchmark / nodejs -
ローカルLLMに中学数学30問を解かせた正答率|Ollama 4モデル実測(RTX 3090)
RTX 3090とOllama 0.30.6で、gemma4:31b・gpt-oss:20b・qwen3.6:35b-a3b・qwen2.5:14bに中学数学7分野30問を1回ずつ解かせました。gemma4とgpt-ossは30/30、qwen3.6は時間切れ2問で28/30、qwen2.5はLaTeX記号による書式不一致2問で厳密採点28/30(数式は30/30一致)。問題生成・採点スクリプトと結果JSONを同梱します。
local-llm / ollama / benchmark / nodejs -
LM StudioとOllamaの比較:GUI/CLI・API互換・複数モデル・ライセンス
LM StudioとOllamaをGUI/CLI、モデル形式、OpenAI/Anthropic互換API、複数モデル同時ロード、ヘッドレス運用、ライセンスと商用利用条件で比較。公式ドキュメントと利用規約を2026年9月14日に確認し、両方を同じPCで実行した結果も載せています。
local-llm / ollama / lm-studio / tips -
ローカルLLM用途別モデル選び2026:日本語要約・翻訳・コード・RAG・長文対応
日本語要約、翻訳、コード補完・エージェント、RAGの埋め込みと回答、長文コンテキストの5用途で、2026年9月時点にHugging Faceで実在を確認したQwen3.6/Gemma 4/gpt-oss/llm-jp-4/Swallow/PLaMo等を整理。数値は各モデルカードの公式値のみ引用。
local-llm / ollama / rag / tips -
ローカルLLMのVRAM別モデルサイズ早見:8〜32GBで載る量子化とKVキャッシュ
VRAM 8/12/16/24/32GB以上ごとに載るモデルと量子化を、Hugging FaceのGGUF実ファイルサイズとKVキャッシュの概算式で整理。RTX 3090でgpt-oss・Qwen3.6・Gemma 4を実際にロードしたVRAM実測(2026-09-14)付き。
local-llm / ollama / benchmark / tips -
ローカルLLMをClaude Code / Codex CLIから使う:Ollama接続の実行ログと限界、使い所
Ollamaのモデルを Claude Code(ANTHROPIC_BASE_URL)と Codex CLI(--oss)から呼ぶ手順と、RTX 3090での実行ログ(2026-09-14)、ローカルに任せる作業の判断基準を整理します。
local-llm / ollama / claude-code / codex-cli / コスト管理 / セキュリティ -
Ollama導入ガイド:Windows/Mac/Linuxのインストール・API・保存先
Ollamaの導入からollama pull/run、REST API(/api/generate・/api/chat)とOpenAI互換/v1、モデル保存先と環境変数までを整理。RTX 3090環境で2026年9月14日に実行した出力を根拠に書いています。
local-llm / ollama / windows / tips -
OllamaがWindowsでGPUを使わない・遅いときの確認手順:ollama psとログ
OllamaがWindowsでGPUを使わない、急に遅くなったときの確認手順です。ollama psのPROCESSOR列、server.logのGPU検出行、nvidia-smiの見方を整理し、RTX 3090でnum_ctxを上げてCPUへ一部オフロードされる様子を2026年9月14日に再現しました。
local-llm / ollama / windows / troubleshooting -
LM Studioの使い方:導入・モデル選び・API連携
LM Studioの導入から、ローカルLLMの選び方、日本語チャット、PDF・文書RAG、OpenAI互換API、CLI、MCP、重い・動かないときの対処までを初心者向けに詳しく解説します。
lm-studio / local-llm / gguf / rag / openai-compatible-api / mcp / windows / ai-tools -
ローカルLLMの費用回収:削減できる月額から電気代を引いて比べる
GPU初期費用13万円・月額削減3,000円・電気代651円という仮定なら単純回収は約55.3か月。契約を維持する場合との違い、測定済みベンチマークの範囲を整理します。
local-llm / cost / ollama / claude-code / codex-cli -
ローカルLLMの失敗と負の結果:J-WorkBenchの保存出力7ケース
2026年6月6日のJ-WorkBench保存出力から、JSON崩壊、根拠のない断定、二重計上などの失敗、ローカルが高得点だった例、長文課題で失敗を観測できなかった例を紹介します。人工課題の結果で、一般的な故障率の測定ではありません。
local-llm / ollama / troubleshooting / rag / benchmark -
ローカルLLMとクラウドの比較:J-WorkBenchの相対得点と測定の限界
2026年6月6日のJ-WorkBench保存記録を読み解きます。クラウド比66〜87点という相対指標、カテゴリ別の品質、AI採点の制約を整理。実業務を同じ割合で自動化できるという測定ではありません。
local-llm / ollama / claude-code / codex-cli / benchmark / rag -
J-WorkBenchの公開JSONを検算する:7モデルの相対得点と6軸集計
GPUやサブスクなしで、2026年6月6日の保存結果を検算する手順。公開JSON7個とNode.jsスクリプトを取得し、相対得点・品質・6軸の加重点を再集計します。モデルの再実行とは区別します。
local-llm / benchmark / nodejs