Ollamaに必要なPCスペックは?ローカルLLMを快適に動かすメモリ・GPU構成を解説

Ollamaに必要なPCスペックは?ローカルLLMを快適に動かすメモリ・GPU構成を解説

オフ 投稿者: せせら編集部

この記事を書いている人(せせら)

普段はITフリーランスとして活動しています。
個人で作業効率化サービスを運営し、挑戦を続ける人々を静かに応援しています。

広告
Amazonタイムセール開催中!
割引中の商品を今すぐチェック

こんにちは、パソコン大好きなせせらです。ローカルLLMを手軽に試せるツールとして、Ollamaを入れてみたいという声をよく聞きます。

Ollamaのモデル名や量子化表記を見ても、自分のPCのメモリやGPUで動くか判断しづらいです。「14Bに何GB要るのか」「GPUなしで試せるのか」「WindowsとMacの違い」はスペック表だけでは読み取れません。

Ollamaに必要なPCスペックは、動かすモデルのサイズと量子化、そしてGPUの有無で大きく変わります。今回はOllamaに必要なメモリ・GPU・OSの目安について解説していきます。

目次

Ollamaの量子化とメモリ目安

OllamaはGGUF形式のモデルを配布し、`ollama pull`で取得したファイルをそのまま推論します。モデル名の末尾に付く`:7b`や`:14b`、`:q4_0`などのタグが、メモリ使用量の入口になります。同じ7Bモデルでも、量子化の強さで必要なGBが変わります。

量子化は、モデルの重みを圧縮してメモリに載せやすくする手法です。Q4系は軽く、Q8に近づくほど重くなります。Ollamaではタグを見ることで、pullするモデルがどのくらいメモリを使いそうか事前に把握できます。

ストレージも見落としがちです。モデル1本あたり数GB〜数十GBをSSDに置くため、HDDだけのPCだと読み込みが遅く感じやすいです。公式の最低要件はRAM 8GB前後ですが、7Bを常用するならRAM 16GB以上を目安にした方が余裕があります。

量子化の目安7Bのおおよそのメモリ14Bのおおよそのメモリ品質と速度の傾向
Q4系(軽い)4〜6GB8〜10GB軽い・省メモリ
Q5〜Q66〜8GB10〜14GBバランス寄り
Q8(重い)8〜12GB14〜18GB重い・高品質寄り

同じ7Bでも量子化タグが違えば必要メモリが2倍近く変わるので、pullする前にタグを確認するのがOllamaの第一歩です。表の数値は`num_ctx`(コンテキスト長)や同時に動かすモデル数で前後します。長い会話を続ける設定にすると、KVキャッシュ分だけメモリが増えます。

モデルサイズ別のメモリ目安

モデルサイズは、パラメータ数の大きさをざっくり表した呼び方です。Ollamaでよく使う7B・14B・32B級を、Q4前後の量子化を前提にまとめたのが下の表です。70B級は上級者向けの帯として触れます。

7B級は、RAM 16GBでもGPUなしのCPU推論で試せます。14B級はモデル本体だけで8〜12GBほど使うため、OS分を足すとRAM 16GBではかなり窮屈です。32B級になると18〜24GBほど必要になり、VRAM 24GBまたは統合メモリ24GB以上を見ておきたいところです。

モデルサイズおおよその必要メモリ(Q4系)推論の主な載せ方用途の目安
3B2〜4GBCPU / 内蔵GPUお試し・軽いチャット
7B4〜8GBCPU+RAM / GPU 8GB日常のチャット1本
14B8〜12GBGPU 8〜12GB / RAM 32GB品質重視の日常利用
32B18〜24GBGPU 24GB / 統合24GB+本格的なローカルLLM
70B40GB前後RAM 64GB+オフロード上級・量子化前提

Q8やFP16に近い設定は、表の1.5〜2倍を見込んでください。14Bを複数モデルと同時に保持するなら、RAM 32GBがあると安心です。動かしたいモデルサイズを先に決めてから、表のGBと自分のRAM・VRAMを照らし合わせる流れがOllamaの要件整理の基本です。

GPUあり・なしPCの要点

OllamaはGPUがなくても動きます。その場合はシステムRAMにモデルを載せ、CPUで推論します。7B級なら起動自体は問題になりにくいものの、トークン生成はGPU推論よりかなり遅くなります。14B以上をCPUだけで毎日使うと、待ち時間が気になりやすいです。

NVIDIA GPUがある場合は、CUDA対応のVRAMへモデルのレイヤーを自動で載せます。VRAM 8GBなら14B、24GBなら32B級まで見えてきます。載りきらない分はRAMへ逃がすため、システムRAMも16GB以上、できれば32GBあると安心です。

Apple SiliconのMacは、CPUとGPUがメモリを共用する統合メモリ方式です。Metal対応により、統合メモリ24GBで14B快適、32GBで32B級に近づく帯になります。内蔵GPUだけのWindowsノートはVRAMが小さいため、7B中心で上限が早く来やすいです。

OllamaではGPUは必須ではありませんが、14B以上を毎日使うならNVIDIA GPUかApple SiliconのMetal対応が体感を大きく変えます。速度比較は別記事です。ここでは載せ方の違いだけ押さえます。

Windows・Mac・Linuxの動き方

Windows 10 22H2以降がサポート対象です。NVIDIA GPU利用時はドライバ更新後にOllamaを入れます。VRAMはタスクマネージャー「パフォーマンス」→「GPU」、RAMは「メモリ」で確認します。

Apple Silicon(M1以降)はMetal対応なので、MacでもGPU推論を使いやすいです。一方でIntel MacはCPU推論中心になり、大きめのモデルでは待ち時間が長くなります。統合メモリは「このMacについて」で確認し、16GBなら7B、24GBなら14B、32GBなら32B級が目安になります。

Linuxは、サーバーや常時起動向けの選択肢です。NVIDIA GPUならCUDA、AMD GPUならROCmの対応状況がディストリごとに異なります。自宅サーバーでOllamaを動かす人は、GUIよりもメモリとGPUドライバの安定性を先に確認します。

OSを変えても、モデルサイズと量子化による必要GBの考え方は同じです。違いは、VRAMとRAMの見え方と、GPUドライバの更新手順くらいです。WindowsとMacの両方を持っている人は、同じモデルタグで起動テストすると差が体感しやすいです。

今のPCで試す前の確認

買い替えの前に、今のPCで小さめモデルから試すのが確実です。まず他アプリを閉じて空きRAMを確保し、NVIDIAならVRAM容量、Macなら統合メモリ容量をメモします。ストレージの空きも、モデル1本あたり数GB〜数十GBを見込んで確認してください。

おすすめの段階は、`llama3.2:3b`や`gemma2:2b`など小さめモデルで起動テスト→問題なければ`qwen2.5:7b`→`14b`と上げていく流れです。途中でメモリ不足エラーや極端な遅さが出たら、そのサイズが今のPCの上限サインです。

今のPCの目安おすすめのモデル帯買い替えの目安(容量のみ)
RAM 16GB・GPUなし7B中心RAM 32GB帯またはGPU付きPC
RAM 32GB・GPU 8〜12GB14B快適・32BはオフロードVRAM 24GB帯・32GB帯
VRAM 24GB or 統合24GB+32B日常利用64GB帯で70B級
RAM/統合 64GB70B級の挑戦

RAM 16GB・GPUなしのPCは7B中心に留め、14Bを常用するならRAM 32GBまたはGPU付きPCへの買い替えが必要です。具体的な機種の整理は、ローカルLLM用PCのランキング記事へ回します。

Ollamaスペックのまとめ

OllamaのPCスペックはpullするモデルサイズ・量子化タグ・GPU有無で決まります。7BはRAM 16GB、14BはRAM 32GBまたはVRAM 8GB以上、32BはVRAM 24GBまたは統合メモリ24GB以上です。

GPUがなくてもOllamaは動きますが、14B以上を毎日使うならNVIDIA CUDAかApple SiliconのMetalがあると待ち時間が短くなります。今のPCで小さめモデルから段階的に試し、上限が見えたら容量帯ごとのおすすめPC記事で買い替え先を決める流れがスムーズです。

モデルタグと自分のRAM・VRAMを照らし合わせたうえで、小さめモデルから起動テストするのが、Ollamaを入れる前のいちばん確実な確認方法です。次は、買い方の直前で迷いやすいポイントをFAQで拾います。

よくある質問

RAM 16GB・GPUなしのWindows PCで、qwen2.5:14b(Q4)は動きますか? 起動できることはありますが、CPU推論になるため待ち時間は長めです。RAM 16GBではギリギリになりやすく、常用するならRAM 32GBへの増設か、VRAM 8GB以上のNVIDIA GPUが欲しくなります。まず`qwen2.5:7b`で確認してから14Bへ上げてください。

MacBook Air M2の統合メモリ16GBで、Ollamaの32Bモデルは動きますか? Q4でもモデル本体は18GB前後で、16GB統合メモリでは不足します。16GB Macは7B〜14B(Q4)が現実的で、32Bには統合メモリ24GB以上のMacBook ProかMac miniが必要です。

Ollamaでnum_ctxを4096から8192に伸ばすと、メモリはどれだけ増えますか? モデル本体に加えKVキャッシュがコンテキスト長に比例して増えます。7Bで数百MB〜1GB、14Bで1〜2GBの増加です。RAM 16GBギリギリのモデルはnum_ctx拡張でメモリ不足になり落ちることがあります。

ノートPCの内蔵GPU(VRAM 2〜4GB)だけで、Ollamaの14Bは実用になりますか? VRAMが小さいため、14Bの大半はRAMへオフロードされます。起動できても待ち時間は長くなりやすいです。内蔵GPUのみなら7B中心に留め、14Bを常用するならVRAM 8GB以上のディスクリートGPU付きPCが向きます。

Ollamaの最低要件RAM 8GBで、llama3.2:3bは問題なく動きますか? 3B級はRAM 8GBで起動できます。ブラウザやメッセージアプリを開いたままだとRAM不足で落ちることがあります。テスト時は他アプリを閉じ、7Bへ上げる前にRAM 16GBがあるか確認します。

同じ7Bモデルで、Ollamaの:q4_0と:q8_0を使い分けるとメモリはどれだけ違いますか? 同じ7BでもQ8はQ4の1.5〜2倍のメモリを使います。RAM 16GBでQ4の7Bが快適なら、Q8はギリギリまたは不足です。品質を上げたいならQ8、まず動かすことが目的ならQ4です。

RAM 64GBのデスクトップ(GPUなし)で、Ollamaの70B級(Q4)は動きますか? Q4とRAMオフロード前提なら起動できることがあります。ただし全レイヤーをCPUで処理するため、VRAM 24GBのGPU推論より大幅に遅いです。70Bを常用するならGPU付き64GB帯、RAM 64GBのみの構成は動作確認用と考えた方が自然です。

具体的なおすすめPC >>> ローカルLLM用PCおすすめランキング

関連記事

ローカルLLM用PCおすすめランキング|VRAM・メモリ別に紹介!(24GB/32GB/64GB)AI開発におすすめのPCは?Python・ローカルLLM・画像生成で必要スペックを分けるRTX Spark搭載PCは普通の人に必要?ローカルAI PCの現実と買い時ミニPCはN100だけじゃない?2026年のAI・ゲーミング小型PCの選び方

Amazon の PC をスコア化してみた

Specsy Hub

Amazonにある8〜14インチの小型WindowsタブレットやノートPCを、スペック別にスコア化して比較・ランキング。

※同一運営者のサイトです。

広告
Amazonタイムセール開催中!
割引中の商品を今すぐチェック
このサイトはアフィリエイト広告(Amazonアソシエイト含む)を掲載しています。