GPUとCPUの違い：なぜAIにはGPUが必要なのか

パソコンやサーバーの話で必ず出てくる「CPU」と「GPU」。名前は似ていますが、役割はまったく違います。そしてAIの時代になり、この違いが「AIサーバーにはなぜGPUが必要か」という大きな話題になっています。

結論から言うと、CPUは「複雑な仕事を順番にこなす少数精鋭の職人」、GPUは「単純な計算を一斉にこなす1万人の作業員」です。AIの計算は後者にぴったりの仕事なので、GPUが不可欠になる——これが答えの全てです。順番に見ていきましょう。

CPUとは・GPUとは（定義）

CPU（Central Processing Unit：中央演算処理装置） コンピューターの頭脳。OSの動作、ファイルの処理、条件分岐の多い複雑なプログラムなど、あらゆる処理を順番に実行します。コア数は数個〜数十個。1つ1つのコアが非常に高性能で、「考える」仕事が得意です。

GPU（Graphics Processing Unit：画像演算処理装置） もともとは3Dグラフィックスの描画用に生まれたチップ。画面の何百万ものピクセルの色を同時に計算するため、数千〜1万個以上の小さなコアを搭載しています。1つ1つのコアはシンプルですが、「同じ種類の計算を大量に同時実行」する能力ではCPUを圧倒します。

構造の違い：職人と作業員団

比較項目	CPU	GPU
コア数	数個〜数十個	数千〜1万個超
コアの性格	高性能・多機能	シンプル・単機能
処理の進め方	直列（順番に）	並列（一斉に）
得意な仕事	複雑で手順のある処理	単純で大量の計算
例えるなら	少数精鋭の職人	1万人の作業員団

イメージしてください。「引っ越し」という仕事を任されたとき、

• CPUは、優秀な職人3人が順番に荷物を運ぶ。家具の分解・梱包・運搬・設置を手際よく切り替えられる
• GPUは、1万人の作業員が一斉に手分けして運ぶ。細かい判断は苦手だが、「箱を運ぶだけ」の仕事量は桁違い

どちらが優れているかではなく、仕事の種類に向き不向きがある、というのが正しい理解です。

なぜAIにはGPUが必要なのか

AI（特にディープラーニング）の計算の正体は、巨大な行列の掛け算（行列演算）の繰り返しです。

ChatGPTのようなAIが文章を1語生成するたびに、モデル内部では数千億回もの掛け算と足し算が行われます。ここで重要な性質が2つあります。

1. 計算はとてつもなく多い：数千億回という回数は、職人数人ではどうやっても終わらない
2. 計算同士は独立している：1つ目の掛け算と2つ目の掛け算は互いの結果を待つ必要がなく、同時に全部やれる

つまりAIの計算は「単純な作業を1万人に一斉に配れる仕事」——まさにGPUのためにあるような仕事です。実際、AI向けGPU「H100」は16,896個の演算コアを持ち、一般的なサーバーCPUの100倍以上のコア数を誇ります。

逆に、もしCPUだけでAIを動かすとどうなるか。私たちが実際に検証したところ、GPUなしのサーバーでは応答に数十秒かかり、業務では使い物になりませんでした（詳しくは「格安専用サーバーでAI基盤を自前構築した全記録」）。

もう一つの違い：VRAM（専用メモリ）

GPUには「VRAM」という専用の超高速メモリが搭載されています。AIモデルは計算の間、数千億個のパラメータをすべてVRAMに載せておく必要があり、VRAMの容量が「動かせるAIのサイズ」を決めます。

目安として、70億パラメータ級の小型モデルでVRAM 16GB前後、700億パラメータ級で40〜80GB。AIサーバーのスペック表でVRAM容量が強調されるのはこのためです。

よくある誤解：「GPUはCPUの上位互換」ではない

GPUが高性能だからといって、CPUが不要になるわけではありません。

• OSの操作、プログラムの実行制御、条件分岐の多い処理はCPUの仕事であり続けます
• GPUがいくら速くても、「順番に考える」仕事は苦手です
• だからAIサーバーも、CPUが司令塔、GPUが計算部隊という分業で動いています

「CPUを全部GPUに置き換える」のではなく、「計算の重い部分をGPUに任せる」が正しい考え方です。

余談：ゲーム用のチップがなぜAIの主役になったか

GPUはもともとゲームの3D描画用でした。しかし2010年代、研究者たちが「ゲーム用の行列計算チップは、ニューラルネットワークの計算にも使える」ことに気づき、AI研究が爆発的に加速。今ではAI市場がGPUメーカーの最大の成長エンジンになっています。「娯楽のための技術が、時代の基盤技術になった」好例です。

よくある質問（FAQ）

Q. AIには必ずGPUが必要ですか？

小さなモデルを試す程度ならCPUでも動きますが、実用速度が出ません。業務利用ではGPUが事実上必須です。ただし、ChatGPT等のクラウドAIを使うだけなら自社にGPUは要りません（計算は向こうのサーバーで行われるため）。

Q. GPUが1個と8個では何が変わりますか？

計算速度と、動かせるモデルのサイズです。大規模なモデルの学習にはGPUを8枚連結した構成が使われますが、推論（使うだけ）なら1〜2枚で済むケースも多くあります。

Q. スマホやノートPCにもGPUは入っていますか？

入っています。画面描画のためにほぼ全ての機器にGPUは搭載されています。ただしAIサーバーに載るGPUは、演算性能とVRAM容量が桁違いの専用品です。

まとめ

CPUとGPUの違いは「少数精鋭の職人」と「1万人の作業員団」の違いです。AIの計算は単純な掛け算の山で、一斉に片づけられるため、GPUが不可欠になります。

この構造を理解しておくと、「なぜAIサーバーは高いのか」「VRAMとは何か」「クラウドGPUの料金はなぜ時間課金なのか」がすべて繋がって見えます。次は「AIサーバーとは？通常のサーバーとの決定的な違い」を読むと理解が深まります。

自社にAI基盤が必要になったら、まずは「AIインフラコスト試算ツール」で費用感を確認してみてください。