メインコンテンツへスキップ
見出し画像

なぜ生成AIにGPUなのか｜CUDAという参入障壁と、自作PCで失敗しないための注意点

    梟 〜GLEANINGS〜

    生成AIの話題になると、必ずGPUの名前が出てきます。
    GPUを何万枚も確保した、GPUが足りない、GPUの価格が上がった。
    けれど、そもそもなぜAIにGPUなのかを説明されることは、あまりありません。

    答えの半分は計算の中身にあります。
    もう半分は、ソフトウェアの側にあります。
    この2つが噛み合ったことで、ゲーム用に磨かれてきた部品が、そのままAIの主役になりました。

    後半では、実際に自分のパソコンを組む・買うときの話に降りてきます。
    ボトルネック、電源容量、相性問題。
    ここには、カタログの数字だけでは見えない落とし穴があります。

    この記事は、メーカー公式の情報と規格文書をもとに、2026年9月時点の内容にしています。

    なぜ生成AIにGPUが使われるのか

    生成AI、つまり深層学習の計算の中身は、大量の行列同士の掛け算と足し算の繰り返しです。
    ひとつひとつの計算は単純ですが、とにかく数が多い。

    これは、GPUが得意とする「単純な計算を大量に、同時並行でこなす」という特性にぴったりはまります。
    CPUは少数精鋭のなんでも屋、GPUは大量の単純作業をこなす専門チーム、という構造が、そのままAIの計算にも当てはまるわけです。

    ただし、これだけならAMDのGPUでも同じことができるはずです。
    実際にはそうなっていません。
    理由はソフトウェアの側にあります。

    CUDAという、本当の参入障壁

    NVIDIAがAI分野で圧倒的な存在感を持っている理由は、GPUの性能だけではありません。

    同社が2006年から提供している「CUDA」という開発環境が、事実上の標準になっていることが大きな理由です。
    世界中のAI研究者やエンジニアがCUDAを前提にプログラムを書いているため、他社のGPUに乗り換えようとすると、ソフトウェア側の対応コストが壁になります。

    AMDも対抗する開発環境「ROCm」を提供しています。
    2026年8月26日にはROCm 10.0.0がリリースされました。
    AMDは、同じハードウェア上でROCm 7と比べて推論が平均3.3倍、学習が2.4倍に改善したと発表しています。
    ただしこれはAMD自身が公表した数値であり、第三者の検証結果ではありません。

    性能面で差が縮まっても、開発のしやすさと、既存の資産をそのまま動かせるかという点では、まだCUDAに一日の長がある、というのが実情です。
    ハードウェアの性能競争と、開発環境の乗り換えコストは、別の話だということです。

    業務用GPUの世界

    ゲーム用のGeForceとは別に、NVIDIAはデータセンター向けのAI専用GPUを展開しています。

    代表的なのが「H100」です。
    2022年3月22日、Hopperアーキテクチャとともに発表されました。
    その後継として、2024年3月18日に発表されたBlackwellアーキテクチャの「B200」が投入されています。

    性能差については、公式のスペック値から計算できます。
    H100 SXMのFP16 Tensor Core性能は1,979 TFLOPS、HGX B200はGPU 8基構成で36 PFLOPSなので1基あたり4.5 PFLOPS。
    割り算すると約2.3倍です。
    ただしNVIDIA自身はFP16での世代間比較をあまり打ち出しておらず、訴求はFP4やFP8が中心です。
    公式プレスリリースが掲げる「H100比30倍」という数字は、GB200 NVL72というラック単位でのLLM推論性能の話で、GPU単体の演算性能の比較ではありません。
    数字を見るときは、何と何を比べているのかを確認する必要があります。

    アーキテクチャの名前

    NVIDIAのGPUアーキテクチャ名には、科学者や数学者の名前が使われています。
    Fermi（エンリコ・フェルミ）、Kepler（ヨハネス・ケプラー）、Hopper（グレース・ホッパー）、Ada Lovelace（エイダ・ラブレス）といった具合です。

    Blackwellの由来は、NVIDIAの公式プレスリリースに書かれています。
    デイヴィッド・ハロルド・ブラックウェル。
    ゲーム理論と統計学を専門とした数学者で、全米科学アカデミーに選出された初のアフリカ系アメリカ人研究者だと紹介されています。

    なお、NVIDIAが「当社は科学者名で命名している」と宣言した公式ページは存在しません。
    確認できるのは各アーキテクチャごとの個別の説明だけです。
    命名規則というより、長く続いてきた慣行と理解するのが正確です。

    2026年、世代はもう次に進んでいる

    ここは押さえておいてください。
    2026年9月時点で、Blackwellはすでに最新世代ではありません。

    NVIDIAは2026年5月31日、次世代の「Vera Rubin」が本格生産に移行したと発表しました。
    出荷は2026年秋から始まる予定とされています。
    さらにその次の「Feynman」も開発中であることが、2026年3月のGTCで公表されています。

    データセンター向けGPUの世代交代は、コンシューマ向けより速いペースで進んでいます。

    GPUの数字を読むときの注意

    GPU市場については、あちこちで引用される定番の数字がいくつかあります。
    ただし、そのまま受け取ると意味が変わってしまうものが混じっています。
    同じ数字を他の記事で見かけたときのために、3つ挙げておきます。

    「NVIDIAのシェア92パーセント」が指しているもの

    「NVIDIAはデータセンター向けAI GPU市場で約92パーセントのシェアを持つ」という説明を、あちこちで見かけます。

    出所をたどると、この92パーセントはJon Peddie Researchが公表した数字で、対象は2025年第1四半期の「PC向けの単体グラフィックスカード市場」でした。
    パソコンとワークステーションに挿す拡張ボードの市場であって、データセンターのAIアクセラレータ市場ではありません。
    しかも、より新しい同社のデータでは94パーセントに達したとも報じられており、「92パーセントを維持している」という表現も現状と合っていません。

    データセンター向けのシェアとして公表元をたどれるのは、2020年時点のデータまでです。
    6年前の数字なので、今の状況を語る根拠にはなりません。

    というわけで、この記事では数字を使わず「NVIDIAが圧倒的多数を占めている」とだけ書きます。
    市場の定義が違う数字が、そのまま別の市場の話として流通している。
    数字を見たら、それがどの市場のいつのデータなのかを確かめる必要がある、という一例です。

    出荷台数と需要の数字には、公表元が付いていない

    「2025年のAI向けGPU出荷は約280万ユニット、需要は450万ユニット以上」といった数字も、よく目にします。
    ただしこの手の数字には、調査会社の名前が付いていません。
    近い性質で公表元がはっきりしているのは、TrendForceが2026年8月3日に出した「2026年のAIサーバー出荷は前年比約31パーセント増」という数字で、こちらも台数そのものは公表していません。

    そもそも「需要の絶対台数」は、性質上どの調査会社も公表しにくい指標です。
    誰が出したのか分からない数字が独り歩きしている、と見るのが自然でしょう。
    この記事では載せていません。

    レンタル価格は「下がり続けている」わけではない

    H100のクラウドレンタル価格も、たいてい「暴落した」という文脈で語られます。

    2023年のピーク時には1時間8ドル前後で取引された例があったとされ、その後大きく下落したのは事実のようです。
    ただし2026年に入ってからは、下げ止まりどころか上昇に転じています。
    2026年8月時点のデータでは、1年契約の価格が2025年10月の1時間1.70ドルから2026年3月には2.35ドルへ、約40パーセント上昇したと報告されています。
    オンデマンド価格も、専用クラウドで2ドルから4ドル程度、大手クラウド経由なら7ドルから12ドル程度と、事業者によって大きく幅があります。

    なお、これらの数字の出所はいずれもGPUレンタル事業者のブログで、自社の安さを訴求する動機がある点は割り引いて読む必要があります。
    公的な統計はなく、事業者が出す数字を突き合わせるしかないのが現状です。

    「一貫して下落している」という説明は、2026年時点では正しくありません。

    ここから先は、自分のパソコンの話

    ボトルネックという考え方

    どれだけ高性能なパーツを揃えても、システム全体の性能を制限する足元があれば、その投資は活きません。
    これをボトルネックと呼びます。

    典型的なのは、高性能なGPUを積んでいるのに、CPUの処理が追いつかず、GPUの性能を引き出しきれないケースです。
    逆に、非力なGPUに高性能すぎるCPUを組み合わせるパターンもあります。

    目安として、ゲーミング用途ではCPUとGPUの世代・グレードをできるだけ近づけるのが基本です。
    解像度が上がるほどGPU側の負荷が支配的になるため、4K中心ならGPUに予算を厚めに、フルHD中心で高フレームレートを狙うならCPU側の処理速度も軽視できません。

    電源容量は「大は小を兼ねる」では済まない

    電源ユニットの容量が不足すると、パソコンは正常に動きません。
    かといって必要以上に大きな電源を選ぶと、電力効率の面でムダが出ます。

    目安になる計算方法は、GPU・CPU・ストレージ・マザーボードなど各パーツの最大消費電力を足し合わせ、その合計の1.2倍から1.5倍程度を定格出力として選ぶ、というものです。
    合計700W程度と見積もられる構成なら、1,050W前後を選んでおくと余裕があります。

    なぜ余裕が必要なのか。
    ここには規格上の根拠があります。

    Intelが公開しているATX電源の設計ガイドには、電力エクスカーション、つまり瞬間的な電力の跳ね上がりに対する要求が表になっています。
    定格450Wを超え、12V-2x6コネクタを備えた電源に対する要求はこうです。
    100マイクロ秒の瞬間には定格の200パーセント、1ミリ秒では180パーセント、10ミリ秒では160パーセント、100ミリ秒では120パーセントの負荷に耐えること。

    850Wの電源なら、100マイクロ秒の一瞬に1,700W相当が流れてもシャットダウンしてはいけない、という要求です。
    最新の高性能GPUがどれだけ乱暴な電力の使い方をするかが、規格の側から見えてきます。
    安価な電源で「とりあえず動けばいい」と考えるのが危ういのは、この瞬間的な跳ね上がりに耐えられるかどうかが、平常時の数字には表れないからです。

    ATX 3.1と12V-2x6

    電源を選ぶときに目にする「ATX 3.1」「PCIe 5.1」という表記についても触れておきます。

    ATX 3.1で変わった主な点は、コネクタの信頼性改善です。
    従来の12VHPWRコネクタを12V-2x6に改称・改訂しました。
    Intelの設計ガイドには、12VHPWRで観測された信頼性上の懸念に対処するための置き換えである、と明記されています。

    具体的には、導電端子を0.25ミリ長く、センスピンを1.5ミリ短くしました。
    電源ピンが先に接触して最後に離れる構造になり、半挿しの状態ではセンスピンがつながらないため、GPU側が電力を要求しません。
    差し込みが甘いまま大電流が流れる、という事故を減らす設計です。

    ただし、これで溶損の問題が解決したと書くのは不正確です。
    12V-2x6に切り替わった後の2025年にも、コネクタの溶損事例が複数報じられています。
    指摘されている原因はコネクタ形状ではなく、カード側での複数の12Vライン間の電流の偏りです。
    改良ではあるが、完全な解決ではない、というのが正しい理解です。

    なお、瞬間的な電力ピークへの耐性の数値自体は、ATX 3.0とATX 3.1で変わっていません。
    ATX 3.1の主眼はコネクタ側にあります。

    相性問題：数字だけでは分からない落とし穴

    スペック表の数字だけでは判断できない問題がいくつかあります。

    • BIOSバージョン：最新世代のCPUを発売時期の古いマザーボードに挿しても、BIOSが対応していないと起動しないことがあります。事前のBIOSアップデートが必要なケースもあり、購入前の確認が欠かせません

    • メモリの相性：メーカーが動作を保証しているQVL（Qualified Vendor List）の対象外のメモリを使うと、動作が不安定になることがあります

    • 物理的な干渉：スペック上は問題なくても、ケースのサイズ、CPUクーラーの高さ、GPUの長さが干渉して収まらない、というトラブルが起こり得ます

    自作PCとBTO、どちらを選ぶか

    「自作PCはBTOより安い」というのは、半分正解で半分間違いです。

    適切な構成を選べれば、自作は同スペックのBTOよりおおよそ15から20パーセント程度安く作れることが多いとされています。
    ただしこれは、見積もりのミスや相性トラブルが起きなかった場合の話です。
    パーツを買い直したり、組み立てミスで破損させたりすれば、結果的にBTOより高くつくこともあります。

    見落とされがちなのがOSのライセンス費用です。
    Windows 11のライセンス代は2万円前後かかりますが、BTOの価格には最初から含まれている一方、自作ではこれが追加費用としてそのままのしかかります。

    サポート面でも違います。
    購入から数年後に起動しなくなったとき、自作では電源が悪いのかマザーボードの寿命なのか、予備パーツを持っていない限り自分で切り分ける必要があります。
    BTOの多くは1年程度の標準保証に加えて延長保証を用意しており、専門のサポートに相談できます。

    自作は「安く組める可能性がある」代わりに「見積もり・相性確認・組み立て・トラブル対応をすべて自分で担う」選択肢であり、BTOは「多少割高でも保証とサポートが付く」選択肢です。
    どちらが良いというより、自分がどこまで手間とリスクを引き受けられるかで決まります。

    PR

    2026年9月時点の最新状況

    • データセンター向けGPUは、Blackwellの次のVera Rubinが2026年5月31日に本格生産へ移行し、秋から出荷が始まる予定です。さらに次のFeynmanも開発中と公表されています

    • コンシューマ向けのGeForce RTX 50 SUPERシリーズは、2026年9月時点でNVIDIA公式に一切掲載がなく、正式発表も発売もされていません。延期説やキャンセル説の報道はありますが、いずれもリークが出どころで、NVIDIA自身は何も表明していません

    • DRAM不足の影響でGPUの実勢価格が上昇しています。2026年8月時点の米国実売で、RTX 5060 Ti 16GBが6月比で約41パーセント、RTX 5070が約36パーセント上がったと報じられています。日本国内でも8月上旬に、販売店がRTX 5070・5070 Ti・5080の再入荷が不安定である旨を告知しました

    • AMDの開発環境ROCmは2026年8月26日にバージョン10.0.0がリリースされました

    まとめ

    • AIにGPUが使われるのは、深層学習の計算が単純な行列演算の大量繰り返しで、GPUの並列処理と噛み合うから

    • ただしNVIDIAの強さの本体は、2006年から積み上げてきたCUDAという開発環境にある。性能差より乗り換えコストのほうが厚い壁になっている

    • データセンター向けGPUの世代は、すでにBlackwellからVera Rubinへ移りつつある

    • GPU市場の数字は、市場の定義がすり替わったまま流通しているものがある。「92パーセント」はデータセンターではなくPC向け単体カードの数字

    • パーツ選びでは、ボトルネック、電源容量、BIOSとメモリと物理サイズの相性を確認する。電源に余裕が必要なのは、規格上100マイクロ秒で定格の200パーセントに耐えることが求められるほど、瞬間的な電力の跳ね上がりが大きいから

    • 自作とBTOの差は価格だけではない。OSライセンス代とサポートを含めて考える

    数字は、大きさより「何の数字か」のほうが大事です。
    皆さんは、パソコンを買うとき自作派ですか、それとも完成品派ですか。

    参考・引用元

    実務で使う書式について

    この連載の内容を、社内でそのまま使える書式にまとめたものを、別のマガジンで公開しています。
    規程のひな形、対応フロー、チェックシート、報告書式などです。

    実務で使う書式・キット
    https://note.com/yunta_fukurou/m/mfc25857fab40

    関連する記事

    GPUやメモリの値段がなぜ動いているのかは、別の記事で扱っています。
    相場の推移と、円安の影響をまとめています。
    https://note.com/yunta_fukurou/n/n333f7dce39e4

    本体を決めたあとに来るのが画面です。
    モニターとアームの選び方は、こちらで扱っています。
    厚生労働省が視距離と文字の高さを数値で決めています。
    https://note.com/yunta_fukurou/n/n396fab9e1d40

    そのパソコンで動かすAIの側、生成AIとAIエージェントの使い分けと主要製品の現在地は、別の記事で扱っています。
    https://note.com/yunta_fukurou/n/ne41c5832b5a3

    CPUとGPUの役割の違い、型番の読み方、VRAM容量の考え方は、前の記事にまとめています。

    https://note.com/yunta_fukurou/n/n531e48516bdb

     
     

    梟 〜GLEANINGS〜

     
     
    Digital Workplace Architect｜社内外のIT・AIの導入と運用 IT・AI・セキュリティと周辺機器の「今さら聞けない」を一次情報で解説。書式・キットも。 Amazonのアソシエイトとして、梟 〜GLEANINGS〜は適格販売により収入を得ています。

    あなたへのおすすめ