Tech Tips

Whisperの文字起こしはCPUとGPUで何倍違う?実測比較・「VRAM 10GB必要」は誤りだった

※本ページにはプロモーションが含まれています。

Whisperの文字起こしはCPUとGPUで何倍違う?実測比較・「VRAM 10GB必要」は誤りだった
この記事でわかること
  • Whisperの文字起こしがCPUとGPUで実測何倍違うか
  • 「large-v3にはVRAM 10GB必要」が誤りである理由(一次情報)
  • VRAMは実際に何GBあれば足りるか/RTX 50シリーズ購入時の注意

音声の文字起こしAI「Whisper」をローカルで動かすとき、GPUは要るのか。VRAMは何GB必要なのか。

結論から言うと、GPU(float16)ならCPU比で桁違いに速くなり、VRAMは4.5GBで足ります。ネットでよく見かける「large-v3には約10GBのVRAMが必要」という数字は、実は別の実装の数値です。この取り違えで「6GBのGPUでは動かない」と誤解している人が少なくありません。

この記事では、公式ベンチマークと筆者の実測(CPUのみの業務ノートPC)を突き合わせて、CPUとGPUの実際の差と、必要なVRAM量を整理します。

結論の要約

  • 速度:筆者のCPU(Core i5-1135G7)では41分の音声の文字起こしに113分(0.36倍速)。公式ベンチのGPU(float16)は約12〜15倍速で、同じ41分の音声なら3分前後で終わる計算です。
  • VRAM:faster-whisperのlarge-v3はfloat16で実測4,521MB。「10GB必要」は誤りです。
  • 精度:int8からfloat16にすると、単語誤り率(WER)も4.594→2.883に改善します。

「large-v3にはVRAM 10GB必要」は誤り——出所は別実装の数値

この誤情報には明確な出所があります。openai/whisper(オリジナルのPyTorch実装)のREADMEにある「largeモデル ~10GB」という表です。オリジナル実装については、この数字は正しい情報です。

しかし、現在ローカルの文字起こしで広く使われているのはfaster-whisper(CTranslate2による再実装)で、こちらのlarge-v3の実測VRAMはfloat16で4,521MBです(公式リポジトリのIssue #1030に投稿された実測値・後述)。

なぜこれが重要か:「10GB必要」を信じると、VRAM 6GBのRTX 4050や8GBのRTX 4060/3070クラスを候補から外してしまいます。実際にはfaster-whisperならこれらのGPUで問題なく動きます(標準のバッチなし設定の場合。batch_size=8のfp16は実測6.1GBのため、6GBカードでは不可です)。GPU選びの結論が変わる誤情報です。

公式ベンチマークで見るCPUとGPUの差【一次情報】

faster-whisper公式READMEのベンチマーク(Large-v2モデル・13分の音声・GPU=RTX 3070 Ti 8GB・CUDA 12.4・v1.1.0)から抜粋します。倍速換算は「音声780秒÷実測処理秒」の計算です。large-v3単体の実測は次の表で示します。

実装精度実測時間VRAM倍速換算
faster-whisperfp161分03秒4,525MB12.4倍速
faster-whisper(batch_size=8)fp1617秒6,090MB45.9倍速
faster-whisperint859秒2,926MB13.2倍速
(参考)openai/whisperfp162分23秒4,708MB5.5倍速

large-v3モデル単体の実測は、公式リポジトリのIssue #1030に、同じ13分音声で計測したユーザー投稿のベンチマークがあります。

モデル精度実測時間最大GPUメモリWER%(単語誤り率)
large-v3fp1652.0秒4,521MB2.883
large-v3int852.6秒2,953MB4.594
large-v3-turbofp1619.2秒2,537MB1.919

※Issue #1030にはGPU型番の明記がありません(VRAM実測値がREADMEベンチのRTX 3070 Tiとほぼ一致しますが、同一GPUとは断定できません)。

注目すべきは、公式ベンチ自体がVRAM 8GBのカードで実行されている点です。「8GBで動くか」を推測する必要はありません——公式の実測がその証明です。

CPUだとどれくらい遅いか【筆者の実測】

GPUなしの業務ノートPCでの実測です。

  • 環境:Dell Vostro 3500/Core i5-1135G7(4コア8スレッド)/faster-whisper large-v3・int8・beam_size=5
  • 結果:41分の音声の文字起こしに113分(0.36倍速)

公式ベンチのGPU(fp16・約15倍速相当)なら、同じ41分の音声が約2分44秒で終わる計算です。処理時間はおよそ41分の1。しかも上の表のとおり、fp16は精度(WER)もint8より良くなります。速さと精度の両方が上がるのがGPU化の実際です。

VRAMは何GBあれば足りるか

公式実測から整理すると、こうなります。

構成実測VRAM8GBカードでの余裕
fp16/beam5/バッチなし約4.5GB約3.5GB残る=余裕で動く
fp16/beam5/batch_size=8約6.1GB約1.9GB残る=動くが、画面描画・ブラウザのGPU使用と同居すると窮屈
int8系約2.9〜3.0GB十分

結論:文字起こし用途ならVRAM 8GBで足ります。バッチ処理を多用するなら12GBあれば余裕です。GPU搭載ノートの選び方は「GeForce搭載ノートパソコンのおすすめ」も参考にしてください。

RTX 50シリーズを買うなら:CTranslate2のバージョンに注意

最新のRTX 50シリーズ(Blackwell世代・sm120)には、把握しておくべき経緯があります。

  • RTX 50系でINT8系のcompute_typeが「CUBLAS_STATUS_NOT_SUPPORTED」エラーで動かない不具合がありました(float16/bfloat16は正常)——CTranslate2 Issue #1865
  • 開発側は一旦sm120でINT8を無効化(2025年12月)→ その後修正され、CTranslate2 v4.7.0(2026年2月リリース)に収録済みです

実用上の注意:faster-whisperの依存指定は「ctranslate2>=4.0,<5」と緩いため、環境によっては古いバージョンが入ります。RTX 50系でINT8を使うなら、CTranslate2が4.7.0以降であることを確認してください(float16運用なら影響ありません。RTX 4050等のAda世代も該当しません)。

また、WindowsでGPUを使うにはcuBLAS(CUDA 12)とcuDNN 9の導入が必要です(faster-whisper公式READMEのRequirements参照)。

副次的な利点:CPUが解放される

文字起こしがCPUからGPUに移ると、それまで文字起こしに占有されていたCPUが解放されます。筆者の環境では113分間CPUを食い続けていた処理が消える計算で、その間ほかの作業が普通に回せるようになります。

なお、AIエージェントやエディタ・ブラウザを並行して使う場合のボトルネックはCPUよりメモリに出やすいことを実測で確認しています。詳しくは「AIエージェントを使うノートPCのメモリは何GB必要か。実測したら32GBでした」をご覧ください。

よくある質問

Whisperのlarge-v3にはVRAM 10GBが必要ですか?

誤りです。「約10GB」はopenai/whisper(オリジナルPyTorch実装)のREADMEに記載された同実装向けの数値です。広く使われているfaster-whisper(CTranslate2再実装)では、公式READMEの実測(Large-v2)が4,525MB、公式リポジトリに投稿されたlarge-v3のユーザー実測が4,521MBと、いずれもfloat16で4.5GB程度です。

VRAM 8GBのGPUで動きますか?

動きます。faster-whisper公式のベンチマーク自体がRTX 3070 Ti(8GB)で実行されており、float16・バッチなしの実測VRAMは約4.5GBです。

CPUとGPUで何倍違いますか?

公式ベンチのGPU(float16)は約12〜15倍速、筆者のCPU実測(Core i5-1135G7・int8)は0.36倍速でした。同じ41分の音声で比較すると、113分→約2分44秒と、処理時間はおよそ41分の1になる計算です。

RTX 50シリーズでfaster-whisperは動きますか?

動きます。ただしINT8系の精度設定を使う場合は、CTranslate2 4.7.0以降が必要です(それ以前はRTX 50系でINT8が無効化・エラーになる不具合がありました)。float16で使うなら影響ありません。

まとめ

ローカル文字起こしのCPUとGPUの差は「多少速くなる」レベルではなく、実測値の比較で数十倍相当(筆者のCPU実測と公式ベンチの比較で約41分の1の処理時間)です。そして必要VRAMは「10GB」ではなく実測4.5GB——8GBのGPUで公式に実証済み。文字起こしを日常的に行うなら、VRAM 8GBクラスのGPU搭載機は十分に検討に値します。RTX 50系を選ぶ場合だけ、CTranslate2のバージョン(4.7.0以降)を確認してください。

⚡ 次に読む

GPU搭載ノートの具体的な選び方と、AI作業全般のメモリ要件はこちらで解説しています。

▶ GeForce搭載ノートPCのおすすめ
AIエージェント用PCのメモリは何GB必要か【実測】

本記事のベンチマーク値はfaster-whisper公式README(Large-v2)の公表値、および公式リポジトリIssue #1030に投稿されたユーザー実測値(large-v3)、CPU実測は筆者の業務PC(Dell Vostro 3500/Core i5-1135G7)での2026年7月の測定値です。倍速換算は「音声秒数÷処理秒数」で計算しています。

監修者

江田健二のプロフィール画像

江田 健二(RAUL株式会社 代表取締役)

慶應義塾大学卒業後、アクセンチュアにてエネルギー・IT分野のコンサルティングに従事。2005年にRAUL株式会社を設立し、企業のシステム開発支援からWebマーケティング戦略まで幅広い領域を支援してきた。

IT・デジタルテクノロジーおよびエネルギー業界・電力ビジネスに精通し、デジタルと社会インフラの接点を捉えた情報発信を行っている。

光回線、VPN、PC、格安SIM、電力系のメディアを複数運営。Yahoo!ニュース公式コメンテーターやテレビ・ウェブメディアでも幅広く発信中。

監修者(江田健二)のプロフィール・実績はこちら

  • この記事を書いた人
  • 最新記事

RAUL株式会社

4DPocket(https://4dpocket.jp)は、RAUL株式会社が運営するPC・ガジェット情報メディアです。編集部ではノートパソコン・デスクトップPC・VPNなどのデジタル機器について、スペック比較・用途別おすすめ・選び方ガイドを提供しています。記事の監修は代表取締役の江田健二(元アクセンチュア、IT・エネルギー業界専門家)が担当。正確で実用的な情報をお届けします。

-Tech Tips

当社運営メディア