- Whisperの文字起こしがCPUとGPUで実測何倍違うか
- 「large-v3にはVRAM 10GB必要」が誤りである理由(一次情報)
- VRAMは実際に何GBあれば足りるか/RTX 50シリーズ購入時の注意
音声の文字起こしAI「Whisper」をローカルで動かすとき、GPUは要るのか。VRAMは何GB必要なのか。
結論から言うと、GPU(float16)ならCPU比で桁違いに速くなり、VRAMは4.5GBで足ります。ネットでよく見かける「large-v3には約10GBのVRAMが必要」という数字は、実は別の実装の数値です。この取り違えで「6GBのGPUでは動かない」と誤解している人が少なくありません。
この記事では、公式ベンチマークと筆者の実測(CPUのみの業務ノートPC)を突き合わせて、CPUとGPUの実際の差と、必要なVRAM量を整理します。
結論の要約
- 速度:筆者のCPU(Core i5-1135G7)では41分の音声の文字起こしに113分(0.36倍速)。公式ベンチのGPU(float16)は約12〜15倍速で、同じ41分の音声なら3分前後で終わる計算です。
- VRAM:faster-whisperのlarge-v3はfloat16で実測4,521MB。「10GB必要」は誤りです。
- 精度:int8からfloat16にすると、単語誤り率(WER)も4.594→2.883に改善します。
「large-v3にはVRAM 10GB必要」は誤り——出所は別実装の数値
この誤情報には明確な出所があります。openai/whisper(オリジナルのPyTorch実装)のREADMEにある「largeモデル ~10GB」という表です。オリジナル実装については、この数字は正しい情報です。
しかし、現在ローカルの文字起こしで広く使われているのはfaster-whisper(CTranslate2による再実装)で、こちらのlarge-v3の実測VRAMはfloat16で4,521MBです(公式リポジトリのIssue #1030に投稿された実測値・後述)。
なぜこれが重要か:「10GB必要」を信じると、VRAM 6GBのRTX 4050や8GBのRTX 4060/3070クラスを候補から外してしまいます。実際にはfaster-whisperならこれらのGPUで問題なく動きます(標準のバッチなし設定の場合。batch_size=8のfp16は実測6.1GBのため、6GBカードでは不可です)。GPU選びの結論が変わる誤情報です。
公式ベンチマークで見るCPUとGPUの差【一次情報】
faster-whisper公式READMEのベンチマーク(Large-v2モデル・13分の音声・GPU=RTX 3070 Ti 8GB・CUDA 12.4・v1.1.0)から抜粋します。倍速換算は「音声780秒÷実測処理秒」の計算です。large-v3単体の実測は次の表で示します。
| 実装 | 精度 | 実測時間 | VRAM | 倍速換算 |
|---|---|---|---|---|
| faster-whisper | fp16 | 1分03秒 | 4,525MB | 12.4倍速 |
| faster-whisper(batch_size=8) | fp16 | 17秒 | 6,090MB | 45.9倍速 |
| faster-whisper | int8 | 59秒 | 2,926MB | 13.2倍速 |
| (参考)openai/whisper | fp16 | 2分23秒 | 4,708MB | 5.5倍速 |
large-v3モデル単体の実測は、公式リポジトリのIssue #1030に、同じ13分音声で計測したユーザー投稿のベンチマークがあります。
| モデル | 精度 | 実測時間 | 最大GPUメモリ | WER%(単語誤り率) |
|---|---|---|---|---|
| large-v3 | fp16 | 52.0秒 | 4,521MB | 2.883 |
| large-v3 | int8 | 52.6秒 | 2,953MB | 4.594 |
| large-v3-turbo | fp16 | 19.2秒 | 2,537MB | 1.919 |
※Issue #1030にはGPU型番の明記がありません(VRAM実測値がREADMEベンチのRTX 3070 Tiとほぼ一致しますが、同一GPUとは断定できません)。
注目すべきは、公式ベンチ自体がVRAM 8GBのカードで実行されている点です。「8GBで動くか」を推測する必要はありません——公式の実測がその証明です。
CPUだとどれくらい遅いか【筆者の実測】
GPUなしの業務ノートPCでの実測です。
- 環境:Dell Vostro 3500/Core i5-1135G7(4コア8スレッド)/faster-whisper large-v3・int8・beam_size=5
- 結果:41分の音声の文字起こしに113分(0.36倍速)
公式ベンチのGPU(fp16・約15倍速相当)なら、同じ41分の音声が約2分44秒で終わる計算です。処理時間はおよそ41分の1。しかも上の表のとおり、fp16は精度(WER)もint8より良くなります。速さと精度の両方が上がるのがGPU化の実際です。
VRAMは何GBあれば足りるか
公式実測から整理すると、こうなります。
| 構成 | 実測VRAM | 8GBカードでの余裕 |
|---|---|---|
| fp16/beam5/バッチなし | 約4.5GB | 約3.5GB残る=余裕で動く |
| fp16/beam5/batch_size=8 | 約6.1GB | 約1.9GB残る=動くが、画面描画・ブラウザのGPU使用と同居すると窮屈 |
| int8系 | 約2.9〜3.0GB | 十分 |
結論:文字起こし用途ならVRAM 8GBで足ります。バッチ処理を多用するなら12GBあれば余裕です。GPU搭載ノートの選び方は「GeForce搭載ノートパソコンのおすすめ」も参考にしてください。
RTX 50シリーズを買うなら:CTranslate2のバージョンに注意
最新のRTX 50シリーズ(Blackwell世代・sm120)には、把握しておくべき経緯があります。
- RTX 50系でINT8系のcompute_typeが「CUBLAS_STATUS_NOT_SUPPORTED」エラーで動かない不具合がありました(float16/bfloat16は正常)——CTranslate2 Issue #1865
- 開発側は一旦sm120でINT8を無効化(2025年12月)→ その後修正され、CTranslate2 v4.7.0(2026年2月リリース)に収録済みです
実用上の注意:faster-whisperの依存指定は「ctranslate2>=4.0,<5」と緩いため、環境によっては古いバージョンが入ります。RTX 50系でINT8を使うなら、CTranslate2が4.7.0以降であることを確認してください(float16運用なら影響ありません。RTX 4050等のAda世代も該当しません)。
また、WindowsでGPUを使うにはcuBLAS(CUDA 12)とcuDNN 9の導入が必要です(faster-whisper公式READMEのRequirements参照)。
副次的な利点:CPUが解放される
文字起こしがCPUからGPUに移ると、それまで文字起こしに占有されていたCPUが解放されます。筆者の環境では113分間CPUを食い続けていた処理が消える計算で、その間ほかの作業が普通に回せるようになります。
なお、AIエージェントやエディタ・ブラウザを並行して使う場合のボトルネックはCPUよりメモリに出やすいことを実測で確認しています。詳しくは「AIエージェントを使うノートPCのメモリは何GB必要か。実測したら32GBでした」をご覧ください。
よくある質問
Whisperのlarge-v3にはVRAM 10GBが必要ですか?
誤りです。「約10GB」はopenai/whisper(オリジナルPyTorch実装)のREADMEに記載された同実装向けの数値です。広く使われているfaster-whisper(CTranslate2再実装)では、公式READMEの実測(Large-v2)が4,525MB、公式リポジトリに投稿されたlarge-v3のユーザー実測が4,521MBと、いずれもfloat16で4.5GB程度です。
VRAM 8GBのGPUで動きますか?
動きます。faster-whisper公式のベンチマーク自体がRTX 3070 Ti(8GB)で実行されており、float16・バッチなしの実測VRAMは約4.5GBです。
CPUとGPUで何倍違いますか?
公式ベンチのGPU(float16)は約12〜15倍速、筆者のCPU実測(Core i5-1135G7・int8)は0.36倍速でした。同じ41分の音声で比較すると、113分→約2分44秒と、処理時間はおよそ41分の1になる計算です。
RTX 50シリーズでfaster-whisperは動きますか?
動きます。ただしINT8系の精度設定を使う場合は、CTranslate2 4.7.0以降が必要です(それ以前はRTX 50系でINT8が無効化・エラーになる不具合がありました)。float16で使うなら影響ありません。
まとめ
ローカル文字起こしのCPUとGPUの差は「多少速くなる」レベルではなく、実測値の比較で数十倍相当(筆者のCPU実測と公式ベンチの比較で約41分の1の処理時間)です。そして必要VRAMは「10GB」ではなく実測4.5GB——8GBのGPUで公式に実証済み。文字起こしを日常的に行うなら、VRAM 8GBクラスのGPU搭載機は十分に検討に値します。RTX 50系を選ぶ場合だけ、CTranslate2のバージョン(4.7.0以降)を確認してください。
本記事のベンチマーク値はfaster-whisper公式README(Large-v2)の公表値、および公式リポジトリIssue #1030に投稿されたユーザー実測値(large-v3)、CPU実測は筆者の業務PC(Dell Vostro 3500/Core i5-1135G7)での2026年7月の測定値です。倍速換算は「音声秒数÷処理秒数」で計算しています。
