高性能・高電力効率！ AMDのGPU/APUとCPU
2025.02.07
に注目！
～次世代パフォーマンスを支えるGPU/APU＆CPUの魅力～
AIやシミュレーション、大規模データ解析など、計算負荷の高い業務に求められるのは、
信頼性とパフォーマンスの両立です。
AMDは、最先端のGPU/APUとCPUでこれらのニーズを的確に捉え、
圧倒的な計算性能と優れたコストパフォーマンスを実現しています。
本トピックスでは、AMDのイベント『Advancing Al & HPC 2024 Japan』で聴講してきた内容を基に、
研究開発や業務効率化を支えるAMD製品の情報をお届けします。
AMD Instinct™ 300シリーズが
生成AI＆HPCに高いパフォーマンスを発揮
昨年秋のTOP 500において、AMD Instinct™搭載のスパコンが、1位をはじめ上位を多く占めました。GREEN500でも健闘し、instinct™ベースの超巨大なシステムが高い電力効率を実現していることが証明されました。
生成AIの推論ではモデルサイズとコンテキストレングスの両方ともメモリが大事ですが、MI300Xのメモリは192GBあるため、1ノードで納めることが可能です。MI300シリーズは競合アクセラレータとの比較でもメモリ容量のアドバンテージがあるので、少ないアクセラレータ数で同等のパフォーマンスが期待できます。
また、MI300A（APU型）は、CPUとGPUが同じ台の上に載っているため、これだけでOSが起動できます。
最大の特長はシェアードメモリDIMMがなく、HBM３のみとなり、このためCPUメモリからGPUの広帯域メモリへのデータコピーが発生しなくなるアーキテクチャとなります。
ソフトウェアに関しては、オープンソースのエコシステムが開発されています。PyTorchサポートのエコシステムのおかげで、ユーザから見たら何もしない（コードチェンジなし）で実行できます。
ROCmは、全てオープンソースのソフトウェアスタックでGitHubで全て出てきます。ソースコードも全部公開されており、プルリクエストも歓迎している状況です。CUDAで動いているアプリケーションをInstinct™上で持っていくのはかなり楽な状態となっており、CUDAのAPIをHIPのAPIに変換（文字列の変換）だけで動かすことが可能です。
AMD公式サイト 関連ページ
🔗https://www.amd.com/ja/products/accelerators/instinct/mi300.html
第5世代EPYC™は
最大ブーストクロック周波数5GHzを実現
実は、Netflix、TVer、Google検索エンジン、zoomなどの裏側でAMD CPUが動いてサービスが提供されています。
そのAMD CPUのEPYC™第５世代 9005シリーズ（コードネームTurin）では、世界初の最大クロック数5GHzを実現。最大192コア、最大384スレッドで、クラスタ級が一つのパッケージでできあがります。Genoaとソケットの互換性があるので、サーバにGenoaがある場合、CPUを載せ替えるだけで最新にアップグレードが可能です。
また、昨今ではGPUに目が行きがちですが、GPUだけでOSは動きません。CPUの性能も重要です。例えば、9575FをGPUサーバのヘッドノードに使ってオーケストレーションすれば、CPUを替えるだけで、性能が上がる場合もあります。
さらに、競合製品に比べAMDのCPUはとても小さく、電力効率は半導体面積によるため、電力効率2倍で電気代半分ほどになります。
AMD公式サイト 関連ページ
🔗https://www.amd.com/ja/products/processors/server/epyc/9005-series.html
HPC、生成AI、そして量子シミュレーションにも
高性能・高電力効率なAMDに注目
弊社でも、AMDのCPU、GPU/APUが搭載されたサーバやワークステーションをご提供しています。オンプレでLLMを行う方に向け、ローカルRAG搭載システムをご提供しておりますが、もちろんAMDのAPU/GPUで実行可能です。
また、blueqat社により開発された量子ゲートシミュレータ「Qrows（クロウズ）」もAMDのGPUで実行でき、ローカルRAG同様、オンプレに搭載可能です。
さらに、QUBO/HOBOに対応の量子インスパイアードソルバ「TYTAN Roqstar」もAMD GPUで行えます。
※こちらに関しては、ご興味のある方はご相談ください。
どの分野でも、高性能・高電力効率で高いコストパフォーマンスを発揮するAMD搭載システムをお薦めしております。OSやソフトウェアもご要望に合わせてインストールいたします。ぜひ、ご相談ください。