AMDは2023年6月13日に、AIに用いられる大規模言語モデルのトレーニング用に設計されたアクセラレータ「AMD Instinct MI300X」を発表しました。MI300XはCPUタイルとGPUタイルの組み合わせではなく、GPUタイルのみを使用して最大192GBのHBM3メモリをサポートしています。

AMD Expands Leadership Data Center Portfolio with New EPYC CPUs and Shares Details on Next-Generation AMD Instinct Accelerator and Software Enablement for Generative AI

https://www.amd.com/en/newsroom/press-releases/2023-6-13-amd-expands-leadership-data-center-portfolio-with-.html



AMD Expands AI/HPC Product Lineup With Flagship GPU-only Instinct MI300X with 192GB Memory

https://www.anandtech.com/show/18915/amd-expands-mi300-family-with-mi300x-gpu-only-192gb-memory

AMD Preps GPU to Challenge Nvidia's Grip on the Generative AI Market | PCMag

https://www.pcmag.com/news/amd-preps-gpu-to-challenge-nvidias-grip-on-the-generative-ai-market

AMDは6月13日に開催したイベント「Data Center and AI Technology Premiere」の中で、次世代の高性能CPUやAIアクセラレータのソリューションを市場投入するため、Amazon Web Services(AWS)やHugging Face、Meta、Microsoft Azureなどと技術的パートナーシップを結んだことを発表しました。

また、AMDのリサ・スーCEOは、「AIは次世代コンピューティングを形作る決定的なテクノロジーであり、率直に言って、AMDの最大かつ最も戦略的な長期的な成長機会です」と述べ、AIやデータセンター向けの新製品についての情報も明らかにしました。

新たにAMDが発表したAIアクセラレータである「MI300X」は、ChatGPTなどのAIに用いられる大規模言語モデルのトレーニング向けに設計されています。次世代のAMD CDNA 3アクセラレータアーキテクチャーに基づいており、最大192GBのHBM3メモリーをサポートし、生成AIにとって重要な大規模言語モデルのトレーニングと推論に必要なコンピューティングとメモリ効率を提供するとのこと。



スー氏は、「MI300XはMI300Aと非常によく似ています。基本的には、MI300Aから3つのチップを外し、2つのGPUチップを載せてさらにHBM3メモリを積んだものです。私たちはこの製品を、まさに生成AIのために設計しました」「最大規模の言語モデルに必要なGPUの数を減らすことができ、特に推論のパフォーマンスを大幅に向上させると共に、総所有コストを削減することが可能です」と述べています。

MI300Xの大容量メモリにより、400億のパラメータを持つオープンソースの大規模言語モデル・Falcon-40bなどの大規模な言語モデルを単一のMI300Xに適合させられるほか、8つのMI300Xアクセラレータを業界標準の設計にまとめたAMD Instinctプラットフォームも提供されます。



イベントでは、Falcon-40bを単一のMI300Xで実行し、「サンフランシスコについての詩を書くように」という指示に対して数秒でテキストを作成するデモンストレーションも行われました。AMDは2023年第3四半期から、主要顧客に向けてMI300Xの提供を開始する予定だとのことです。



AMDは、2023年の時点で約300億ドル(約4兆2000億円)である生成AI向けデータセンターチップ市場が、2027年には約1500億ドル(約21兆円)にまで拡大すると予測しています。テクノロジー系メディアのPCMagは、新たなエンタープライズ向けアクセラレータの発表により、AMDはNVIDIAが持っている市場のパイを奪おうとしていると指摘しました。

また、AMDは最新のデータセンター向けに最適化されたコンピューティングインフラストラクチャである第4世代AMD EPYCのアップデートや、デスクトップPC向けAPUの「Ryzen Pro 7000」およびラップトップPC向けの「Ryzen Pro 7040」シリーズも発表しました。

AMD Expands World Class Commercial Portfolio with Leadership Mobile and Desktop Processors for Business Users

https://www.amd.com/en/newsroom/press-releases/2023-6-13-AMD-Expands-World-Class-Commercial-Portfolio-with-.html



AMD Ryzen Pro 7000 and 7040 Series Processors : Zen 4 For Commercial Deployments

https://www.anandtech.com/show/18907/amd-ryzen-pro-7000-and-7040-series-processors-zen-4-for-commercial-deployments