AIのプロに聞く「ローカルでAI動かすのに、必要なスペックって？」
AIは便利です。便利すぎて、気がつくと何度もトークや壁打ちを重ねてしまい「ごめん、トークン（会話できる回数）を使い切っちゃったから上のプランで契約しようよ！」と言われちゃう。そんなに無駄遣いしたつもりはなかったのに…。
そしてAIに慣れすぎると、社外秘データを無意識にAIに渡してしまいそうになります。いけません、それは大問題！
それもこれも、クラウド上で処理を行なう“クラウドAI”を利用しているから。だからこそ視野に入れたいのが、ローカルAI。家やオフィスにあるPCの中だけでAIを動かせば、クラウドへのアップロードも不要。トークン？ 無料で使い放題だぜ！ 入力したデータが外部に漏れる心配もなし。
…と、魅力がいっぱいのローカルAI。しかし、ハードルとなるのが「AIをローカルで動かせるだけのマシン性能」。一体、どんなスペックのPCにしたらいいのでしょう。
ローカルAIに関心を抱きつつ、実際に手を出せずにいたそんなある時「理想のローカルAI環境が電気通信大学にある」という情報が入ってきました。マジですか？ それはいろいろ教えてもらうしかないよね。
AI＆ロボティクス研究の最前線「ELSA Physical AI Lab」
やってきたのは電気通信大学内にあるUECアライアンスセンターです。ここにあるエルザ ジャパンのELSA Physical AI Labが今回の目的地。
一般ユーザー向けには、GPUなどの販売を手掛けているエルザ ジャパンですが、エンタープライズ領域も展開中。
プロフェッショナル用GPU、ワークステーション、ロボット、XRヘッドセットなどを扱っている企業による研究開発施設ですよ。こんにちは！
オープンしたのは2025年12月ですから、まだまだできたばかり。それでも車輪付きかつ4足歩行もできるATV（全地形対応車） DEEPRobotics Lynx M20や、6軸ロボットアームが備わったUGV（無人地上車両） AgileX Ranger MINI 2.0＋Elephant Robotics myCobot 280がいました。
「フィジカルAIという名前のとおり、ここは生成系AIとロボットの組み合わせを研究開発する場所です。GPUやCPUを使って、いろんな独自の生成モデルを作っています」（岡田さん）
と、お話しいただいたのはELSA フィジカルAI事業部 部長の岡田さん。GPU＆CPUベンダーが、これからのソリューションの軸となる研究開発に取り組んでいるんですね。
企業と大学、学生の交差点となるUECアライアンスセンター
しかし大学内に研究機関を設立するというのも興味深いお話です。このUECアライアンスセンターというのはどんな施設なのでしょうか？ 電気通信大学の田中教授にお聞きしました。
「UECアライアンスセンターは協働・共創の場ですね。主に企業の方々と本学とで共同研究を進めていただくための空間として、“オープンな場所”になっています。2階から5階まで全部で40部屋あって、そこをいろんな企業さんに賃貸契約をしていただき入ってもらっています」（田中教授）
前述したように、ELSA Physical AI Labがオープンしてから3カ月ほど。現時点ではまだ協働・共創は始まっていないものの、学生の皆さんはエルザ ジャパンの取り組みに興味津々だと言います。
「先日のワークショップでは、エルザ ジャパンさんが行っている『生成AIとロボットの研究開発』について語っていただきました。過去最高となる100名近い参加者がいたのですが、みなさんの反応はとても良かったですね」（田中教授）
これが「快適なローカルAI体験」の条件
さて、ローカルAIを快適に動かすためのスペックのお話です。現在はゲーミング向けのGPUでローカル環境における生成AIを走らせる人が多い時代。というのも、生成AIの推論は、CPUよりも並列処理が得意なGPUで処理するほうが速いんです。つまりGPUを使った方が、答えが戻ってくるまでの時間も短くなるということ。
ところが…。頭のいいAIモデルを使うにはGPUのVRAM(*)容量が重要です。
*GPUに搭載されるメモリのこと。
現在発売されているGPUを見ると、エントリークラスでVRAM容量が6〜8GB、ミドルクラスで12〜16GBとなっています。ゲームで遊ぶならこのスペックでだいたい問題なし。エントリークラスはフルHD、ミドルクラスなら4K解像度でだいたい心ゆくまで遊べます。
…が、しかし。生成AIの世界では、VRAMは16GBでギリギリといった印象。読み込める生成AIモデルが限られてしまいます。
ここでスポットライトを当てたいのがAMDのRadeon™ AI PRO R9700。
30万円を切る価格で32GBという大容量VRAMが使えるプロフェッショナル向けGPUです。ライバルたちはVRAM容量1GBあたりの価格が1万円を軽く超えていくのに対して、Radeon™ AI PRO R9700は9000円〜/1GB。量子化(*)すれば、Llama 3.1 70BのAIモデルも動かせます。
*AIモデルの賢さを保ったまま容量を圧縮すること。
Llama 3.1 70Bは、700億パラメーター(*)を持ち、人間のように会話できるAIモデル。これがローカル環境で動くのです。30万円以下で。お買い得すぎます。しかも薄くてPC筐体にインストールしやすい。電源は750W以上でいけます。これよくない？
*数値が大きいほど、より複雑な指示や曖昧なニュアンスを理解して回答できるようになる指標のこと。
▼プロフェッショナル向けAMD Radeon™ AI PRO GPUについて詳しくはこちら
AI ファーストのプロフェッショナル向け AMD Radeon™ AI PRO グラフィックス カード
AMDの佐藤さんにもお話を聞きました。
「我々がプロダクトを企画した時点では、様々なパラメーター数のAIモデルを使う機会が増えてきた時期だったんです。その中で、一般の方々がゲーム向けのGPUを使ってAIを動かしていたのですが、VRAMが16GBでは足りないというケースが多かったんです。そこで低価格でVRAM容量32GBという、ほかにライバルがいないRadeon AI PRO R9700を作ろうと決めたんです」（佐藤さん）
お手頃価格を実現できたのは、「既存のミドルレンジのGPU（16GB）をベースにしたから」とのこと。
そしてELSA Physical AI Labでは、このRadeon™ AI PRO R9700を2台（合計VRAM 64GB！）を組み込んだサーバーマシン「ELSA VELUGA-R A50E G6L」で、独自のAIモデルを開発しています。
Radeon AI PRO R9700のポテンシャルを活かし、AIとロボットを連携させるための段取り、試作、評価の仕組みを整える──。低コストで高パフォーマンスな環境で、近い将来、僕らの生活の役に立ってくれるよう、ロボットをフィジカルに動かすための研究をしています。まさに理想の世界じゃないですか？
役立つAIモデルが作れる・見極められる「ROCm」
この「試作」をスピーディに繰り返すために欠かせないキーワードがあります。それがROCm（ロックエム）。AMDのGPUでAIを使うための魔法の呪文。開発ツール、ライブラリ、ドライバーがまとまったミドルウェアで、AMD GPU向けのAIモデル開発支援環境です。PythonやPyTorch、C++で直接コードが書ける人なら、いますぐ自作AIモデルにチャレンジできます。
または既存のAIモデルをデプロイ(*)してあれこれ使ってみながら、自分がやりたいことを探っていく。そもそも何のためにAIを使いたいのか。たとえば僕ら、ギズモード編集部の場合だったら、記事作成のためのサポートAIが欲しいな。日々の情報収集や、セキュアに使える校正校閲ツールのように。
*開発したソフトウェア・アプリを実際に使える状態にするプロセス。
趣味としてのAI活用だけじゃなく、自分たちの仕事を手助けしてくれるAIのスペックや、必要なAIモデルのパラメーター数を見極めるための一歩を踏むってやつです。そうか、VRAM 32GBがあれば「このスペックじゃ、あのAIモデルは動かせないね...」と諦めることが激減するのか。やってみたい！
「とはいえ、AIの環境構築ってとても面倒なんです」（岡田さん）
え、じゃあお手軽にはローカルAIにチャレンジできないってこと？
環境構築を簡単にしてくれる「AI-Stack」
「大丈夫です。GUI(*)で環境構築ができる「AI-Stack」がありますから」（岡田さん）
*グラフィックやアイコンなどで視覚的にわかりやすくしたインターフェースのこと。
AI-StackはGPUのリソース運用とAIインフラ管理をまとめて扱えるプラットフォーム。 直感的なインターフェースでVRAM領域の分割やマルチGPU運用(*)ができますし、AIの利用環境を短時間で構築することも可能です。
*1台のPCで複数のGPUを連携させて使用すること。
たとえば32GBのVRAMで1つのAIモデルを動かすだけではなく、4GB/4GB/8GB/16GBと分割して、それぞれの領域にマッチしたパラメーター数のAIモデルをデプロイしてみる。もしもVRAM 8GBで動くAIモデルでも趣味＆仕事の役に立つことがわかれば、ミドルクラスのゲーミングノートPCでも目的のAIモデルを動かせちゃう。「AIであれがやりたい！ これがやりたい！」の希望をRadeon™ AI PRO R9700でテストして、適切な環境の目星がついたら共有できちゃうんです。
またサーバーマシンはLinuxで動いていますが、AI-StackにはWindows PCからでもアクセスできる。ここもやってみたいの気持ちを後押ししてくれます。
まずは「AMD ROCm TEST Drive」で試してみよう
プロフェッショナル向けのGPUをゲットするまえにクラウドでテストすることも可能です。そのサービスがAMD ROCm TEST Drive。Radeon™ AI PRO R9700の32GBというVRAM領域を自由に使えます。いろんな目的を叶えるためのAIモデルをチェックして、Radeon AI PRO R9700でどのように実現できるか、1つあればいいのか、もしかしたら2台導入してマルチGPUで運用したらいいのかなども試せます。
現在は北米、ヨーロッパ、そして日本でサービス展開中。日本ではエルザ ジャパンが担当していますが、企業として申し込むなら、7日間は無料で使えるというのもありがたいところ。ようし、Radeon™ AI PRO R9700を試してみようじゃありませんか。
申し込みはこちら
なお、このAMD ROCm TEST DriveにはAMD Ryzen™ Threadripper™ PRO 9000WXシリーズが搭載されていますが、通常のAMD Ryzen™ プロセッサを搭載したワークステーションもELSAで購入可能です。
AIの扉、Radeon™ AI PRO R9700で開けよう
32GBものVRAMを持つRadeon™ AI PRO R9700は、動画編集や3D CGモデリング、CADなど、クリエイティブワークにも活躍してくれます。余裕のあるマザーボードにROCm＆Linuxの起動ドライブと、Windowsの起動ドライブを組み込んでおけばOKだからね。
「1枚30万円は高い」と思うかもしれませんが、チャレンジできることやサポートしてくれることを考えたら本当にお買い得です（2度め）。編集部でもほしいな。編集長、買ってください！ そして僕らにAIを作らせてください！
▼AMD Radeon™ AI PRO R9700の詳細＆搭載PCはこちら
AMD Radeon™ AI PRO R9700 搭載 PC 特集 | AMD HEROES
Source: AMD, ELSA, 電気通信大学
