NVIDIA「Jetson Orin Nano」のベンチマーク結果を公開 従来NanoやTX2 NXとの性能差は?「GTC 2022」レポート
「GTC 2022」で「Jetson Orin Nano」が発表され、エッジAIやロボティクスの知能化コンピュータのラインアップに変動が起こった。それは開発者にとってJetsonファミリーがシンプルな構成になり、かつ、性能の向上だけでなく、開発の短期間化が進む可能性を示すものだ。
「GTC 2022」のセッションでは、Jetsonシリーズのロードマップの解説とともに、「Jetson Orin Nano」の詳細やベンチマークが公開されたのでレポートしておこう。
セッション内容はアーカイブで視聴できるので(英語)、詳しく確認したい場合は、A41731「THE NVIDIA JETSON ROADMAP FOR EDGE AI AND ROBOTICS」NVIDIA ハードウェア プロダクト マネージャー LEELA S. KARUMBUNATHAN氏のセッションにアクセスしよう(約20分)。
●「Jetson Orin Nano」登場でシンプルになったラインアップ構成
「Jetson」シリーズはCPUとGPUを搭載した超小型のAIコンピュータ。カメラ、LiDARなど各種センサーと接続するための I/Oも搭載されている。ユースケースとしては主に、自動搬送ロボット、各種知能化ロボット、AIセキュリティカメラ、ドローン、AI推論処理モバイル機器など、エッジAIデバイスに利用されている。従来のJetsonの製品構成はさまざまな名前の製品がラインアップされていて(下図の下段)、やや複雑な印象だったが、高性能な「Orin」で一新され、かつエントリーモデルの「Jetson Orin Nano」の登場によって、初級から上級まで「Orin」シリーズから選択できるシンプルな構成(下図の上段)となった。
基本的には、Jetsonシリーズの選択は上段の、エントリーが「Jetson Orin Nano」、中級が「Jetson Orin NX」、上級の「Jetson AGX Orin」から選択するシンプルな構成になった
●「Jetson Orin」シリーズの互換性
「Jetson Orin NX」と「Jetson Orin Nano」はサイズ、ピン、フォームファクタが共通。開発アーキテクチュアが共通ということは、Orin間でのアップグレードや換装は容易だ。ハイエンドの「Jetson AGX Orin」のみサイズなどが異なる点は留意しよう。「Jetson Orin Nano」の発売は2023年1月を予定している。ただし、発売中の「Jetson AGX Orin 開発キット」を使って開発したソフトウェアやモデル類は、エミュレータで「Jetson Orin NX」と「Jetson Orin Nano」にも利用できるので、「Jetson Orin Nano」の開発を「Jetson AGX Orin 開発キット」を使って今日からでも始めることができる。
発売についてのロードマップを確認しよう。下図のように、ハイエンドの「Jetson AGX Orin 開発キット」と「Jetson AGX Orin 32GB」は既に発売中だ。「Jetson AGX Orin 64GB」と「Jetson Orin NX 16GB」が今年10月にリリースがはじまる。そして、年明け1月に「Jetson Orin NX 8GB」と「Jetson Orin Nano」の2機種がリリースされる。
Jetsonシリーズの発売時期。下段はJetPack関連(ソフトウェア)のロードマップ(リリース予定)「Jetson AGX Orin 開発キット」のエミュレーションの手順は下記の要領で行える。
●「Jetson Orin Nano」の性能
では、今回発表された「Jetson Orin Nano」のスペックや性能上の位置づけを見てみよう。公表されているスペックシートは下記の通りだ。8GB版と4GB版の2種類が用意されている。
メモリ容量の違いとともに、40TOPSと20TOPSという性能の違いがある。また、省エネ設定(消費電力)も異なっていて、これは重要だ。エッジAIはモバイルデバイスに用いられるケースが多いため、エネルギー効率、バッテリー使用量は大きなポイントとなる。
Jetson Orin Nano アーキテクチュアの構成と詳細新しい「Jetson Orin Nono」と、従来の「Jetson Nano」「Jetson TX2」との仕様の比較は下表。「Jetson Orin Nano」のパフォーマンスの向上がひと目でみてとれる。PCIレーンの数やUSBにも注目したい。
●「Jetson Orin Nano」ベンチマーク比較
このセッションでは、エントリーモデルである現行の「Jetson Nano」と「Jetson TX2 NX」とのベンチマーク比較が公開された。基調講演で語られた80倍高速なのは、「AI Perf」の性能に現れている。その他の項目でも従来機と比べて、大きな性能の向上が確認できる。
ベンチマーク比較「Jetson AGX Xavier」のパフォーマンスは、Jetpack 4.1からJetpack 5.0のアップデートで1.5倍向上した。Jetson Orin シリーズでも同様の最適化が見られ、グラフ数値が向上することが期待できる。
ビジョンモデルの性能の高速化
●ROS開発者を取り込み、進化する「Isaac」
NVIDIAのエッジAI構想はハードウェア・ラインアップの充実だけではない。ロボティクス・エコシステムの構築。高精度なシミュレーション機能などを備えた「Issac」ブラットフォーム(NVIDIA Issac Robotics Platform)は、既に開発者1万、連携企業6千、連携パートナーは150以上にのぼっている。
また、NVIDIAは、新しいIsaac ROS 最新リリースによって、700,000人以上の、多くのロボット開発者が利用しているROSにアクセラレーテッド・コンピューティングをもたらすとしている。AI、CV、カメラセンサー等を、操作およびナビゲーションに導入するための ROS ネイティブ パッケージを提供。NGCによる事前トレーニング済みモデルの大規模なコレクションのサポート、オープンソース/カスタムROSツールとパッケージとのシームレスな統合が行われる。また、ハードウェア・アクセラレーション ライブラリとエンジンにより、最高のパフォーマンスと効率的なリソースの利用が可能になるとしている。また、新しいDNNベースの「Isaac GEMs」を提供する。
「Isaac」は、NVIDIA AIシステムと、デジタルツイン基盤「NVIDIA Omniverse」とも連携できる。Isaac Simの仮想環境での開発、テスト、トレーニング等が「NVIDIA Omniverse」とともにクラウド対応することが今回発表された。「Isaac Sim in the Cloud」は、AWS、Microsoft Azure、Googleクラウドの3つのクラウドサービスとパブリッククラウドに対応する。AWS Robomakerでの利用も可能だ。
GTC 2022 関連記事：
NVIDIA 自律走行搬送ロボット(AMR)リファレンス プラットフォーム「Nova Orin」のアップデートを発表 Nova Orin詳細を解説 こんなに多くの有名企業が既にデジタルツインに取り組んでいるとは…「GTC 2022」でNVIDIAがOmniverse採用企業を一挙に紹介 【速報】手術支援ロボットにNVIDIA「IGX AI」と「Clara Holoscan」を採用 開発ベンチャー3社が医療用AI開発を加速 【速報】NVIDIA「Isaac」AIロボット開発プラットフォームがクラウドサービスに対応 AWS RoboMakerも利用可能に 【速報】NVIDIA「Jetson Orin Nano」を発表 従来Nanoの約80倍の高性能 超小型AIコンピュータ Orinファミリーは3機種に いよいよ今夜24時、世界最大級のAIイベント「NVIDIA GTC」ジェンスン フアン氏のキーノート配信 新しいAIと未来 NVIDIA関連記事
