「Jetson Orin Nano」のAI処理性能が70％向上、開発者キットの価格も半額に：人工知能ニュース

NVIDIAは、組み込み機器向けAIモジュール「Jetson Orin Nano」の開発者キットについて、AI処理性能が従来比で70％増となる67TOPSに向上した「Jetson Orin Nano Super開発者キット」を発表した。価格も従来の499米ドルから半額となる249米ドルに値下げする。

[朴尚洙，MONOist]

　NVIDIAは2024年12月17日（現地時間）、組み込み機器向けAI（人工知能）モジュール「Jetson Orin Nano」の開発者キットについて、AI処理性能が従来比で70％増となる67TOPSに向上した「Jetson Orin Nano Super開発者キット」を発表した。価格も従来の499米ドルから半額となる249米ドルに値下げする。なお、既存のJetson Orin Nanoの開発者キットについても、Jetson Orin Nano Super開発者キットと併せて発表されたソフトウェアアップデートを適用することで同様のAI処理性能向上が可能になる。

「Jetson Orin Nano Super開発者キット」の外観［クリックで拡大］ 出所：NVIDIA

　同社 創業者兼CEOのジェンスン・フアン（Jensen Huang）氏は、Jetson Orin Nano Super開発者キットの発表に合わせて、コロナ禍の際に自宅のキッチンからオンラインで基調講演を配信した“キッチンキーノート”を模したYouTube映像を公開。以前に“世界最大のグラフィックスボード”を取り出した台所のオーブンから、今回は手のひらサイズのAIコンピュータとなるJetson Orin Nano Super開発者キットを取り出して見せた。

「Jetson Orin Nano Super開発者キット」を紹介するNVIDIA 創業者兼CEOのジェンスン・フアン氏［クリックで再生］ 出所：NVIDIA

　Jetson Orin Nano Super開発者キットは、Jetson Orin Nanoのメモリ容量8GBモデルと、レファレンスキャリアボードなどから構成されている点では既存のJetson Orin Nano開発者キットと比べて大きな変更はない。Jetson Orin Nanoの8GBモデルも、CPUとしてArmのアプリケーションプロセッサ「Cortex-A78AE」を6コア、GPUとしてAmpereアーキテクチャに基づく1024のCUDAコアと32のTensorコア、128ビットのLPDDR5メモリを8GB搭載するというハードウェア構成は同じだ。

「Jetson Orin Nano Super開発者キット」の概要［クリックで拡大］ 出所：NVIDIA

　ただし、CPU最大周波数を1.5GHzから1.7GHz、GPU最大周波数を625MHzから1050MHzに高めており、その結果としてAI処理性能（INT8）が40TOPSから約70％増の67TOPSに向上した。生成AIモデルの推論実行への影響が大きいメモリ帯域幅も、68GB/sから約1.5倍の120GB/sに広げた。消費電力については、従来は最大15Wとなっていたが、今回の性能向上に合わせて最大25Wに増えている。この消費電力の増加に対応する冷却ソリューションの採用により、開発者キットとしての外形寸法は幅100×奥行き79×高さ21mmから同103×90.5×34.77mmに大型化した。

「Jetson Orin Nano Super開発者キット」の仕様。緑色で表記されている箇所がJetson Orin Nanoの開発者キットからの変更点［クリックで拡大］ 出所：NVIDIA

　今回の性能向上はソフトウェアアップデートによって実現したものだ。そのため、既存のJetson Orin Nanoの開発者キットについても、Jetson Orin Nano Super開発者キットと併せて発表したソフトウェアアップデートを適用することで同様の性能向上を実現できる。

　これらの性能向上によりJetson Orin Nano Super開発者キットは、LLM（大規模言語モデル）やVLM（視覚言語モデル）、ViT（ビジョントランスフォーマー）といった生成AIモデルの推論処理性能についても従来比で約70％向上させられるという。

「Jetson Orin Nano Super開発者キット」による生成AIモデルの推論実行性能の向上イメージ。既存のJetson Orin Nanoの開発者キットを1とした場合との比較［クリックで拡大］ 出所：NVIDIA

　AI処理性能向上の恩恵は、Jetson Orin Nanoの8GBモデル以外のSOMでも得られる。Jetson Orin NXの16GBモデルは100TOPSから157TOPS、Jetson Orin NXの8GBモデルは70TOPSから117TOPS、Jetson Orin Nanoの4GBモデルは20TOPSから34TOPSに性能が向上している。

他のSOMにおけるAI処理性能向上の恩恵［クリックで拡大］ 出所：NVIDIA

「Jetson Orin Nano」と「Jetson Orin NX」におけるSuperモードの仕様。Superモードで仕様が変わった箇所は緑色で表記されている［クリックで拡大］ 出所：NVIDIA

　なお、日本国内におけるJetson Orin Nano Super開発者キットの販売は、菱洋エレクトロとマクニカが2024年12月18日から開始する予定である。

⇒その他の「人工知能ニュース」の記事はこちら