NVIDIAは組み込みAIボードもBlackwell世代へ、2070TFLOPSの「Jetson AGX Thor」：人工知能ニュース（1/2 ページ）

NVIDIAは2025年8月25日、組み込みAIボード「Jetsonシリーズ」の最新製品となる「NVIDIA Jetson AGX Thor」を発表した。AI処理性能はFP4で2070TFLOPSで、これは現行の「NVIDIA Jetson AGX Orin」の7.5倍に達する。

[朴尚洙，MONOist]

　NVIDIAは2025年8月25日（現地時間）、組み込みAI（人工知能）ボード「Jetsonシリーズ」の最新製品となる「NVIDIA Jetson AGX Thor（以下、Jetson AGX Thor）」を発表した。AI処理性能はFP4（4ビット浮動小数点演算）で2070TFLOPSで、これは現行の組み込みAIボードでフラグシップの「NVIDIA Jetson AGX Orin（以下、Jetson AGX Orin）」の7.5倍に達する。Jetson AGX Thorの機能を集約したSoM（System on Module）を専用筐体に組み込んで提供する開発者キットの価格は3499米ドル（約51万6500円）。

「NVIDIA Jetson AGX Thor」の開発キット。手前にあるSoMは「Jetson T5000」［クリックで拡大］ 出所：NVIDIA

「NVIDIA Jetson AGX Thor」の開発キットの構成［クリックで拡大］ 出所：NVIDIA

　Jetson AGX Thorは、NVIDIAがサーバやデスクトップ向けに2024年から展開しているGPUアーキテクチャ「Blackwell」を採用した組み込みAIボードである。サーバからPC／ワークステーション、そして組み込み機器に至るまで、NVIDIAの最新製品のGPUアーキテクチャはBlackwellで統一されたことになる。

　Blackwellを採用したJetson AGX Thorは、生成AIモデルを効率的に処理できるトランスフォーマーエンジンを採用している。サーバ向けのBlackwellと同様に、従来よりも量子化を進めたFP4でのAI処理が可能であり、2070TFLOPSという高い性能値はFP4によるものだ。ただし、現行製品であるJetson AGX OrinのAI処理性能である275TOPSに用いられているINT8（8ビット固定小数点）でも、Jetson AGX Thorは1035TFLOPSをたたき出している。なお、GPUの最大動作周波数は1.57GHzで、Jetson AGX Orinの1.3GHzと比べて約20％の増加となっている。

　NVIDIAはJetson AGX Thorについて、汎用人型ロボットの実現に求められる性能を実現するために開発したとしている。汎用人型ロボットでは、多数のセンサーデータを処理した上でそれらを用いてマルチモーダルの生成AIを用いて動作に反映させることになる。つまり、汎用人型ロボットが素早く滑らかに動作するには制御コンピュータによる生成AI処理のトークン発行のレイテンシがリアルタイムと呼ばれる数百msオーダー以下を実現しなければならない。NVIDIAはそのベンチマークとして、LLM（大規模言語モデル）として「Llama 3B」、画像解析AI「Qwen 2.5 VL 3B」を用いて16個のセンサー入力を処理するタスクのトークンを発行するレイテンシを算出した。Jetson AGX Thorは、最初のトークン発行で200ms以下、1トークン当たりの発行時間で50ms以下を実現したという。

「Jetson AGX Thor」のマルチモーダル生成AIのベンチマーク結果。現行製品の「Jetson AGX Orin」では不可能だった低レイテンシでのトークン発行が可能になった［クリックで拡大］ 出所：NVIDIA