エッジAIを加速する「Jetson」、次モデルは「Nano Next」と「Orin」に：GTC Digital（2/2 ページ）

[池谷翼，MONOist]

AI処理を高速化するSDK「JetPack」

　アミット氏が次に取り上げたのがJetson向けのSDKソフトウェア群だ。中核となるのがJetsonシリーズを用いたAI開発に必要となるソフトウェアツールをパッケージ化した「JetPack」である。JetPackはLinuxOS（Operating System）のほか、そのカーネルやソースなども併せてパッケージ化したBSP（Board Support Package）、ディープラーニングの操作を高速化するライブラリ「CuDNN」を含むGPU高速化ライブラリ「CUDA-X」などで構成されている。

JetPackを構成するソフトウェアパッケージ［クリックして拡大］出典：NVIDIA

　特にアミット氏はCUDA-Xのキーライブラリとして、高パフォーマンスの推論能力を持つAI開発を実現するSDK「TensorRT」の重要性を指摘した。「TensorRTはTensorFlowやPytorchなど主要なAI開発フレームワークに対応したコンパイラを利用できるという特徴がある。また、メモリ使用量を最小限に抑えつつ、Jetsonのアーキテクチャを活用して最大限の推論パフォーマンスを発揮するAIをエッジデバイスにデプロイできる点もメリットだ」（アミット氏）。

　Jetson向けのSDKにはJetPackの他にも、ストリーミング動画のリアルタイム解析を可能にする「DeepStream」、ロボット開発用ツールをパッケージ化した「Isaac」などがある。

　DeepStreamはストリーミングされた動画のIVA（Intelligent Video Analytics：インテリジェント動画分析）アプリケーション構築を可能にするSDKだ。DeepStreamを活用することで、Jetsonに搭載されたGPUリソースを使い、IoTデバイスや監視カメラで収集した動画内の物体認識を高速で行えるようになる。また物体認識のプロセスにおける推論処理だけでなく、動画のキャプチャーから動画データのデコード、動画内に映った物体のトラッキング、認識結果のディスプレイ表示までの一連の処理過程を全て高速化可能だ。

　Isaacにはロボット開発に必要なフレームワークやライブラリがパッケージ化されている。具体的には、アプリケーションフレームワークを提供する「Isaac Robotics Engine」の他、ディープラーニングを活用した認識アルゴリズムなどのパッケージ「Isaac GEM」、そしてロボット開発のシミュレーション環境を提供する「Isaac Sim」などが含まれている。

IVAアプリケーション開発用SDK「DeepStream」（右）とロボット開発用SDK「Isaac」（左）［クリックして拡大］出典：NVIDIA

2021年以降にJetsonシリーズの新モデルを発売予定

　NVIDIA Jetsonの最後の構成要素としてアミット氏が取り上げたのが、Jetsonを用いたAI開発に関わるパートナー企業のエコシステムだ。

　アミット氏はパートナー企業の重要性について「エコシステムはNVIDIA Jetsonの生命線だ。パートナー企業の業種は幅広く、エッジデバイスのハードウェア本体を開発する企業から、カメラやセンサー類の開発企業、独立系のソフトウェア開発ベンダー（ISV：independent software vendor）、計算や設計ツールの開発企業などがある。JetsonユーザーはJetsonを使った自社開発に取り組む際、これらの企業にサポートを依頼することで、より早期の市場投入を図れるだろう」と語った。

日本企業としてはソニーやキヤノン、マクニカの他、AIベンチャーのABEJAなども記載されている［クリックして拡大］出典：NVIDIA

　講演の最後にアミット氏はJetsonシリーズの今後の展開として、2021年にエントリーモデルであるJetson Nanoの後継モデルである「Nano Next」を、2022年以降にJetson Xavier NXやJetson AGX Xavierの後継モデルであり自律型マシンにも活用できる「Orin」をそれぞれリリースする予定だと明かした。

2021年に「Nano Next」を、2022年に「Orin」をそれぞれリリース予定［クリックして拡大］出典：NVIDIA