　NVIDIAは2020年3月22～26日に米国サンノゼで開催予定だったユーザーイベント「GTC（GPU Technology Conference） 2020」に替えて、新型コロナウイルス感染症（COVID-19）の感染拡大に対応した完全オンラインイベント「GTC Digtal」を開催している。GTC Digtalでは、同年3月下旬から4月23日までの約1カ月間でさまざまな講演がオンラインで無料で見られるようになっている。

　本稿では、これらの中から、IoT（モノのインターネット）をはじめとするエッジデバイス向けAI（人工知能）の開発用プラットフォームであり「NVIDIA Jetson」を紹介する講演について紹介する。

　同講演ではNVIDIA Jetsonの主要な構成要素を、AIコンピュータ「Jetson」シリーズ、AI開発ツールのオールインワンパッケージ「JetPack」などのSDK（Software Development Kit：ソフトウェア開発キット）、そしてAI開発を支えるNVIDIAのパートナー企業によるエコシステムに大別し、それぞれの紹介と解説を行った。講師はNVIDIAのSenior Product Managerであるアミット・ゴール（Amit Goel）氏が務めた。

爆発的に増加するAIモデルの複雑性

　近年、IoTデバイスはセンサー技術の革新によって、従来よりも高いパフォーマンスを発揮するようになっている。これに伴い自動運転車やロボットなどの自律型マシンや、スマートホームなどへの活用事例がますます増加しつつあるが、一方でいくつかの課題点も生じている。「1つはエッジデバイス上で処理するデータ量がクラウド上に送信できないほど膨大になると見込まれること、もう1つはエッジデバイス上でのデータ処理にはリアルタイム性が求められることだ。また工場内や家庭内で動作するエッジデバイスはプライバシーの問題があるため、クラウド上にデータをアップロードすることが困難になる可能性もある。これらの理由から、データ処理をエッジデバイス上で効率的かつIoTデバイスにAIを組み込む必要性が増す」（アミット氏）。

IoTデバイスにAIを組み込む必要性が今後さらに増加すると見込まれる［クリックして拡大］出典：NVIDIA

　一方で、エッジデバイスの組み込みAI開発には、従来の組み込みソフトウェア開発と異なる固有の課題が存在する。その1つが、日々登場する新しいニューラルネットワークモデルへの対応力だ。「AI分野の開発が急速に進展するにつれて、AIモデルの複雑性と多様性も爆発的に増加している。例えば、2014年に画像解析コンペティション『ILSVRC（ImageNet Large Scale Visual Recognition Challenge）』で優勝したAIモデル『GoogLeNet』のパラメーター数は約670万個くらいだが、2018年にGoogleが発表した自然言語処理モデル『BERT』のパラメーター数は約34億個にまで増加した。これを鑑みると、AIコンピュータを選定する上では、現在のAIモデルだけではなく、将来出現しうるAIモデルもサポートできるような、柔軟性のある製品を選ぶことが重要だ」（アミット氏）。

推論フェーズにおけるAIモデルの複雑性は年々向上している［クリックして拡大］出典：NVIDIA

自律型マシン開発者向けに設計されたAIコンピューティングボード

　NVIDIA Jetsonはこうした課題を解決し、ソフトウェア定義（SD：Software Defined）による自律型マシン開発を可能にする。アミット氏はNVIDIA Jetsonを構成する主要なピラー（柱）としてAIコンピュータ「Jetson」シリーズ、Jetson向けのSDKなどソフトウェア、Jetsonを活用した開発をサポートするエコシステムの3カテゴリーを取り上げ、順番に紹介を行った。

AIコンピュータ「Jetson Computer」の製品ラインアップ［クリックして拡大］出典：NVIDIA

　Jetsonシリーズはエッジデバイスへの組み込みAI開発向けに最適な設計が施されたSoM（System on Module：システム・オン・モジュール）のAIコンピューティングボードである。エッジデバイス上でAIアプリケーションを駆動させるために必要なGPUやDRAM（Dynamic Random Access Memory）などのメモリ類を全て搭載しており、アプリケーションに応じたさまざまなパフォーマンス要求に応えられる。製品ポートフォリオは現在、ハイエンドモデルの「Jetson AGX Xavier」シリーズの他、エントリーモデルの「Jetson Nano」や「Jetson TX2」シリーズ、「Jetson Xavier NX」の4種類が用意されている。

　アミット氏はJetson AGX Xavierを取り上げて「単にAI開発を加速するというだけでなく、自律型マシンを開発するために十分な性能を備えたデバイスとして1から設計、開発している」と強調した。実際にJetson AGX Xavierは、10～30Wという低消費電力でありながら最大32TOPS（Tela Operations Per Second:1秒当たりのオペレーション数をテラ単位で算出した値）と高性能を実現しており、エッジデバイス上での運用にも耐えられる性能となっている。

　「Jetson AGX Xavierには大規模な行列演算を処理可能な『Volta Tensor Core GPU』の他、高パフォーマンスを実現する8コア搭載の『Carmel ARM V8.2 CPU』、AIの推論処理を加速させるディープラーニング（深層学習）アクセラレーターが全て搭載されている。これらの要素の組み合わせにより、実際の現場で求められる自律型マシンの開発が可能になる」（アミット氏）。