深層学習モデルの量子化により、データ処理速度が最大5倍に向上:人工知能ニュース
TRUST SMITHは、深層学習モデルを量子化することで、データ処理速度を最大5倍高速化した。膨大な処理が困難だったエッジAI(人工知能)で、深層学習モデルの実装が可能になるという。
TRUST SMITHは2021年6月29日、深層学習モデルを量子化することで、データ処理速度が最大5倍向上したと発表した。膨大な処理が困難だったエッジAI(人工知能)で、深層学習モデルの実装が可能になるという。
AIのイメージ 出典:TRUST SMITH
同社は、最新の量子化技術を用いることで、深層学習モデルの精度を保ちながらモデルを軽量化した。従来の演算手法が32ビットの浮動小数点数で数値を取り扱うのに対し、今回の手法では最低2ビットにまで演算に必要なビット数を削減できる。
また、組み込み分野への応用を視野に入れており、Pythonで量子化したモデルをC言語で実行するための独自ライブラリとして、同技術を開発した。
今後は、さまざまな深層学習モデルへの利用範囲の拡大やAIアクセラレーターへの対応を進める。また、モデルの量子化作業自体の自動化や、ユーザー自身がモデルを量子化できるような仕組みの構築を目指す。
さらに、工場や物流施設のさまざまなカメラやセンサーに同技術を用いることで、施設のスマート化に取り組む。
⇒その他の「人工知能ニュース」の記事はこちら
- 「Jetson Xavier NX」で組み込みAIを試す
2020年5月14日に行われたNVIDIAの「GTC 2020」の基調講演で発売がアナウンスされた、組み込みAIボード「Jetsonシリーズ」の最新製品となる「Jetson Xavier NX」。「Jetson Nano」の連載を担当した技術ライターの大原雄介氏に、Jetson Xavier NXの開発者キットをレビューしてもらった。
- エッジAIの可能性を広げる「MST」、なぜCortex-M0+マイコンでも動くのか
エッジAIスタートアップのエイシングは、マイコンを使って、AIによる推論実行だけでなく学習も行えるアルゴリズム「MST」を開発した。ローエンドの「Cortex-M0+」を搭載するマイコンでも動作するMSTだが、より多くのメモリ容量が求められるランダムフォレストと同等の精度が得られるという。開発の背景を同社 社長の出澤純一氏に聞いた。
- デバイスへの最適化を自動実行、エッジAIアプリの開発を10倍高速化する開発基盤
フィックスターズは2021年1月22日、カメラなどに搭載するエッジAIアプリケーション開発プラットフォーム「GENESIS DevEnv」の製品版を公開すると発表した。CPUやGPUなど各種デバイスを手元にそろえることなく、コードの自動最適化が行える。この他、エッジAIアプリ開発のひな型となるテンプレートの活用などで、開発工程の自動化や省力化を実現する。
- PFNが独自深層学習用プロセッサの専用コンパイラを開発、6倍以上の高速化を実現
Preferred Networks(PFN)は、神戸大学と共同開発した深層学習用プロセッサ「MN-Core」について、深層学習のフレームワークとして広く用いられているPyTorchからシームレスにMN-Coreを利用するための専用コンパイラを開発した。深層学習における複数の実用的なワークロードの計算速度で、従来比6倍以上の高速化を実現したという。
- 自動並列化深層学習ミドルウェアを開発、オープンソースとして公開
情報通信研究機構と東京大学は、自動並列化深層学習ミドルウェア「RaNNC」を開発し、オープンソースとして公開を開始した。「GitHub」にソースコードを公開しており、商用目的を含めて無償で利用できる。
- 動く障害物も回避、AIを搭載した障害物回避型アームのアルゴリズムを開発
TRUST SMITHは、AIを使った障害物回避型アームのアルゴリズム開発に成功した。動く障害物を安全によけながら、目的物まで到達できる。製造業、農業、インフラ、サービス業など、さまざまな分野で省力化とコスト削減に貢献する。
Copyright © ITmedia, Inc. All Rights Reserved.