深層学習モデルの量子化により、データ処理速度が最大5倍に向上人工知能ニュース

TRUST SMITHは、深層学習モデルを量子化することで、データ処理速度を最大5倍高速化した。膨大な処理が困難だったエッジAI(人工知能)で、深層学習モデルの実装が可能になるという。

» 2021年07月14日 08時00分 公開
[MONOist]

 TRUST SMITHは2021年6月29日、深層学習モデルを量子化することで、データ処理速度が最大5倍向上したと発表した。膨大な処理が困難だったエッジAI(人工知能)で、深層学習モデルの実装が可能になるという。

キャプション AIのイメージ 出典:TRUST SMITH

 同社は、最新の量子化技術を用いることで、深層学習モデルの精度を保ちながらモデルを軽量化した。従来の演算手法が32ビットの浮動小数点数で数値を取り扱うのに対し、今回の手法では最低2ビットにまで演算に必要なビット数を削減できる。

 また、組み込み分野への応用を視野に入れており、Pythonで量子化したモデルをC言語で実行するための独自ライブラリとして、同技術を開発した。

 今後は、さまざまな深層学習モデルへの利用範囲の拡大やAIアクセラレーターへの対応を進める。また、モデルの量子化作業自体の自動化や、ユーザー自身がモデルを量子化できるような仕組みの構築を目指す。

 さらに、工場や物流施設のさまざまなカメラやセンサーに同技術を用いることで、施設のスマート化に取り組む。

⇒その他の「人工知能ニュース」の記事はこちら

Copyright © ITmedia, Inc. All Rights Reserved.