DNNモデルの推論精度を維持したまま高速化するサービスを提供開始：人工知能ニュース

東芝情報システムは、DNNモデルの推論精度を維持したまま、処理を高速化する「DNN高速化サービス」の提供を開始した。顧客のDNNモデル、学習データ、精度評価指標などをベースに、短期間で最適なDNNモデルを提供する。

[MONOist]

　東芝情報システムは2022年3月1日、DNNモデルの推論精度を維持したまま、処理を高速化する「DNN高速化サービス」の提供を開始した。顧客のDNNモデル、学習データ、精度評価指標などをベースに、短期間で最適なDNNモデルを提供する。

　同サービスは、顧客のDNNモデルから複数の修正モデルを自動作成し、処理性能の測定と推論精度の評価を実施する。生成した大量の修正モデルを全て測定評価するのではなく、性能や精度予測から、目標に最適なモデルのみを自動的に選ぶため、低コストかつ短期間で最適なDNNモデルを提供可能だ。

精度を維持してDNNモデルを高速化するイメージ［クリックで拡大］ 出所：東芝情報システム

修正モデルの自動選別イメージ［クリックで拡大］ 出所：東芝情報システム

　例えば、1台のカメラ画像から距離と画像ボケの形状変化の相関を学習し、被写体までの距離を計測する技術に対して同サービスを適用したところ、推論精度は維持したまま、処理性能を566ミリ秒から113ミリ秒まで短縮できた。サービス適用にかかった期間は1.5カ月で、短期間で性能を5倍に改善できたことになる。

「DNN高速化サービス」適用例［クリックで拡大］ 出所：東芝情報システム

　DNNモデルの計算量は大きいため、高速化や軽量化の手法を適用するのが一般的だが、推論精度が低下するという課題があった。同サービスは推論精度を維持しつつ高速化するため、DNNモデルをハードウェアスペックが非力な組み込みシステムに実装する場合に活用できる。

⇒その他の「人工知能ニュース」の記事はこちら