検索
ニュース

OKIがAIモデル軽量化とFPGA実装を自動化、認識精度を下げず処理速度は5倍に人工知能ニュース(1/2 ページ)

OKIとOKIアイディエス、フランスのミプソロジーの3社は、OKI独自のAIモデル軽量化技術「PCAS」とミプソロジーのFPGAによるAI処理の高速化プラットフォーム「Zebra」の連携により、深層学習ベースのAIモデルに内在する不必要な演算を自動的に削減/高速化する技術を開発したと発表した。

Share
Tweet
LINE
Hatena

 OKIとOKIアイディエス、フランスのミプソロジー(Mipsology)の3社は2022年10月17日、東京都内で会見を開き、OKI独自のAIモデル軽量化技術「PCAS」とミプソロジーのFPGAによるAI処理の高速化プラットフォーム「Zebra」の連携により、深層学習で用いられる畳み込みニューラルネットワーク(CNN)などを基に推論を行うAI(人工知能)モデルに内在する不必要な演算を自動的に削減/高速化する技術を開発したと発表した。「YOLOv4」を用いて物体検出を行う推論のAIモデルに同技術を適用したところ、検出精度を低下させることなく、AI画像処理速度を適用前の14fpsから5倍弱となる68fpsに向上できたという。今後は、OKIアイディエスがミプソロジーと連携し、顧客のAIモデルに新技術を適用してFPGAへの実装と最適化を行うFPGA設計開発サービスを国内市場向けに展開したい考え。まずは、先行顧客との実証活動を進めて有用性を検証した後、2023年度から正式にサービスを開始したい考えだ。

会見の登壇者
会見の登壇者。左から、OKIアイディエス 代表取締役社長執行役員の滝澤家信氏、Mipsology Japan カントリーマネージャの藤谷つぐみ氏、OKI イノベーション推進センター AI技術研究開発部長の須崎昌彦氏、同社 イノベーション推進センター長の前野蔵人氏[クリックで拡大]
YOLOv4による物体検知を未圧縮AIモデルを用いてCPU上で実行した場合。処理速度は1fps程度[クリックで再生]
開発技術で軽量化したAIモデルをFPGA上で実行した場合。処理速度は、入力デバイスであるWebカメラの30fpsと同期するレベルになっておりリアルタイム性を確保できている[クリックで再生]

NEDOのプロジェクト成果の実用化に向けて

 今回発表した技術は、OKIが2019年9月に発表した深層学習モデルの軽量化技術であるPCASの事業化に向けて開発が進められたものだ。OKI イノベーション推進センター長の前野蔵人氏は「当社は『AIエッジ』を注力技術の一つとしており、PCASは『コンパクトなAI』というテーマから生まれたものだ。NEDO(新エネルギー・産業技術総合開発機構)から2018年9月に受託した『革新的AIエッジコンピューティング技術の研究開発』の下で開発を進めて、2019年9月に成果を発表してから、実用化に向けた取り組みを進めてきた」と語る。

OKIにおけるイノベーション活動の中でPCASを開発し、実用化に向けた取り組みを進めてきた。社内応用として、タイの工場でラベル検査AIシステムに適用して2倍以上の高速化を実現したという[クリックで拡大] 出所:OKI

 PCAS(Pruning Channels with Attention Statistics:アテンション統計量に基づくチャネル削減手法)は、規模が大きくなりがちな深層学習ベースのAIモデルを軽量化する技術のうち、枝刈りと呼ばれるチャネルプルーニングを用いている。フィルターと畳み込み演算の結果を保持するニューロンの集まりであるチャネルの重要度推定にアテンションモジュールを導入することで、認識性能の維持効果を高めつつ層単位の削減率設定を不要として、AIモデルを構成するニューロンの中で重要でないものを自動で特定、削減することが可能だ。

「PCAS」の概要
「PCAS」の概要[クリックで拡大] 出所:OKI

 PCASの性能について、AIのベンチマークで広く利用されているResNet-50モデルとImageNetデータセットで評価したところ、AIモデルの軽量化前と比べてパラメーター数や演算回数を半分以下に削減するとともに、認識精度についても軽量化前と同等を維持できた。従来のAI軽量化技術と比べて、パラメーター数や演算回数をより大きく削減しつつ、認識精度の低下も起こしていない。

「PCAS」の性能評価
「PCAS」の性能評価[クリックで拡大] 出所:OKI
       | 次のページへ

Copyright © ITmedia, Inc. All Rights Reserved.

ページトップに戻る