OKIがAIモデル軽量化とFPGA実装を自動化、認識精度を下げず処理速度は5倍に：人工知能ニュース（1/2 ページ）

OKIとOKIアイディエス、フランスのミプソロジーの3社は、OKI独自のAIモデル軽量化技術「PCAS」とミプソロジーのFPGAによるAI処理の高速化プラットフォーム「Zebra」の連携により、深層学習ベースのAIモデルに内在する不必要な演算を自動的に削減／高速化する技術を開発したと発表した。

[朴尚洙，MONOist]

　OKIとOKIアイディエス、フランスのミプソロジー（Mipsology）の3社は2022年10月17日、東京都内で会見を開き、OKI独自のAIモデル軽量化技術「PCAS」とミプソロジーのFPGAによるAI処理の高速化プラットフォーム「Zebra」の連携により、深層学習で用いられる畳み込みニューラルネットワーク（CNN）などを基に推論を行うAI（人工知能）モデルに内在する不必要な演算を自動的に削減／高速化する技術を開発したと発表した。「YOLOv4」を用いて物体検出を行う推論のAIモデルに同技術を適用したところ、検出精度を低下させることなく、AI画像処理速度を適用前の14fpsから5倍弱となる68fpsに向上できたという。今後は、OKIアイディエスがミプソロジーと連携し、顧客のAIモデルに新技術を適用してFPGAへの実装と最適化を行うFPGA設計開発サービスを国内市場向けに展開したい考え。まずは、先行顧客との実証活動を進めて有用性を検証した後、2023年度から正式にサービスを開始したい考えだ。

会見の登壇者。左から、OKIアイディエス 代表取締役社長執行役員の滝澤家信氏、Mipsology Japan カントリーマネージャの藤谷つぐみ氏、OKI イノベーション推進センター AI技術研究開発部長の須崎昌彦氏、同社 イノベーション推進センター長の前野蔵人氏［クリックで拡大］

YOLOv4による物体検知を未圧縮AIモデルを用いてCPU上で実行した場合。処理速度は1fps程度［クリックで再生］

開発技術で軽量化したAIモデルをFPGA上で実行した場合。処理速度は、入力デバイスであるWebカメラの30fpsと同期するレベルになっておりリアルタイム性を確保できている［クリックで再生］

NEDOのプロジェクト成果の実用化に向けて

　今回発表した技術は、OKIが2019年9月に発表した深層学習モデルの軽量化技術であるPCASの事業化に向けて開発が進められたものだ。OKI イノベーション推進センター長の前野蔵人氏は「当社は『AIエッジ』を注力技術の一つとしており、PCASは『コンパクトなAI』というテーマから生まれたものだ。NEDO（新エネルギー・産業技術総合開発機構）から2018年9月に受託した『革新的AIエッジコンピューティング技術の研究開発』の下で開発を進めて、2019年9月に成果を発表してから、実用化に向けた取り組みを進めてきた」と語る。

　PCAS（Pruning Channels with Attention Statistics：アテンション統計量に基づくチャネル削減手法）は、規模が大きくなりがちな深層学習ベースのAIモデルを軽量化する技術のうち、枝刈りと呼ばれるチャネルプルーニングを用いている。フィルターと畳み込み演算の結果を保持するニューロンの集まりであるチャネルの重要度推定にアテンションモジュールを導入することで、認識性能の維持効果を高めつつ層単位の削減率設定を不要として、AIモデルを構成するニューロンの中で重要でないものを自動で特定、削減することが可能だ。

「PCAS」の概要［クリックで拡大］ 出所：OKI

　PCASの性能について、AIのベンチマークで広く利用されているResNet-50モデルとImageNetデータセットで評価したところ、AIモデルの軽量化前と比べてパラメーター数や演算回数を半分以下に削減するとともに、認識精度についても軽量化前と同等を維持できた。従来のAI軽量化技術と比べて、パラメーター数や演算回数をより大きく削減しつつ、認識精度の低下も起こしていない。

「PCAS」の性能評価［クリックで拡大］ 出所：OKI