OKIがAIモデル軽量化とFPGA実装を自動化、認識精度を下げず処理速度は5倍に：人工知能ニュース（2/2 ページ）

OKIとOKIアイディエス、フランスのミプソロジーの3社は、OKI独自のAIモデル軽量化技術「PCAS」とミプソロジーのFPGAによるAI処理の高速化プラットフォーム「Zebra」の連携により、深層学習ベースのAIモデルに内在する不必要な演算を自動的に削減／高速化する技術を開発したと発表した。

[朴尚洙，MONOist]

深層学習で得たAIモデルをそのままFPGA上に実装して推論を実行

　PCASで得られたAIモデルは大幅に軽量化できているが、この強みをさらに強化するのがミプソロジーのZebraである。Zebraは、CPUやGPUによる深層学習で得たAIモデルをそのままFPGA上に実装して推論を実行できるようにするAI処理の高速化プラットフォームだ。Mipsology Japan カントリーマネージャの藤谷つぐみ氏は「ニューラルネットワーク全体をコンパイルするのではなく、ニューラルネットワークの各レイヤーをFPGAなどのターゲットデバイスに合わせて最適化することで、最新のAI技術に対応しやすい仕組みが特徴になっている。レイテンシ（遅延）に厳しい、自動車やメディカル、ロボットなどのアプリケーションに最適な技術だと考えている」と説明する。

「Zebra」の特徴［クリックで拡大］ 出所：ミプソロジー

　これまでAIモデルを軽量化しFPGAに実装するという手順は、AIモデルの軽量化で手戻りが発生する可能性が高く、FPGAへの実装もハードウェア記述言語に詳しい専門技術者が対応する必要があるという課題があった。AIモデルの軽量化をPCASで、FPGAへの実装をZebraで自動化することにより、開発期間とコストを大幅に圧縮できるようになる。

「PCAS」と「Zebra」の併用によるAIモデルのFPGA実装の効果［クリックで拡大］ 出所：OKI

　PCASとZebraの組み合わせでは、冒頭に挙げた通り、YOLOv4を用いた評価実験でZebra単体と比較して約4倍の高速化効果が得られた。また、ターゲットに搭載するFPGAデバイスの規模に合わせて、AIモデルを軽量化のレベルを選択できるというメリットもある。

「PCAS」と「Zebra」のYOLOv4を用いた評価実験の結果［クリックで拡大］ 出所：OKI

軽量化レベルを選択できるというメリットもある［クリックで拡大］ 出所：OKI

　製品の受託開発を主力事業とするOKIアイディエスは、これまでもFPGA搭載製品の開発も多数手掛けている。今回発表したFPGA設計開発サービスでは、PCASとZebraの組み合わせによるAIモデル軽量化とFPGAへの実装に加えて、AIモデルの前処理や後処理を含めた回路の設計開発を行う方針である。

OKIアイディエスのFPGA設計開発サービスの概要［クリックで拡大］ 出所：OKI

⇒その他の「人工知能ニュース」の記事はこちら