　しかし、プロセッサの処理能力や消費電力などに制限がある組込み機器でのAI活用はまだ容易とはいえない状況だ。「コストを抑えて推論性能を大きくしたい」「コンピュータを小型化したいが要求性能を満たせない」「リアルタイムにAI処理したいが要求性能が不足」「GPGPUボードを搭載したいが電源容量が足りない」「GPGPUボードを使用しているが供給年数やサポートの面で不安」といったさまざまな課題があり、なかなか実用化に結び付けられていない。

　これら組込み機器向けAIの課題解決に向けた提案を強化しているのが、組込みコンピュータで高い実績を持つPFUだ。工作機械や製造装置への組み込みに最適な小型筐体をラインナップするとともに、ハードウェアに最適化したソフトウェアと連携し、低消費電力で高性能のAI処理が可能なデバイスも用意している。そして、国内工場での設計と製造に裏打ちされた長期供給と長期保守も期待できる。以下に、PFUの組込みAIソリューションの詳細を見ていこう。

組込みAIのスモールスタートが可能

　PFUの組込みコンピュータの主力製品として知られているのが「ARシリーズ」だ。多様な用途に対応できるCPU処理能力やインタフェースといった性能や機能に加え、高信頼性、耐環境性、省スペース、静音性、保守性など、組み込み用途のコンピュータに求められる条件を高次元でクリアしている。

　ARシリーズは、ミドルタワーから小型筐体まで幅広いラインナップを取りそろえていることも強みだ。インテルCPUを搭載する組込みコンピュータの出荷実績は国内トップクラスであり、小型筐体でもXeonプロセッサを搭載可能とするなど、先進の高性能を実現している。また、RAID機能やECCメモリ、高信頼HDDの搭載や、自社設計・製造による高い信頼性も評価されている。

組込みコンピュータ「ARシリーズ」

PFUインダストリープロダクト事業部第一技術部の村田剛彦氏

　このARシリーズを使って、組込みAIのスモールスタートを可能にするのが、インテルが提供するハードウェアに最適化されたディープラーニング推論処理SDK（ソフトウェア開発キット）「OpenVINO(TM)ツールキット」だ。PFUインダストリープロダクト事業部第一技術部の村田剛彦氏は「OpenVINOツールキットとインテルCPUを搭載する組込みコンピュータを組み合わせれば、ハードウェアをアップグレードすることなくAIの推論性能を加速できます」と語る。

　さまざまな用途やデータ種別、ニューラルネットワーク、フレームワークに対応することも利点だ。AIの用途で一般的なクラス分類、物体検知、予測検知に対応し、データ種別では画像、動画、時系列、音声、自然言語、センサーなどさまざまなものを扱える。ニューラルネットワークはYOLO、VGG、ResNet、GoogLeNet、RNN、LSTMをはじめとしたメジャーなアルゴリズムを利用でき、TensorFlow、Caffe、MXNetなどの代表的なフォーマットをサポートの他、変換フォーマットであるONNXにも対応する。

　PFUの組込みコンピュータが広く用いられている産業機器への適用は「やはりカメラから取得した画像データを用いた検査用途が中心になるでしょう」（村田氏）という。例えば、金属や樹脂部品のキズ検査、食品パッケージに付着した異物検査、工作機械の切りくずによる加工不良検査、半導体ウェハーの製造不良検査、診療画像での病変検出、コンクリート建造物のひび割れ検出、金属や樹脂の形成時に発生する欠け、バリの欠陥検査などが挙がる。

　またOpenVINOツールキットは、CPUや内蔵GPU（iGPU）、FPGAなどのインテル系デバイスであればどれでも同一のソースコードからAIアプリケーションを開発できるという利点もある。村田氏は「AIによる推論処理をCPUだけで行うと、CPUの使用率が増えることで、他のアプリケーションやシステム動作への影響など懸念されますが、インテルCPUは基本的に内蔵GPUを備えており、CPUのリソースをほぼ消費しません。高度なグラフィックス機能を使用するなど内蔵GPUに負荷を与えたくない場合には、外付けFPGAを活用することができます。これらCPU、内蔵GPU、FPGAのどのデバイスでAI処理を行うとしても、OpenVINOツールキットであれば都度コーディングし直す必要はありません」と説明する。

　そしてPFUは、村田氏が挙げた外付けFPGAデバイス製品として、インテルの「Arria 10 GX 1150」を搭載する「Deep Learningアクセラレータカード」を用意している。同カードは、OpenVINOツールキットに対応するとともに、補助電源が不要な25Wという低消費電力を実現しており、サイズもハーフレングスのPCI Expressカードなので小型筐体のARシリーズにも搭載可能だ。

Deep Learningアクセラレータカード

　ARシリーズとOpenVINOツールキット、そしてDeep Learningアクセラレータカードの組み合わせは「組込みAI処理を低消費電力、省スペースで実現するためのベストチョイス」（村田氏）というわけだ。

Deep Learningアクセラレータカードとの組み合わせで最大242fpsを実現

　PFUの組込みAIソリューションの実力をユースケース別に見ていこう。「コンピュータを小型化したいが要求性能を満たせない」という要望に対応するのであれば、小型組込みコンピュータであるAR2200モデル120LとOpenVINOツールキット、Deep Learningアクセラレータカードを組み合わせれば小型かつ高性能を実現できる。

PFUインダストリープロダクト事業部第一技術部の本田雅則氏

　これは性能測定結果からも明らかだ。1個のカメラから得られる画像データに対するGoogLeNetを用いたAI推論処理について、AR2200モデル120L単独でOpenVINOツールキットを使用しない場合には1桁fpsという性能にとどまるが、ここにOpenVINOツールキットを適用するだけで87fpsに向上する。さらに、Deep Learningアクセラレータカードを組み合わせると242fpsという、まさに桁違いの性能をたたき出すのだ。PFUインダストリープロダクト事業部第一技術部の本田雅則氏は「OpenVINOツールキットは代表的なフレームワークのTensorFlowやCaffeなどで生成した学習済みモデルを最適に動作させるための変換ツール（Model Optimizer）を用意しています。このModel Optimizerは、Intelプラットフォームで高速処理できるよう最適化されたモデルを生成することができ、1多重でも高速なAI推論処理が実現できます。AR2200モデル120Lに組み込めないので直接の比較にはなりませんが、GPGPUボードでフレームワークをそのまま使用してAI推論処理を行ったときより高い処理性能になっています。組込み機器を用いたカメラの画像データAI処理では使用するカメラ台数は限られており、多重度を上げなくても、OpenVINOツールキットによって十分にAI推論処理に使用できます」と説明する。

OpenVINOツールキット推論処理時の性能比較

　「エッジ側でリアルタイムに処理したいが、要求性能が満たせない」という要望も、AR2200モデル120LとOpenVINOツールキット、Deep Learningアクセラレータカードの組み合わせで対応可能だ。例えば、1秒間に60フレームを有する動画においては、1フレーム16.7ms以下で処理する性能が求められるが、PFUが提案するソリューションであれば1フレーム4.1msで処理することが可能だ。

　さらには、外観検査の効率化でも効果を発揮する。「外観検査システムにおいて、被検体を良否判定するための検査パラメータの閾値は、職人技の微調整が必要です。うまく調整できても属人的なバラツキが潜んでいる、または新たな誤判定が見つかるたびに再調整が必要となるなど、その作業工数の大きさが問題になっています」（本田氏）という。ディープラーニングを活用することで検査パラメータチューニングの工数を削減できるので、外観検査を効率化できるというわけだ。

機械学習からディープラーニングの進化

小型ニーズを満たす組込みAIソリューション

　PFUの組込みAIソリューションは、顧客の要望に応じて、幅広いラインナップのARシリーズと、OpenVINOツールキット、Deep Learningアクセラレータカードを組み合わせた最適な提案ができる。スモールスタートを検討しているのであれば、インテルから無償提供されているOpenVINOツールキットとARを組み合わせるだけで、十分な処理性能を実現できることは先述した通りだ。

　より高性能が必要になるのであれば、Deep Learningアクセラレータカードが大いに役立つ。小型筐体のAR2200モデル120Lに搭載可能であり、消費電力も25Wと低いため、組込みコンピュータに求められることが多いこれらのニーズも満たせる。本田氏は「ARシリーズと組み合わせたセットモデルも用意しています。ソフトウェア関連を含めて環境構築済みで出荷するので、お客さまによる設定は最小限で済みます。弊社の特長であるワンストップによる長期供給、長期保守をご提供できる点についてもご安心いただけるのではないでしょうか」と強調する。また、インテルとの緊密なアライアンス関係も顧客に安心をもたらす要因になるだろう。

　さらなる応用としては、PFUが提供するEtherCAT(R)やMECHATROLINKなどの産業用ネットワークカードとの組み合わせにより、時系列データやセンサーデータに対するAI推論処理も視野に入る。

　現在、Deep Learningアクセラレータカードの提供は、顧客の要望に合わせた貸し出しという形態で行っている。組込みコンピュータのAR2200モデル120LにDeep Learningアクセラレータカードを搭載してOpenVINOツールキットをセットアップしており、導入手順資料となるユーザーズガイドも提供している。「既に製品そのものの開発は終わっており、お客さまからご要望をいただければすぐにご提供できる状態にあります。ただ、PFU品質として動作を保証できるようにお客さまごとに評価・検証して出荷するため、このようなご提供形態とさせていただいております」（本田氏）

村田剛彦氏（左）と本田雅則氏（右）。PFUの組込みAIソリューションの提案強化に注力している

　大きな期待を集めるAI技術だが、組込み機器の開発者にとってはまだまだ使いやすいものとはいえないのが現状だろう。PFUの組込みAIソリューションは、緊密なアライアンス関係を結んでいるインテルのOpenVINOツールキットを活用するだけでAI処理性能を大幅に向上することが可能であり、“まずは組込みAIを試してみたい”というニーズに応えるものだ。さらなる性能向上についても、Deep Learningアクセラレータカードというオプションがあり、AI処理性能をスケールさせていくという意味でも安心だ。この機会に、自社製品における組込みAIの活用を検討してみてはいかがだろうか。

※インテルXeon、インテルAtomおよびOpenVINOツールキットは、アメリカ合衆国および／またはその他の国におけるIntel Corporationまたはその子会社の商標です。
※EtherCAT(R)は、ドイツBeckhoff Automation GmbHによりライセンスされた特許取得済み技術であり、登録商標です。
※MECHATROLINKは、MECHATROLINK協会の商標です。
※その他の会社名、製品名などは、各社の商標または、登録商標です。