RAGとの組み合わせでエッジ生成AIを可能に、NXPがAI開発ソフトに新機能：人工知能ニュース（2/2 ページ）

NXPジャパンが無償で提供しているAI／機械学習開発ソフトウェア「eIQ AIソフトウェア」の最新アップデートについて説明。時系列データを基にエッジ機器向けのAIモデルを構築する「eIQ Time Series Studio」と、生成AIのカスタマイズ手法の一つである「RAG」の作成を行える「eIQ GenAIフロー」という2つのエッジAI機能を新たに追加する。

[朴尚洙，MONOist]

家電に説明書機能を持つAIエージェントの搭載が可能に

　eIQ TSSがMCX MCUやi.MX RTといった処理性能がいわゆるMCUレベルとなる製品向けを意識した機能であるのに対し、eIQ GenAIフローは大規模なリソースを要求するイメージが強い生成AIについて、i.MX 9シリーズを搭載するエッジ機器で利用することを想定した機能となる。

LLMなどの生成AIは大きなリソースが求められるため、一般的にはエッジ機器に組み込む事例は少ない［クリックで拡大］ 出所：NXPジャパン

　生成AIの代表的なアプリケーションとなるのがLLM（大規模言語モデル）である。LLMを用いたアプリケーション開発では、市販の生成AIサービスをそのまま用いる場合やプロンプトエンジニアリグによる最適な活用の他、既存の生成AIモデルにドメイン固有情報を追加して学習するファインチューニングや再学習などの選択肢もある。ただし、コストや開発の複雑性のバランスから、現時点で最も有力な選択肢になっているのがドメイン固有情報からデータベースを構築し既存の生成AIモデルと組み合わせて使用するRAGである。

LLMを用いたアプリケーション開発にはさまざまな手法があるが、コストや開発の複雑性のバランスから「RAG」を選ぶことが多い［クリックで拡大］ 出所：NXPジャパン

　eIQ GenAIフローではLLMのRAGによる最適化を可能とする機能を備えている。例えば、家電に利用説明書に関する質問などに回答するAIエージェントを組み込む場合は、自然言語認識や一般的な受け答えにはオープンソースなど既存のLLMを用い、家電の使い方に関する質問にはRAGで構築したデータベースを読み出して回答する。

「eIQ GenAIフロー」はRAGによるLLMの最適化が可能だ［クリックで拡大］ 出所：NXPジャパン

家電に組み込むAIエージェントによる説明書機能のイメージ［クリックで拡大］ 出所：NXPジャパン

　eIQ GenAIフローでサポートするRAGは、LLMとは分離したデータベース形式で管理するためセキュアなチューニングが可能だ。NXP製品向けの最適化も行ってくれる。なお、eIQ GenAIフローは今後、音声の入出力がメインとなるLLMだけでなく画像や動画にも対応しマルチモーダルで利用できるようになるという。

「eIQ GenAIフロー」のRAGによるLLMのチューニング［クリックで拡大］ 出所：NXPジャパン

エッジ機器で会話式のHMIが可能になる［クリックで拡大］ 出所：NXPジャパン

　なお、RAGと組み合わせて使用するLLMとしては、いわゆるパラメーター数が10億台（ビリオンクラス）となる、Llama2-7BやLlama3-8B、Phi-3 Miniなどが想定されている。

⇒その他の「人工知能ニュース」の記事はこちら