小規模言語モデルを活用したエッジAIソリューションについて共同検証を実施：人工知能ニュース
ヘッドウォータースは、東京エレクトロン デバイスと共同で「Phiモデルを中心としたSLM×Microsoft IoT Edge×ファインチューニング」を活用したエッジAIについて検証した。
ヘッドウォータースは2025年2月17日、東京エレクトロン デバイスと共同で「Phiモデルを中心としたSLM（小規模言語モデル）×Microsoft IoT Edge×ファインチューニング」を活用したエッジAI（人工知能）について検証したと発表した。
Microsoft Oliveを活用したモデル量子化やLoRA、QLoRAファインチューニングにより、PhiモデルなどのSLMを業務に特化した形で適用し、テキストと画像処理の適用範囲を検証した。
また、Azure IoT Edge for Linux on Windows（EFLOW）やiotedge-compose、Azure IoT Edgeランタイムを活用し、SLMアプリケーションの開発やデプロイメント効率化を検証している。さらに、クラウドとエッジによるデータ連携の有効性やDirectML、CUDA、ONNXランタイムをサポートし、さまざまなハードウェア環境への適用性も検証した。
デバイス上で直接データを処理するエッジAIは、リアルタイム性やデータの機密性が求められる分野などでの導入が進んでいる。一方、SLMは複雑なデータ解析や予測、自然言語処理を可能にする。SLMをエッジデバイスで活用することで、クラウド依存を抑えて機密性を高めつつ、高度なAI機能を現場で直接展開できる。
今後、両社はSLMを活用した業界特化型のエッジAIソリューションとして、保全レポート作成やオフライン生成AIボットの構築などを提供していく。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
エッジにも浸透する生成AI、組み込み機器に新たな価値をもたらすか
生成AIが登場して2年以上が経過しエッジへの浸透が始まっている。既にプロセッサやマイコンにおいて「エッジAI」はあって当たり前の機能になっているが、「エッジ生成AI」が視野に入りつつあるのだ。
Armが次世代エッジAIに回答、新プロセッサ「Cortex-A320」に「Ethos-U85」を融合
Armは、エッジ機器での生成AIやトランスフォーマーモデルの推論処理に対応する新たなエッジAIプラットフォームを発表した。Armv9アーキテクチャに基づく省フットプリントの新たなプロセッサコア「Cortex-A320」に、NPUの「Ethos-U85」を組み合わせている。
エッジ生成AIでAI開発費がゼロに、IdeinがOpenAIの「CLIP」活用アプリを発表
Ideinは、同社のエッジAIプラットフォーム「Actcast」を用いて生成AIモデルの一種である「CLIP」をエッジデバイスに実装し、クラウドと通信することなく簡単なプロンプトを設定するだけで任意の物体を分類できる画像解析アプリ「CLIP on Actcast」を発表した。
自動車向け生成AIサービスを強化、第一弾は車載エッジAIエージェント
ヘッドウォータースは、自動車業界向けの生成AIサービスを強化する。第一弾として、車載エッジAIエージェントのラインアップを強化。今後はスマートファクトリーやSDV向け生成AIなどの展開を図る。
RAGとの組み合わせでエッジ生成AIを可能に、NXPがAI開発ソフトに新機能
NXPジャパンが無償で提供しているAI／機械学習開発ソフトウェア「eIQ AIソフトウェア」の最新アップデートについて説明。時系列データを基にエッジ機器向けのAIモデルを構築する「eIQ Time Series Studio」と、生成AIのカスタマイズ手法の一つである「RAG」の作成を行える「eIQ GenAIフロー」という2つのエッジAI機能を新たに追加する。
エッジAIで生成AIとのコミュニケーションを円滑に、シャープの「CE-LLM」
シャープは、技術展示イベント「SHARP Tech-Day'24」において、開発中のエッジAI技術「CE-LLM」の搭載により生成AIとの自然なコミュニケーションを可能にするウェアラブルデバイス「AIスマートリンク」を披露した。