小規模言語モデルを活用したエッジAIソリューションについて共同検証を実施人工知能ニュース

ヘッドウォータースは、東京エレクトロン デバイスと共同で「Phiモデルを中心としたSLM×Microsoft IoT Edge×ファインチューニング」を活用したエッジAIについて検証した。

» 2025年03月10日 14時00分 公開
[MONOist]

 ヘッドウォータースは2025年2月17日、東京エレクトロン デバイスと共同で「Phiモデルを中心としたSLM(小規模言語モデル)×Microsoft IoT Edge×ファインチューニング」を活用したエッジAI(人工知能)について検証したと発表した。

キャプション 検証を行ったアーキテクチャ設計[クリックで拡大] 出所:ヘッドウォータース

 Microsoft Oliveを活用したモデル量子化やLoRA、QLoRAファインチューニングにより、PhiモデルなどのSLMを業務に特化した形で適用し、テキストと画像処理の適用範囲を検証した。

 また、Azure IoT Edge for Linux on Windows(EFLOW)やiotedge-compose、Azure IoT Edgeランタイムを活用し、SLMアプリケーションの開発やデプロイメント効率化を検証している。さらに、クラウドとエッジによるデータ連携の有効性やDirectML、CUDA、ONNXランタイムをサポートし、さまざまなハードウェア環境への適用性も検証した。

 デバイス上で直接データを処理するエッジAIは、リアルタイム性やデータの機密性が求められる分野などでの導入が進んでいる。一方、SLMは複雑なデータ解析や予測、自然言語処理を可能にする。SLMをエッジデバイスで活用することで、クラウド依存を抑えて機密性を高めつつ、高度なAI機能を現場で直接展開できる。

 今後、両社はSLMを活用した業界特化型のエッジAIソリューションとして、保全レポート作成やオフライン生成AIボットの構築などを提供していく。

⇒その他の「人工知能ニュース」の記事はこちら

Copyright © ITmedia, Inc. All Rights Reserved.