ヘッドウォータースは、東京エレクトロン デバイスと共同で「Phiモデルを中心としたSLM×Microsoft IoT Edge×ファインチューニング」を活用したエッジAIについて検証した。
ヘッドウォータースは2025年2月17日、東京エレクトロン デバイスと共同で「Phiモデルを中心としたSLM(小規模言語モデル)×Microsoft IoT Edge×ファインチューニング」を活用したエッジAI(人工知能)について検証したと発表した。
Microsoft Oliveを活用したモデル量子化やLoRA、QLoRAファインチューニングにより、PhiモデルなどのSLMを業務に特化した形で適用し、テキストと画像処理の適用範囲を検証した。
また、Azure IoT Edge for Linux on Windows(EFLOW)やiotedge-compose、Azure IoT Edgeランタイムを活用し、SLMアプリケーションの開発やデプロイメント効率化を検証している。さらに、クラウドとエッジによるデータ連携の有効性やDirectML、CUDA、ONNXランタイムをサポートし、さまざまなハードウェア環境への適用性も検証した。
デバイス上で直接データを処理するエッジAIは、リアルタイム性やデータの機密性が求められる分野などでの導入が進んでいる。一方、SLMは複雑なデータ解析や予測、自然言語処理を可能にする。SLMをエッジデバイスで活用することで、クラウド依存を抑えて機密性を高めつつ、高度なAI機能を現場で直接展開できる。
今後、両社はSLMを活用した業界特化型のエッジAIソリューションとして、保全レポート作成やオフライン生成AIボットの構築などを提供していく。
Copyright © ITmedia, Inc. All Rights Reserved.