自動車向けの組み込み型小規模言語モデルを発表：車載ソフトウェア

セレンスは、自動車向けの組み込み型SLM「CaLLM Edge」を発表した。マイクロソフトと共同開発。自動車の制御コマンドやマップ上の検索、ナビゲーション、会話インタラクションなどの機能を備えた。

[MONOist]

　セレンスは2024年11月19日、自動車向けの組み込み型SLM（小規模言語モデル）「CaLLM Edge」を発表した。

　同社は、マイクロソフトとの協業によりCaLLM Edgeを開発、最適化した。セレンスの自動車データセットを用いて、マイクロソフトのSLM「Phi-3」をファインチューニングしている。38億のパラメーター、4ビットの量子化、4Kのコンテキストサイズを有する。

　温度やドア、窓、座席位置等に関する自動車のコントロールコマンドや、マップ上の地点検索およびナビゲーション、会話形式によるインタラクションといった機能を備えた。

　組み込み型専用（接続がない状態でも単独で機能）と、ハイブリッド型もしくはクラウド優先型（クエリへの回答方法の一つをSLMが担い、接続が切れた場合はバックアップとして機能）の双方で利用可能。クラウドに接続していない状態でも、生成AI（人工知能）による主要な機能や情報に常時アクセスできる。また、データをクラウドに送信しないため、データのプライバシー保護が可能となる。

　セレンスは、同社が有する自動車メーカーの顧客にCaLLM Edgeを提供する。また、マイクロソフトの「Microsoft Azure AIモデルカタログ」でも入手可能としている。

自動車向けの組み込み型SLM「CaLLM Edge」　出所：セレンス

→その他の「車載ソフトウェア」関連記事はこちら