エッジデバイス向けに10億パラメーターの小規模言語モデルを提供開始：人工知能ニュース

Preferred Elementsは、エッジデバイス向けに開発した小規模言語モデル「PLaMo Lite」の提供を開始した。PLaMo Liteは、パラメーターを軽量化しながら、Jaster評価で大規模言語モデルと同等の日本語性能を示す。

[MONOist]

　Preferred Networksは2024年8月28日、子会社のPreferred Elementsが自動車、ロボット、製造設備、PCなどのエッジデバイス向けに開発した小規模言語モデル「PLaMo Lite（プラモライト）」の提供を開始したと発表した。

　PLaMo Liteは、クラウドを介さずにエッジデバイス上やオンプレミス環境で高速に動作する小規模言語モデルだ。Preferred Elementsがこれまでに開発した1000億パラメーターの大規模言語モデル「PLaMo-100B」を基に、10億パラメーターに軽量化したもので、計算コストを大幅に削減している。

　また、PLaMo LiteはPLaMo-100Bの学習データの2倍に相当する4兆トークンを用いて事前学習している。日本語性能を評価するベンチマークでは、パラメーター数が同程度の他社モデルを凌駕する結果を示した。Jaster 0-shot、4-shotsのベンチマークでは、パラメーター数の大きい大規模言語モデルと同等の評価を得た。

「PLaMo Lite」の日本語性能評価。左、中央：他社の小規模言語モデルとの比較、右：他社の大規模言語モデルとの比較［クリックで拡大］ 出所：Preferred Networks

　PLaMo Liteは、高い日本語性能を高速で発揮できることから、PCなどのエッジデバイスや機密情報を扱うオンプレミス環境での利用を想定している。Preferred Networksグループは、2024年秋に予定している大規模言語モデル「PLaMo 1.0 Prime」の提供に先駆けて、PLaMo Liteをリリースした。

⇒その他の「人工知能ニュース」の記事はこちら