Metaの大規模言語モデルを活用してエッジデバイス向け生成AIを開発：人工知能ニュース

MediaTekは、Metaの大規模言語モデル「Llama 2」を同社の最新APUやNeuroPilot AI Platformと連携させ、エッジデバイス用AIアプリケーションの開発に活用する。

[MONOist]

　MediaTek（メディアテック）は2023年8月23日、Metaの次世代オープンソース大規模言語モデル「Llama 2」との連携を発表した。同社の最新APUや「NeuroPilot AI Platform」と連携させ、エッジデバイス用AI（人工知能）アプリケーションの開発に活用する。

MediaTekはMetaの「Llama 2」をエッジデバイス向け生成AIの開発に活用する［クリックで拡大］ 出所：MediaTek

　Llama 2を活用することで、生成AIアプリケーションの処理を直接、エッジデバイス上で実行可能になる。クラウドへの依存を減らし、遅延の低減やプライバシーの向上、セキュリティおよび信頼性の強化、通信が困難な地域での運用、運用コストの削減などが期待できる。

　既存のMediaTek製5Gスマートフォン向けSoC（System on a Chip）には、AIノイズ除去やAI超解像、AI MEMC（動き予測、動き補正）などの生成AI機能を実行できるAPUが搭載されている。

　また、2023年後半に発表予定の次世代チップセットは、Llama 2に特化したソフトウェアスタックと、Transformerバックボーンアクセラレーションを実装したAPUを搭載する。同チップセットにより、実装時の面積とDRAM帯域幅の使用を削減し、オンデバイス生成AI機能を短期間で試作できるようになる。

⇒その他の「人工知能ニュース」の記事はこちら