生成AIの推論処理を最大10倍高速化するAIプロセッサを開発人工知能ニュース

Preferred Networksは、生成AIの推論処理を高速化するAIプロセッサ「MN-Core L1000」の開発を開始した。生成AI利用時に特有の処理を最適化し、高速処理を可能にしている。

» 2024年12月05日 14時00分 公開
[MONOist]

 Preferred Networks(PFN)は2024年11月15日、生成AI(人工知能)の推論処理を高速化するAIプロセッサ「MN-Core L1000」の開発を開始したと発表した。生成AI利用時に特有の処理を最適化し、高速処理を可能にした。2026年の提供を目指す。

キャプション 生成AI向けプロセッサ「MN-Core L1000」のCGイメージ[クリックで拡大] 出所:Preferred Networks

 MN-Core L1000は、演算器に対して垂直方向に積載する3次元積層DRAMを採用し、GPUなど既存のプロセッサと比較して最大10倍高速化した。AIプロセッサとして利用が進むSRAMと比べても、安価にメモリの大容量化と高速化に対応できる。

 また、行列演算に最適化したプロセッサ「MN-Core」シリーズの設計思想を継承。高密度にハードウェア実装した演算器と分散メモリを備え、ソフトウェアによる制御で演算時の消費電力と排熱を抑えることができる。排熱の低減は、3次元積層メモリの技術課題となっていた、演算器の高温対策に寄与する。

キャプション 「MN-Core L1000」の主な特徴 出所:Preferred Networks
キャプション 「MN-Core L1000」と従来メモリの推論速度および消費電力の比較[クリックで拡大] 出所:Preferred Networks

 生成AIを利用する際の推論処理には、文章や画像生成のために数百GBもの膨大なデータ処理が必要とされ、既存のプロセッサでは転送できるデータ量がボトルネックとなっていた。同社は、データを保存するメモリ(記憶装置)と演算器のデータの受け渡しを高速かつ低消費電力で処理する推論プロセッサの開発を進め、利用時の計算コスト削減、オンプレミスでの利用、ソフトウェアへの組み込みに対応する。

⇒その他の「人工知能ニュース」の記事はこちら

Copyright © ITmedia, Inc. All Rights Reserved.