ニュース
生成AIの推論処理を最大10倍高速化するAIプロセッサを開発:人工知能ニュース
Preferred Networksは、生成AIの推論処理を高速化するAIプロセッサ「MN-Core L1000」の開発を開始した。生成AI利用時に特有の処理を最適化し、高速処理を可能にしている。
Preferred Networks(PFN)は2024年11月15日、生成AI(人工知能)の推論処理を高速化するAIプロセッサ「MN-Core L1000」の開発を開始したと発表した。生成AI利用時に特有の処理を最適化し、高速処理を可能にした。2026年の提供を目指す。
MN-Core L1000は、演算器に対して垂直方向に積載する3次元積層DRAMを採用し、GPUなど既存のプロセッサと比較して最大10倍高速化した。AIプロセッサとして利用が進むSRAMと比べても、安価にメモリの大容量化と高速化に対応できる。
また、行列演算に最適化したプロセッサ「MN-Core」シリーズの設計思想を継承。高密度にハードウェア実装した演算器と分散メモリを備え、ソフトウェアによる制御で演算時の消費電力と排熱を抑えることができる。排熱の低減は、3次元積層メモリの技術課題となっていた、演算器の高温対策に寄与する。
生成AIを利用する際の推論処理には、文章や画像生成のために数百GBもの膨大なデータ処理が必要とされ、既存のプロセッサでは転送できるデータ量がボトルネックとなっていた。同社は、データを保存するメモリ(記憶装置)と演算器のデータの受け渡しを高速かつ低消費電力で処理する推論プロセッサの開発を進め、利用時の計算コスト削減、オンプレミスでの利用、ソフトウェアへの組み込みに対応する。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
- PFNがGreen500で世界記録を達成した理由、独自発想のスパコン用プロセッサとは
Preferred Networks(PFN)は2020年11月16日、高い省電力性を特徴とする深層学習用スーパーコンピュータ(スパコン)「MN-3」の開発の意義や狙いを紹介する説明会を開催した。MN-3は同年6月22日に発表されたスパコンの省電力性能ランキング「Green500リスト」で世界1位を、同年11月17日に公表された最新のGreen500リストにおいては世界2位をそれぞれ獲得した。 - PFNが首位奪還、スパコンの省電力性能ランキングGreen500発表
Preferred Networks(PFN)は2021年6月28日、神戸大学と共同開発した深層学習用プロセッサを搭載したスーパーコンピュータ「MN-3」が省電力性能ランキング「Green500」において世界第1位を獲得したことを発表した。 - その業務はなぜ大変? 実際に働いて開発した業務改善ソリューション
Preferred Networksはスーパーマーケットなどチェーンストア向けの業務改善ソリューション「MiseMise(ミセミセ)」を開発し、提供を開始した。 - エッジデバイス向けに10億パラメーターの小規模言語モデルを提供開始
Preferred Elementsは、エッジデバイス向けに開発した小規模言語モデル「PLaMo Lite」の提供を開始した。PLaMo Liteは、パラメーターを軽量化しながら、Jaster評価で大規模言語モデルと同等の日本語性能を示す。 - AI技術活用の自律移動ロボが製造現場の搬送を自動化、PLCとの連携も
Preferred Roboticsは「第3回 Factory Innovation Week[秋]」の構成展の1つである「第3回 ロボデックス[秋]」において、同社の法人向け自律移動ロボット「カチャカプロ」によるデモンストレーションを披露した。 - AI技術による原油処理装置の自動運転開始、手動操作を超える高効率運転
ENEOSとPreferred Networksが共同で開発したAIシステムが、ENEOSの川崎製油所の常圧蒸留装置で安定的な自動運転を開始した。