検索
ニュース

超低消費電力AIアクセラレーターIPが電力効率107.8TOPS/Wを達成人工知能ニュース

極小量子化技術を用いたLeapMindの超低消費電力AIアクセラレーターIP「Efficiera」が、電力効率107.8TOPS/Wを達成した。同じ消費電力での性能は、GPUやエッジ向けAIアクセラレーターの約5〜100倍になる。

Share
Tweet
LINE
Hatena

 LeapMindは2023年8月1日、極小量子化技術を用いた同社の超低消費電力AI(人工知能)アクセラレーターIP「Efficiera(エフィシエラ)」が電力効率107.8TOPS/W(1W当たりのテラオペレーション/秒)を達成したと発表した。

 スペースに制約があるエッジデバイス上で安定したAI処理を実行するには、高い省電力性と計算処理能力の両立が求められる。

キャプション
AIタスクと要求性能[クリックで拡大] 出所:LeapMind

 同社は、ソフトウェアとハードウェアの両方に極小量子化技術を適用している。ソフトウェア面では、1ビット weight×2ビット activationという超低ビット量子化により精度低下を抑えた。また、AIアクセラレーターEfficiera専用のモデルコンバーターが演算効率とメモリ転送量を最適化し、ハードウェアの実行効率が向上している。

 同社の極小量子化技術は、行列演算を単純な論理演算で表現でき、小さな回路面積で高効率の演算が可能だ。推論実行時のDRAM転送データは1〜2ビットのサイズとなるため、メモリの使用量や帯域を削減できる。

 Efficieraの電力効率を7nmプロセスのIP単体電力で計算したところ、処理性能42.04TOPS、電力0.39Wで、電力効率として107.8TOPS/Wを達成した。現在、市場に出ているGPUは1〜5TOPS/W、エッジ向けAIアクセラレーターでは20TOPS/W程度のため、これらのデバイスと比較して、Efficieraの性能は同じ消費電力では約5〜100倍になる。

キャプション
電力効率比較[クリックで拡大] 出所:LeapMind

⇒その他の「人工知能ニュース」の記事はこちら

Copyright © ITmedia, Inc. All Rights Reserved.

ページトップに戻る