超低消費電力AIアクセラレーターIPが電力効率107.8TOPS/Wを達成：人工知能ニュース

極小量子化技術を用いたLeapMindの超低消費電力AIアクセラレーターIP「Efficiera」が、電力効率107.8TOPS/Wを達成した。同じ消費電力での性能は、GPUやエッジ向けAIアクセラレーターの約5〜100倍になる。

[MONOist]

　LeapMindは2023年8月1日、極小量子化技術を用いた同社の超低消費電力AI（人工知能）アクセラレーターIP「Efficiera（エフィシエラ）」が電力効率107.8TOPS/W（1W当たりのテラオペレーション/秒）を達成したと発表した。

　スペースに制約があるエッジデバイス上で安定したAI処理を実行するには、高い省電力性と計算処理能力の両立が求められる。

AIタスクと要求性能［クリックで拡大］ 出所：LeapMind

　同社は、ソフトウェアとハードウェアの両方に極小量子化技術を適用している。ソフトウェア面では、1ビット weight×2ビット activationという超低ビット量子化により精度低下を抑えた。また、AIアクセラレーターEfficiera専用のモデルコンバーターが演算効率とメモリ転送量を最適化し、ハードウェアの実行効率が向上している。

　同社の極小量子化技術は、行列演算を単純な論理演算で表現でき、小さな回路面積で高効率の演算が可能だ。推論実行時のDRAM転送データは1〜2ビットのサイズとなるため、メモリの使用量や帯域を削減できる。

　Efficieraの電力効率を7nmプロセスのIP単体電力で計算したところ、処理性能42.04TOPS、電力0.39Wで、電力効率として107.8TOPS/Wを達成した。現在、市場に出ているGPUは1〜5TOPS/W、エッジ向けAIアクセラレーターでは20TOPS/W程度のため、これらのデバイスと比較して、Efficieraの性能は同じ消費電力では約5〜100倍になる。

電力効率比較［クリックで拡大］ 出所：LeapMind

⇒その他の「人工知能ニュース」の記事はこちら