超低消費電力AIアクセラレーターIPが電力効率107.8TOPS/Wを達成:人工知能ニュース
極小量子化技術を用いたLeapMindの超低消費電力AIアクセラレーターIP「Efficiera」が、電力効率107.8TOPS/Wを達成した。同じ消費電力での性能は、GPUやエッジ向けAIアクセラレーターの約5〜100倍になる。
LeapMindは2023年8月1日、極小量子化技術を用いた同社の超低消費電力AI(人工知能)アクセラレーターIP「Efficiera(エフィシエラ)」が電力効率107.8TOPS/W(1W当たりのテラオペレーション/秒)を達成したと発表した。
スペースに制約があるエッジデバイス上で安定したAI処理を実行するには、高い省電力性と計算処理能力の両立が求められる。
AIタスクと要求性能[クリックで拡大] 出所:LeapMind
同社は、ソフトウェアとハードウェアの両方に極小量子化技術を適用している。ソフトウェア面では、1ビット weight×2ビット activationという超低ビット量子化により精度低下を抑えた。また、AIアクセラレーターEfficiera専用のモデルコンバーターが演算効率とメモリ転送量を最適化し、ハードウェアの実行効率が向上している。
同社の極小量子化技術は、行列演算を単純な論理演算で表現でき、小さな回路面積で高効率の演算が可能だ。推論実行時のDRAM転送データは1〜2ビットのサイズとなるため、メモリの使用量や帯域を削減できる。
Efficieraの電力効率を7nmプロセスのIP単体電力で計算したところ、処理性能42.04TOPS、電力0.39Wで、電力効率として107.8TOPS/Wを達成した。現在、市場に出ているGPUは1〜5TOPS/W、エッジ向けAIアクセラレーターでは20TOPS/W程度のため、これらのデバイスと比較して、Efficieraの性能は同じ消費電力では約5〜100倍になる。
電力効率比較[クリックで拡大] 出所:LeapMind
⇒その他の「人工知能ニュース」の記事はこちら
- 物流施設向け自律移動ロボット、床面マーキングなしで自動搬送可能に
LeapMindのディープラーニングモデルが、オカムラの自律移動ロボット「ORV(Okamura Robot Vehicle)」に採用された。ORVはかご車を自動認識してつかみ上げ、目的地まで搬送する。かご車の改造や床面のマーキングがなくとも搬送できる。
- ディープラーニングモデルのPoC代行サービスを開始
LeapMindは、同社のAI推論アクセラレーターIP「Efficiera」向けのディープラーニングモデル「Efficiera物体検知モデル」を対象としたPoCの代行サービスを開始する。企業がAIを導入する際のハードルを下げることで、国内のAI普及に貢献する。
- リアルタイムで低ノイズ画像に変換できる、エッジAI画像処理モデルを発表
LeapMindは、エッジデバイス上で動作可能な「AI画像処理モデル」を発表した。エッジデバイスの課題だった、リアルタイム動作と高品質の画質処理を可能にし、ノイズの多い画像もスマートフォン並みの画質に改善する。
- 応用範囲を拡大、超低消費電力AI推論アクセラレーターIPの最新版を発表
LeapMindは、超低消費電力AI推論アクセラレーターIP「Efficiera」の最新版「Efficiera v2」を発表した。民生機器、産業機器、ロボットなどさまざまなエッジデバイスへディープラーニング機能を組み込める。
- 低コストFPGAで深層学習、コア技術をオープンソース化したベンチャーの狙い
LeapMindは2018年10月19日、組み込み向けFPGA上でディープラーニングを動作させるソフトウェアスタックをオープンソースで公開した。同社が今まで強みとしてきた技術が、誰でも利用もできるようになった。同社CTO(最高技術責任者)を務める徳永拓之氏に、blueoilとはどのようなもので、何が実現できるのか。そして、オープンソース化した狙いなどを聞いた。
- 深層学習の学習データ作成をサポートするソリューション
LeapMindは、深層学習モデル構築用の学習データ作成支援ソリューション「DeLTA-Mark」のクラウド版の提供を開始した。アノテーション作業において、管理の一元化、結果の均一化、操作の効率化の仕組みを提供する。
Copyright © ITmedia, Inc. All Rights Reserved.