高速深層学習に対応、物理ニューラルネットワークの学習アルゴリズムを開発：人工知能ニュース

NTTと東京大学は、深層ニューラルネットワークと物理系を計算過程に使う物理ニューラルネットワークに適した新たな学習アルゴリズム「拡張DFA法」を考案。光ニューラルネットワークによる原理実証で、有効性を確認した。

[MONOist]

　日本電信電話（NTT）は2023年1月10日、東京大学との共同研究により、物理深層学習のための新たな学習アルゴリズムを開発したと発表した。深層ニューラルネットワーク（NN）と物理系を計算過程に使う物理NNに適した学習アルゴリズムで、その有効性を確認した。

（上）共同研究による成果の位置付け。（下）実機実証用の光ニューラルネットワークの概要［クリックで拡大］ 出所：NTT

　高度なAI（人工知能）技術の基盤となる深層NNでは、これまで高負荷な学習計算をデジタル演算で実行してきた。研究チームは今回、デジタル計算機の性能向上を図るため、物理NNに適した「拡張DFA法」と呼ばれる学習アルゴリズムを考案した。

　拡張DFA法では、NNの最終層の誤差信号にランダム行列で線形変換を実施し、その数値をベースとして、学習パラメーターを更新して学習を進める。誤差逆伝搬（BP）法で行われる物理系の状態計測や微分応答の物理シミュレーションによる近似を必要とせず、光回路などの物理系上で実行できる。推論に加えて学習も物理系で計算できるため、学習過程を簡略化し、さまざまな深層学習モデルに対して適用可能だ。

（a）既存学習法と提案学習法の概要。（b）種々モデルでのベンチマーク結果［クリックで拡大］ 出所：NTT

　原理実証として、光回路を用いて推論と学習を疑似的に計算する光NNを構築。従来は困難だった光NNの学習を、光演算により効率的に実行できることを実証した。

（a）構築した光ニューラルネットワークでの画像認識タスクによるベンチマーク結果。（b）単位画像当たりの計算時間のニューロン数依存性［クリックで拡大］ 出所：NTT

　同社は今後、今回の開発手法による具体的な問題への適用性を検討するとともに、光ハードウェアの大規模小型集積を進めていく。

⇒その他の「人工知能ニュース」の記事はこちら