AIが判断した根拠を一般ユーザーにも分かるように明示、三菱電機と理研が新技術：人工知能ニュース（2/2 ページ）

三菱電機が理化学研究所と共同で「制御の根拠を明示できるAI技術」を開発。今回開発したAI技術によって、AIが判断した制御の根拠や将来の状態を明示することでいわゆる「ブラックボックス問題」を解消し、人が理解しやすいAIの実現に貢献できる。今後は、5年以内となる2026年をめどに製品への搭載による実用化を目指すとしている。

[朴尚洙，MONOist]

機器の不調発生時における原因も明示できる

　また、3つのモジュールの連携によって、機器の不調発生時にAIが不調の原因を明示することも可能になる。ここで言う「不調」とは、故障や設置環境の変化などによって、本来の機能が発揮できていない状態のことだ。センサー値予測とシミュレーターの両モジュールによって正常動作時の各種物理量を予測できるが、不調時にはさまざまなセンサー値や物理量の予測値と実測値に乖離（かいり）が発生する。これらの乖離が発生している部位を特定することで、不調の根拠となるセンサー箇所や物理量を明示し、修理などの対策を行うための適切な作業を行えるようになるというわけだ。

機器の不調発生時にAIが不調の原因を明示する仕組み［クリックで拡大］ 出所：三菱電機

センサー値や物理量の予測値と実測値の乖離が発生している部位を特定［クリックで拡大］ 出所：三菱電機

　会見では、空調システムへの適用事例を挙げて開発したAI技術の有効性を説明した。事例として挙げた空調システムでは、設定温度や運転モード、室温、稼働率、換気量などの各種の状態が表示できるようになっている。空調システムの稼働では、室温だけでなく、センサーで計測する外気温、日射量、室内の人数などを見ながら稼働率を適切に制御して、設定温度を維持していくことになる。

空調システムへの適用事例と3つのモジュールとの関係性［クリックで拡大］ 出所：三菱電機

三菱電機の毬山利貞氏

　AIが稼働率の制御を行う上で重要なのが部屋の大きさや断熱性といった、係数となる物理パラメーターである。開発したAI技術は、これらの物理パラメーターを推定することでより正確な制御を可能にしている。また、ほぼ変化のない物理パラメーターだけでなく、部屋の中でどれだけの人やモノが熱を発しているかを示す室内熱量という従来は計測できておらず変動もあり得る物理パラメーターも予測している。AIによる予測値は誤差も示されるので、予測精度の高低も明示できている。

　例えば、あるタイミングでAIが空調システムの稼働率を41％から52％に高める制御変更を行った場合、「室内熱量の上昇が予測されるため」という説明根拠を挙げるとともに、さらにドリルダウンして「室内の人数増加が予測されるため」「過去のデータから人数が増える」という理由も示してくれる。三菱電機 情報技術総合研究所 知能情報処理技術部 機械学習技術グループマネージャーの毬山利貞氏は「従来のAI技術だと、設定温度や室温から直接稼働率を算出していたため、室内熱量などの変動要因は説明できなかった」と強調する。

空調システムのAI予測に基づく動作変更の説明。稼働率が52％に高まった理由は室内熱量が増加するためだ［クリックで拡大］ 出所：三菱電機

室内熱量の増加は人数の増加（左）、人数の増加は過去データからの予測に基づくことを示してくれる（右）［クリックで拡大］ 出所：三菱電機

　同様に、不調の原因を明示する場合でも、設定温度の25℃に対して室温が28℃まで上がっている場合に、室内の人数が極端に増加して室内熱量が上がり過ぎて室内機の限界を超えていることを示し、空調機の故障が不調の原因ではないことが分かる。実際に故障が起こって稼働率が0％になっている場合は、室内熱量に大きな変化ないことを根拠にして故障の可能性が高いためカスタマーセンターへの連絡を促してくれる。

不調の原因も明示してくれる。室内の人数が極端に増加して室内熱量が上がり過ぎている場合（左）、実際に空調機の故障が考えられる場合（右）などだ［クリックで拡大］ 出所：三菱電機

　なお開発したAI技術は、3つのモジュールから構成されるとともに、モジュール間で多くのデータのやりとりが発生する。AI技術として負荷が大きいと、三菱電機のMaisartが志向する機器やエッジのスマート化には適さない可能性も出てくる。この点については「監視用途などに用いている一般的なPCであれば十分に動作させられるだろう。空調システムであれば、業務用エアコンのシステムコントローラーなどに組み込めると想定している」（毬山氏）という。

⇒その他の「人工知能ニュース」の記事はこちら