　現在AIは第3次ブームが到来しているといわれる。現ブームの特徴は、予測、異常検知、変換・生成などさまざまなAI応用の実用化が進み「社会との関係の中から新しい課題が出てきている。そのため精度や性能を向上という先端技術の開発研究とは異なる側面での研究開発の潮流が見られる。それはAIの光の部分ではなく､影の部分にも目を向けたものとなっている」（福島氏）という。アナリストの中にはAIに対する期待はピークを越え、幻滅期に入りつつあるという見方もあるが「国内外のAI関連学会の参加者は依然増加している」と福島氏は述べる。

　AIが社会に関わる新たな問題を具体的に見ると、光の側面を「自動化による効率化、人間の負荷減」「人間が気付かなかった選択肢を発見、可能性を拡大する」「人間を上回る精度・速度」とする。一方、影の部分は「AI代替によって消え去る職業」「監視社会、プライバシー不安」「AIの軍事利用、AIの悪用」などの社会的な懸念があるという。さらに「AIの判定結果を信じられるか」「人間の意思決定の主体性を確保できるか」などの技術的な課題なども挙げられている。

人間中心のAI活用

　こうした課題に対して、日本政府は「人間中心のAI社会原則」として「人間の尊厳が尊重される社会（Dignity）」「多様な背景を持つ人々が多様な幸せを追求できる社会（Diversity & Inclusion）」「持続性ある社会（Sustainability）」という3つの価値を基本理念とし、「AI-Readyな社会」を掲げている。「世界の国々・地域でもこうした理念を打ち出しており、この原則を満たすAIシステムをどう作ればよいのか、実現に向けて新しい技術課題として取り組みが必要になっている」と福島氏は語る。

　AI技術そのものへの課題としては「AIブラックスボックス問題（説明責任）」「AIのバイアス問題（公平性）」「AIの脆弱性の問題」「AIの品質保証問題」「フェイク動画問題」「ソーシャルメディアによる思考誘導問題」などがある。

　例えば、「AIブラックボックス問題」はAIが理解可能な理由説明を出してくれない（結果は出してくれるが、その理由の説明がない）ということだ。また「AIの公平性」に関しては、学習データが偏見を含んでいれば判定結果にも偏見が反映される（男性のデータばかりで判定したところ女性が差別されることになった）ことなどがある。「AIの脆弱性」については、学習データと比べて想定外のデータに対してどう振る舞うか不明な点があること、誤認識を誘発する攻撃が可能なことなどが指摘されている。

　こうした中で、AI技術の精度・性能向上だけでなく、人間中心のAI社会原則を満たすための安全性、信頼性の確保および意思決定における人間の主体性確保を目指した研究開発が求められている。「AIのシステムは従来、手続きや判定ルールを明示的に書くことでシステムの動作が決まっていた（プログラミング）。それが、データを例示すると、それをまねて自動的に判定ルールができ、システムの動作が決まる（機械学習）ように変化しており、これまでの開発方法論が通用せず、そのためにも、新しい方法論の必要性が高まっている」と福島氏は考えを述べている。

　こうしたシステム開発のパラダイム転換に対応して、急速に普及するAI応用システムの安全性や信頼性を確保するために新世代のソフトウェア工学を確立する重要性が指摘される。AI品質を強みとすることで、AI応用産業の国際競争力が強化されるため、日本でも統合イノベーション戦略推進会議で「AI戦略2019」を決定し、研究開発の方向として「Trusted Quality AI」を掲げている。

盛り上がりを見せる量子技術

　　　　　　 1|2 次のページへ