マイクロソフトが研究する「信用できるAI」は「FATE」が必要：人工知能ニュース（2/2 ページ）

マイクロソフトの研究部門であるマイクロソフトリサーチ（MSR）は、AI研究について「基礎研究」「タスク完了」「信用できるAI」という3つの方針を掲げている。また方針の1つである「信用できるAI」には「FATE」が必要になるという。

[朴尚洙，MONOist]

ディープラーニングによる回答に足りないのは「確率」

　説明会後半の質疑応答では、AI開発に求められるソフトウェア技術や、シンギュラリティ（技術的特異点）、チャットボットの価値、ディープラーニングのブラックボックス性などについて回答した。

　まずAI開発に求められるソフトウェア技術としては静的解析や動的解析の技術を挙げた。またMSRが公開している、制限や制約の問題を解決するソフトウェア「Z3」も役立つとした。また解決すべき課題として、分散システムにおける通信遅延によって発生する非同期（Asynchronous）バグがあるという。

　シンギュラリティについて、ウィン氏は「われわれが生きている間は心配する必要がない」と言明した。「AIが一般的な知性を獲得するには、まだまだ課題も多い。自然言語認識でさえまだ満足にできていない。例えば、この会見の通訳をSkype翻訳で行えればいいが、実際には人間の通訳の方にお願いしている。シンギュラリティへの道のりはまだまだ遠いだろう」（同氏）。

マイクロソフトのチャットボット「ZO.ai」のWebサイト（クリックでWebサイトへ移動）

　マイクロソフトは2016年12月に最新のチャットボット「ZO.ai」を発表している。日本マイクロソフトが開発した女子高生チャットボット「りんな」などを含めて、マイクロソフトはチャットボットの開発に注力している。ウィン氏は「話していて楽しい、人に攻撃的ではないという2つの要素を満足するように開発を進めている。ZO.aiは、倫理の問題をクリアするためのレビュー会議で確認したうえでリリースした。感情ある知性（Emotional Intelligence）をAIで実現するには、人との対話はとても重要だ」と述べる。

　注目を集めるディープラーニングだが、短所とされているのがブラックボックス性だ。AIが学習を重ねる中で適切な回答を出せるようになるが、なぜその答えに至ったかが分からないという問題である。これは先述したFATEのうち透明性に関わる。

　ウィン氏は2つの対応策を示した。1つは、ディープラーニングの深層を掘っていき、解釈できる層を見つけ出して説明できるようにするというものだ。「ディープラーニングに用いるディープニューラルネットワークは決してブラックボックスではない。必ず理解できるものがある」（同氏）という。

　もう1つは、AIが何らかの判断をする際に、判断が正しい確率を示すようにすることだ。ウィン氏は「はい／いいえではなく『この回答は○○％の確率で正しい』と答えるようにすべきだ。これによって、AIからの情報を使って最終的な判断を行う人は、その確率からより正しい判断を行えるようになるだろう」と述べている。