マイクロソフトが研究する「信用できるAI」は「FATE」が必要：人工知能ニュース（1/2 ページ）

マイクロソフトの研究部門であるマイクロソフトリサーチ（MSR）は、AI研究について「基礎研究」「タスク完了」「信用できるAI」という3つの方針を掲げている。また方針の1つである「信用できるAI」には「FATE」が必要になるという。

[朴尚洙，MONOist]

　日本マイクロソフトは2017年2月27日、東京都内でAI（人工知能）分野における基礎研究の最新動向についての説明会を開催。米国本社マイクロソフト（Microsoft）の研究部門であるマイクロソフトリサーチ（MSR：Microsoft Research） コーポレートバイスプレジデントのジャネット M. ウィン（Jeannette M. Wing）氏が、MSRにおけるAI研究の3つの方針や、方針の1つである「信用できるAI」に必要な要素「FATE」などについて説明した。

マイクロソフトリサーチのジャネット M. ウィン氏

　ウィン氏は「AIは、IT業界で最もホットな話題だが、マイクロソフトは何年も前からAI分野に投資し、製品やサービス、それらを支える技術として展開してきた」と語る。実際に検索エンジンの「Bing」やパーソナルアシスタントの「Cortana」にはAIが活用されている。

　そして「AIはどこでも、どんな製品にも使われる。だからこそ、さらにAIに投資していく」（同氏）という。実際に2016年10月には、AI関連製品の取り組みにフォーカスしたMicrosoft AI and Research Group（AIR）を設立した。

　ウィン氏は、MSRにおけるAI研究の方針を3つ挙げた。1つ目は「基礎研究（Foundation）」で、さまざまパートナーとともにオープンな研究を実施している。ディープラーニングにも注力しており、その研究成果となるのが「Skype翻訳」だ。話者の言語を自動で認識し、その内容を伝えたい相手が使っている言語に翻訳するものだ。また最近では、X線画像から乳がんの位置を読影するAIの研究を英国で進めている。

　2つ目は「タスク完了（Task Completion）」である。これは、Cortanaなどのパーソナルアシスタントが、各ユーザーのメールやスケジュールのデータを管理、分析して、直近のタイミングでユーザー自身がやるべきタスクを見つけ出す。そしてそのタスクをユーザーに知らせることで、タスクを完了させるという寸法だ。

　3つ目は「信用できるAI（Trusted AI）」だ。ウィン氏は「ITシステムはセキュアで信頼性が高く、プライバシーを守られることなどが求められる。中でもAIは、その分析結果や判断を信用できるかどうかが重要になる」と強調する。そして、信用できるAIには「公正（Fairness）」「説明責任（Accountability）」「透明性（Transparency）」「倫理（Ethics）」という4つの単語の頭文字をとった「FATE」が重要になるとした。

　ウィン氏は、このFATEの事例として「機械学習にはたくさんのデータを使うが、データには偏見が含まれていることがあり、その場合導き出されるモデルも偏見を含むことになる。こういった『公正』ではないモデルにならないようにしなければならない。また、AIを活用した広告で、性差別や年齢による差別があった場合、その『説明責任』はAIを提供したマイクロソフトなのか、AIから生まれたアルゴリズムなのか、それとも広告のエコシステムにあるのか判断は難しい」と説明する。

　さらに「話題のディープラーニングは、10年前に解決できなかったことを解決してくれるが、なぜそう判断したかを理解するのが難しい。『透明性』を確保するには、なぜこのモデルになったのかなどを説明できる必要がある。AIのパーソナル化を考えると、さまざまな文化や状況に対応した『倫理』も求められる」（ウィン氏）という。

　これら3つの研究方針に加えて、リアルタイムに人間とやりとりすることが可能なAIの研究にも注力しているという。「AIをあちらこちらに組み込めれば、予防保全などに活用でき、作業を効果的に進められるはずだ」（同氏）としている。