　松尾氏はディープラーニングの最近のトレンドについても紹介した。このところ最も注目されているのは自然言語処理で、そのきっかけとなったのは大きな成果を上げた「BERT（バート）」という手法である。BERTは、トレーニング中の並列化を容易にするため、より大きなデータセットでのトレーニングを可能にする「Transformer（トランスフォーマー）」という機械学習モデルによって開発につながった。

　TransformerはRNN（回帰型ニューラルネットワーク）構造を使用しないアテンション（Attention）技術から作られたもので、アテンション機構だけでアテンション付きのRNNに匹敵するパフォーマンスが得られる。さらに、「自己教師あり学習（Self-Supervised Learning）」についても触れた。松尾氏は、自己教師あり学習について「画像の一部を隠したところから元の画像を復元せよという目隠し問題の場合、隠した画像を復元するには、（その画像が家の場合）窓の形や、壁の色は変わらないケースが多いという知識を分かっておく必要がある。このように学習する画像の背後にある構造を理解しておかないと、答えが出てこない。目隠しする前のデータを教師データとして使い、この背後の構造をうまく学習することで、精度が向上する」と解説する。

　自然言語処理におけるTransformer機械学習モデルの開発状況では、米国のAIを研究する非営利団体OpenAIが作成した、GPT-3（Generative Pre-Training3）について言及した。GPT-3は巨大なモデルで学習させており、パラメータの数は1750億個含まれ、GPT-2（パラメータ数15億個）より2桁大きい。GPT-3の進展により、法務、人事、調達、交渉、調整など多くのタスクが可能になることが見込まれている。

　DXにおいてAI技術はかなり重要な役割を担うとみられている。AIが用いられないDXでは、例えば典型的なものとして、POS⇒分析⇒人間がマーケティングを行う、という従来型のプロセスにとどまってしまう。ところがAI、特にディープラーニングにより、インプット側、処理、アウトプット側のそれぞれで大きく選択肢が増え、しかも随時、技術的な進展が予想され、そのたびに新たなビジネスチャンスが生まれることになる。

　さらに、今後について松尾氏は「単純化して言うと、人とモノの全てにIDが付与される。全てのデータベースがつながり、それらが自動化されていく。それにより、サプライサイドとデマンドサイドが近くなる。結果的に顧客にとっては、早くなる、安くなる、パーソナライズされ満足度が高まる、新しいサービスを受けることができ、新しい価値観が生まれる、などの進展がそれぞれの業界で起こることが予想される」と述べ、AIによってDXで得られるメリットに期待を込めた。

⇒その他の「組み込みイベントレポート」の記事はこちら

世界を変えるAI技術「ディープラーニング」が製造業にもたらすインパクト
人工知能やディープラーニングといった言葉が注目を集めていますが、それはITの世界だけにとどまるものではなく、製造業においても導入・検討されています。製造業にとって人工知能やディープラーニングがどのようなインパクトをもたらすか、解説します。
ディープラーニングの事業活用を可能にする「ジェネラリスト」の重要性
AI技術として注目を集めるディープラーニング。ディープラーニングへの取り組みを進めていく上で必要とされる人材には「エンジニア」の他に「ジェネラリスト」も必要だ。本稿では、ディープラーニングの「ジェネラリスト」に何が求められるかについて解説する。
機械学習はどうやって使うのか――意外と地道な積み重ね
前編では、AI（人工知能）と機械学習、ディープラーニングといった用語の説明から、AIを実現する技術の1つである機械学習が製造業を中心とした産業界にも徐々に使われ始めている話をした。後編では、機械学習を使ったデータ分析と予測モデル作成について説明する。
AIと機械学習とディープラーニングは何が違うのか
技術開発の進展により加速度的に進化しているAI（人工知能）。このAIという言葉とともに語られているのが、機械学習やディープラーニングだ。AIと機械学習、そしてディープラーニングの違いとは何なのか。
日本は既にディープラーニングで後進国となりつつある――東大松尾教授
生産設備から社会インフラ、各種災害対策まで「メンテナンス」「レジリエンス」に関する最新の製品や技術、サービスを一堂に集めた展示会「メンテナンス・レジリエンスTOKYO2018」（2018年7月18～20日、東京ビッグサイト）の特別講演に東京大学大学院工学系研究科特任准教授の松尾豊氏が登壇。「AIの発達によりわれわれの生活・産業がどのように変わるのか」をテーマにディープラーニング研究の重要性について紹介した。
日本ディープラーニング協会がG検定合格者の会を開催、コミュニティー設立へ
日本ディープラーニング協会は2018年7月4日、東京都内で「G検定」合格者の会を開催した。2017年12月と2018年6月に試験を行ったG検定の合格者1959人のうち約180人が参加。成績優秀者を表彰するとともに、G検定合格者によるコミュニティーを設立する方針を明らかにした。