NECはPLM「Obbligato」のユーザーフォーラムを開催した。本稿では当日の講演の中から、Obbligatoにおける生成AI連携の機能や評価検証などの結果を報告した東レエンジニアリングの講演内容を抜粋し、その後の取材内容と併せてお伝えする。
NECは2024年12月13日、PLM「Obbligato」のユーザーフォーラムを開催した。本稿では当日の講演の中から、Obbligatoにおける生成AI(人工知能)連携の機能や評価検証などの結果を報告した東レエンジニアリングの講演内容を抜粋し、その後の取材内容と併せてお伝えする。
NECと東レエンジニアリングの検証は2024年7月から同年11月まで実施された。LLM(大規模言語モデル)を使ったRAG(検索拡張生成)の仕組みを構築し、Obbligato内に格納されているデータを抽出、検索できるかなどを確認した。
検証を開始した経緯について、東レエンジニアリング 情報システム部門 DX推進室長 本田顕真氏は「生成AIの業務活用に関心はあったが、検索対象となる情報の整理が難しい点が気にかかっていた。クラウドストレージやファイル共有イントラネットには不要なファイルも多く含まれている。これらを基に生成AIを使えば、いわゆる『garbage in, garbage out.』の状態になってしまう。一方でObbligatoであれば、最新版に更新されたオーソライズドデータが入っている上、業務プロセス上にあるため生成AIと連携させて効果を得やすいだろうと考えた」と語った。
検証のためのシステムは「Obbligato AI Prototype」と名付けた。同システムのデータは、マイクロソフトの「Azure OpenAI」を介して「GPT-4o」を活用し、Obbligatoから抽出したデータを格納したベクトルデータベースを検索できるRAGの仕組みを構築した。利用時には用途別に用意したプロンプトを選択し、適切な回答を得やすいようにしている。回答からは、根拠となるObbligato内の元データを参照できる。
今回の検証では、アプリケーションなどの操作手順を含む「マニュアル検索」、製品設計の安全に関わる資料である「社内規定検索」、機械製品やソフトウェアなどの「DR文書検索」、機器別の発注仕様書である「機器発注仕様書検索」、3DCADで設計したものを2D化した「図面検索」、経済産業省の該非判定基準に関する「該非判定」の6つのユースケースについてObbligato AI Prototypeを適用し、回答の適切性などを評価した。
評価は、ユーザーからの質問への回答精度を「間違いなく回答が得られた」「正解の回答と間違いの回答が含まれる」「間違った回答である」の3段階で判定した。この他、回答生成の速度も計測して指標とした。その結果、まず回答精度については該非判定は「間違いなく回答が得られた」が96%と高い評価を得た。マニュアル検索と社内規定検索も同評価が70%を超えるなど良好だったが、機器発注仕様書検索や図面検索、DR文書検索は10〜30%台にとどまった。
本田氏は各ユースケースにおける、生成AIを活用したメリットとデメリットなどについても整理して報告した。例えばマニュアル検索では、マニュアル原文に直接記載がない文章でもキーワード同士をつなぎ合わせて読みやすい回答として出力するといった働きがあったものの、一方で、回答を省略する他、別条件の操作を同一の操作としてまとめて回答するハルシネーションも観測された。この他、DR検索ではドキュメントなどによく付けられる「#1」などの英数字の検索に弱く、資料の絞り込み条件として適さないことなどが分かった。
検証結果から得られた知見について本田氏は、「全般的にいえることは、生成AIの特性上、どうしても要約や省略をしてしまうので質問に対する全ての回答を得るのが困難であるということだ。マニュアル系の検索は、元文書がしっかりした文章で記述されている場合はLLMとの相性が良い。ただ手順が長い場合はLLMが勝手に省略する可能性があるので注意しなければならない。技術文書検索の場合は回答精度が元資料の構成やExcelなどのデータ形式に依存する傾向があった」とまとめた。
今回の検証では、Excelデータは中に格納されたテキストデータだけを抜き出す前処理を行った上で、ベクトルデータベースに格納した。このため、ユーザーが方眼紙のような書式でテキストを記述していた場合、Excel上ではすぐに分かるが、単に抜き出した状態では意味を成さない状態でデータベースに登録されており、これが適切な回答生成を妨げる要因になっていた可能性もある。
こうした課題についてNEC 製造ソリューション事業部門 製造システム統括部 PLMアプリケーショングループ ディレクターの田上光輝氏は「NECは現在、複雑な図表の読み取りを生成AIで実現する技術を発表している。他の生成AIサービスでも同様の機能を搭載しているものが出てきており、解決可能な課題だと考えている」と語った。
東レエンジニアリングでは今後、業務効率化と技術伝承の2軸を中心に生成AIの効果検証を進めていく計画だ。また講演内で本田氏は、今後NECに期待することとして、「Obbligatoに登録されている属性値情報を生成AIの検索キーワード対象に含められるようにしてほしい」といった要望を挙げた。
Copyright © ITmedia, Inc. All Rights Reserved.