エッジとAIでさらなる成長を目指すレッドハット、LLMの最適化手法「LAB」を提案人工知能ニュース(2/2 ページ)

» 2024年06月21日 07時00分 公開
[朴尚洙MONOist]
前のページへ 1|2       

エッジでは「Red Hat Industrial Edge Platform」をコンセプト提案

 「次世代ビジネスの成長」の柱となるのはエッジとAIである。エッジについては、2023年度に新製品として投入したRed Hat Device Edgeを、さまざまなエッジデバイスを支えるプラットフォームとしながら、さまざまなエッジデバイスの運用を自動化するためにAnsibleの組み合わせなども想定した「Red Hat Industrial Edge Platform」というコンセプトを日本市場で提案していく。

「Red Hat Industrial Edge Platform」のコンセプト 「Red Hat Industrial Edge Platform」のコンセプト[クリックで拡大] 出所:レッドハット

 2023年度の導入事例となった、国内外のPLCや装置コントローラーなど320種類以上のデバイスに対応するたけびしのIoT(モノのインターネット)対応データアクセスユニット「DeviceGateway」は、Ansibleを活用した自動化ソリューションによって運用負荷を大幅に削減できているという。

たけびしの「DeviceGateway」は自動化で運用負荷を大幅に削減している たけびしの「DeviceGateway」は自動化で運用負荷を大幅に削減している[クリックで拡大] 出所:レッドハット

 AIについては、企業ごとに独自のLLM(大規模言語モデル)を開発するための新たな手法として「LAB(Large-scale Alignment for chatBots)」の提案を進めていく。ChatGPTやGeminiをはじめとする汎用LLMの最大の課題は、そのまま利用するだけでは汎用的な業務でしか生産性向上の効果を生かせず、企業それぞれの環境や業務に合わせて活用できない点にある。

企業ごとに独自のLLMを開発するための新たな手法として「LAB」を提案する 企業ごとに独自のLLMを開発するための新たな手法として「LAB」を提案する。RAGやファインチューニングの課題を解決できるという[クリックで拡大] 出所:レッドハット

 そこで、企業によるLLMの最適化に用いられているのが、外部情報の検索を組み合わせるRAG(Retrieval Augmented Generation)と、別のデータセットを使ってLLMを再学習させるファインチューニングである。ただし、RAGは検索精度高めるためのベクトルストアの最適化が難しいこと、ファインチューニングは再学習のために多くのデータとリソースが必要になることが課題だ。

 レッドハットが提唱するLABは、オープンソースの開発スタイルを取り入れることで、少量のデータとリソースでファインチューニングと同様にLLMの再学習を行える。IBM Researchとレッドハットがオープンソースで開発したLLMの「Granite」を対象に、同じくオープンソースで開発したLABを実現するためのツール「InstructLab」によって再学習させて、企業ごとに最適化したLLMを開発/利用できるようにする。

LABの概要 LABの概要[クリックで拡大] 出所:レッドハット
LABは「Granite」と「InstructLab」で実現できる LABは「Granite」と「InstructLab」で実現できる[クリックで拡大] 出所:レッドハット

 なお、InstructLabは、コマンドライン上で質問/回答形式で入力すれば、企業に所属する個人が持つ情報を簡単に再学習のためのデータとして共有できる仕組みになっている。ファインチューニングでは、専門家であるデータサイエンティストがデータ収集と再学習を行うため数カ月かかることも当たり前だが、Labはより短期間で再学習を完了できるとしている。

「InstructLab」はコマンドラインから質問/回答形式でLLMの再学習に必要な情報を入力できる 「InstructLab」はコマンドラインから質問/回答形式でLLMの再学習に必要な情報を入力できる[クリックで拡大] 出所:レッドハット

 GraniteとInstructLabはオープンソースソフトウェアだが、今後は企業向けに活用しやすくするため、RHELと組み合わせた「RHEL AI」や、OpenShiftと組み合わせた「OpenShift AI」といった製品パッケージで提案していくことになる。

製品としては「RHEL AI」や「OpenShift AI」といった形で提案していくことになる 製品としては「RHEL AI」や「OpenShift AI」といった形で提案していくことになる[クリックで拡大] 出所:レッドハット

⇒その他の「人工知能ニュース」の記事はこちら

前のページへ 1|2       

Copyright © ITmedia, Inc. All Rights Reserved.