キオクシアは、生成AIの回答精度を向上するSSDを活用したソフトウェア技術「KIOXIA AiSAQ」を公開した。インデックス化されたデータをSSDに配置するため、DRAM容量に依存せず大規模なデータベースを検索できる。
キオクシアは2025年1月28日、生成AI(人工知能)の回答精度を向上するSSDを活用したソフトウェア技術「KIOXIA AiSAQ(キオクシアアイザック)」を、オープンソースとして公開したと発表した。外部データを活用して推論を強化する検索拡張生成(Retrieval Augmented Generation:RAG)技術を構成する、新たなベクトル探索ソフトウェアとなる。
新たに開発したのは、RAGにおけるベクトル探索処理をする近似最近傍探索(Approximate Nearest Neighbor Search:ANN)の検索アルゴリズムを最適化するソフトウェアだ。インデックス化されたデータをSSDに配置するため、DRAM容量に依存することなく大規模なデータベースを検索でき、生成AIの回答精度および拡張性が向上する。
RAGは、学習済みのLLM(大規模言語モデル)に対して、学習データとして持ち出せない企業の機密情報や最新の情報などを学習させるのではなく、推論時にそれらの外部データを参照した上で結果を生成する技術だ。
新たなソフトウェアにより、同一サーバで複数のユーザーや用途別の複数データベースを使用するケースで、直接SSDにアクセスしてシームレスに切り替えができるため、効率的なRAGサービスの提供が可能になる。
 エッジにも浸透する生成AI、組み込み機器に新たな価値をもたらすか
エッジにも浸透する生成AI、組み込み機器に新たな価値をもたらすか AI CAD時代の到来で設計者の本質的役割がより明確に
AI CAD時代の到来で設計者の本質的役割がより明確に RAG普及で加速する製造業のナレッジ活用 技術継承への貢献にも期待
RAG普及で加速する製造業のナレッジ活用 技術継承への貢献にも期待 AIが新たなエンジニアリングを形作る、2025年に注目すべき4つのトレンド
AIが新たなエンジニアリングを形作る、2025年に注目すべき4つのトレンド 産総研がAIスパコン「ABCI 3.0」を一般提供、産官学の大規模生成AI研究を加速
産総研がAIスパコン「ABCI 3.0」を一般提供、産官学の大規模生成AI研究を加速 車載向けUFS製品がAutomotive SPICEレベル2認証を取得
車載向けUFS製品がAutomotive SPICEレベル2認証を取得Copyright © ITmedia, Inc. All Rights Reserved.
組み込み開発の記事ランキング
コーナーリンク