キオクシアは、生成AIの回答精度を向上するSSDを活用したソフトウェア技術「KIOXIA AiSAQ」を公開した。インデックス化されたデータをSSDに配置するため、DRAM容量に依存せず大規模なデータベースを検索できる。
キオクシアは2025年1月28日、生成AI(人工知能)の回答精度を向上するSSDを活用したソフトウェア技術「KIOXIA AiSAQ(キオクシアアイザック)」を、オープンソースとして公開したと発表した。外部データを活用して推論を強化する検索拡張生成(Retrieval Augmented Generation:RAG)技術を構成する、新たなベクトル探索ソフトウェアとなる。
新たに開発したのは、RAGにおけるベクトル探索処理をする近似最近傍探索(Approximate Nearest Neighbor Search:ANN)の検索アルゴリズムを最適化するソフトウェアだ。インデックス化されたデータをSSDに配置するため、DRAM容量に依存することなく大規模なデータベースを検索でき、生成AIの回答精度および拡張性が向上する。
RAGは、学習済みのLLM(大規模言語モデル)に対して、学習データとして持ち出せない企業の機密情報や最新の情報などを学習させるのではなく、推論時にそれらの外部データを参照した上で結果を生成する技術だ。
新たなソフトウェアにより、同一サーバで複数のユーザーや用途別の複数データベースを使用するケースで、直接SSDにアクセスしてシームレスに切り替えができるため、効率的なRAGサービスの提供が可能になる。
Copyright © ITmedia, Inc. All Rights Reserved.