KIOXIA AiSAQ™ 技術以開放原始碼軟體的方式發佈，旨在降低生成式 AI 系統中的 DRAM 要求

【東京訊】全球記憶體解決方案領導廠商鎧俠株式會社，今日宣佈以開放原始碼方式發佈其全新 All-in-Storage ANNS with Product Quantization (AiSAQ) 技術⁽¹⁾。KIOXIA AiSAQ™ 軟體透過針對 SSD 最佳化的新型「最近鄰」搜尋 (ANNS) 演算法，為檢索增強生成 (RAG) 提供可擴充的效能，不需要將索引資料放在 DRAM 中，直接在 SSD 上即可進行搜尋。

生成式 AI 系統需要大量的運算、記憶體和儲存資源。雖然這些系統有潛力推動各產業取得顛覆性的突破，但其部署通常伴隨著高成本。RAG 是人工智慧的關鍵階段，運用公司或應用程式的特定資料來改善大型語言模型 (LLM)。

RAG 的中央元件是向量資料庫，可累積特定資料並將其轉換為資料庫中的特徵向量。RAG 還利用 ANNS 演算法，該演算法根據累積向量和目標向量之間的相似性，來識別改進模型的向量。RAG 要有效，必須能快速檢索與查詢最相關的資訊。傳統上，ANNS 演算法部署在 DRAM 中，以達到進行這些搜尋所需的高速效能。

KIOXIA AiSAQ 技術為十億規模的資料集提供可擴充且高效率的 ANNS 解決方案，記憶體使用率和快速索引切換功能所耗用的資源幾乎可忽略不計。

• 允許大規模資料庫在不依賴有限的 DRAM 資源的情況下運行，進而增強 RAG 系統的效能。
• 無需將索引資料載入 DRAM，向量資料庫能夠立即啟動。這可支援在同一伺服器上，在使用者特定或應用程式特定資料庫之間無縫切換，實現高效的 RAG 服務交付。
• 針對雲端系統最佳化，透過將索引儲存在分散的儲存空間中，以在多個伺服器之間共用。此方法可動態調整特定使用者或應用程式的向量資料庫搜尋效能，並促進實體伺服器之間的搜尋執行個體快速移轉。

鎧俠以開放原始碼軟體的方式，為其社群貢獻創新的 KIOXIA AiSAQ 技術，展現其推動人工智慧發展的承諾。