cVector向量計算一體機是一種面向億級以上向量計算場景的高性能向量存儲、計算一體化平臺,采用并行計算架構,融合高密度混合服務硬件,實現對大規模向量數據的計算和比對,相較于通過GPU、向量數據庫進行向量計算,cVector向量計算一體機在入庫效率、計算性能方面優勢突出,可廣泛應用于人工智能大模型、機器學習、計算機視覺、自然語言處理等領域。
cVector向量計算一體機是一種面向億級以上向量計算場景的高性能向量存儲、計算一體化平臺,采用并行計算架構,融合高密度混合服務硬件,實現對大規模向量數據的計算和比對,相較于通過GPU、向量數據庫進行向量計算,cVector向量計算一體機在入庫效率、計算性能方面優勢突出,可廣泛應用于人工智能大模型、機器學習、計算機視覺、自然語言處理等領域。
cVector向量計算一體機基于大數據分布式實時計算框架,結合定制化高密度計算硬件,實現大規模AI任務的分發與計算結果匯聚,保證計算任務執行的高效和穩定。其采用全量計算的方式,基于特征向量計算算法以及分布式集群處理資源調度技術,實現了海量特征庫條件下1:N對比任務的高效分解與并行處理,可將單個任務響應效率提升到0.1秒級。對于通過向量數據庫軟件需要幾千個時鐘周期的向量計算,該一體機只需很少的時鐘周期即可完成。
在“cVector 向量計算一體機 V1.0”、向量數據庫A、向量數據庫B和向量數據庫C中存儲相同的 1000 萬條的 256 維向量數據,分別查詢與目標向量的歐氏距離最短的 10 條向量,對比結果顯示各自返回的 10 條向量與目標向量的距離值均相同。
“向量計算數據庫驗證平臺 V1.0”性能效率符合《向量計算數據庫驗證平臺測試需求V1.0》的相關要求,在現場測試過程中,系統運行穩定,通過了中國軟件評測中心(工業和信息化部軟件與集成電路促進中心)的單項性能測試。”
根據測試報告結果,cVector向量計算一體機在千萬級特別是億級以上規模的入庫和查詢等方面具有顯著的性能優勢,可幫助提高大模型推理的服務性能和服務質量,并能明顯降低其基礎設施建設成本,幫助類ChatGPT等人工智能企業以更優的性價比解決算力不足的問題。