GPU使用流程

1、初始化階段

1.1：初始化GPU資源對象
目的： 為GPU上的操作分配和管理資源，例如臨時內存和CUDA流。
操作： 創建StandardGpuResources對象來管理GPU的內存和計算資源。例如：

faiss::gpu::StandardGpuResources res;
res.setTempMemory(1024 * 1024 * 512);  // 分配512MB臨時內存

對向量的操作： 此時還沒有直接操作向量，而是為后續的向量計算預留空間。臨時內存用于存儲中間結果（如距離矩陣），內存大小需要根據向量數量和維度調整。
1.2：創建GPU索引
目的： 根據搜索需求選擇并創建適合的GPU索引類型。
操作： 根據數據集特性和精度要求，選擇索引類型，例如GpuIndexFlatL2（精確搜索）或GpuIndexIVFFlat（近似搜索）。示例：

faiss::gpu::GpuIndexFlatL2 index(&res, d);  // d為向量維度

對向量的操作：此時向量尚未加載，索引僅初始化了一個空的結構，等待后續數據填充。索引類型決定了向量如何被組織和計算（例如L2距離）。

2、數據加載與傳輸

這一階段將向量數據從CPU內存傳輸到GPU顯存，為GPU計算做準備。
2.1：數據在CPU內存中
操作：數據集和查詢向量以浮點數矩陣形式存儲在CPU內存中。數據集包含nb個d維向量，查詢集包含nq個d維向量：

float* xb;  // 數據集，形狀為 (nb, d)
float* xq;  // 查詢集，形狀為 (nq, d)

對向量的操作：每個向量是一個d維浮點數數組，存儲在連續的CPU內存中。例如，一個向量可能是[x1, x2, …, xd]，表示一個數據點。這些向量通常從文件加載或生成。
2.2：數據拷貝到GPU顯存中
操作：將數據集從CPU內存傳輸到GPU顯存。例如：

index.add(nb, xb);  // 將數據集xb拷貝到GPU并添加到索引

對向量的操作：每個向量（d維浮點數數組）通過add方法從CPU內存拷貝到GPU顯存。FAISS內部會為這些向量分配顯存空間，并將其存儲在索引中。例如，一個向量[x1, x2, …, xd]被完整傳輸到GPU，成為索引的一部分。

3、GPU計算階段

在GPU上，FAISS利用CUDA并行計算能力對向量進行索引構建和近鄰搜索。
3.1：索引構建
目的：根據索引類型，構建數據結構以加速搜索。
操作：
對于GpuIndexFlatL2，構建過程主要是將向量加載到GPU顯存。
對于GpuIndexIVFFlat，需要先訓練聚類器，然后添加向量：

index.train(nb, xb);  // 訓練聚類器
index.add(nb, xb);    // 添加向量到索引

對向量的操作：
訓練：在train中&#x