雙 GPU 運行 AMADEUS (動物行為追蹤軟體)時,GPU 2 出現 CPU 供料瓶頸(GPU 3D 利用率呈波浪狀/鋸齒狀)
【現象描述】
在執行 AMADEUS 時,分別進行兩個任務,CPU 餵資料給 第一張顯示卡 (GPU 1) 非常正常(系統分配8核),GPU 1 能維持穩定的高利用率。
但餵資料給 第二張顯示卡 (GPU 2) 時(系統分配4核),GPU 2 的 3D 利用率(Utilization)出現顯著的波峰/鋸齒狀(Sawtooth pattern):
GPU 2 算得很快,但每次算完一個 Batch 後,都需要長時間空閒(Idle)等待 CPU 推送下一批資料。
呈現「計算瞬間拉高 → 停頓等資料 → 再拉高」的循環。
【主要問題】
請教在多卡/雙卡環境下,該如何調整資料載入管線(Data Pipeline)、DataLoader 參數或 CPU 執行緒分配,以解決 GPU 2 的 GPU Starvation(GPU 飢餓/等待資料) 問題?
CPU:Intel Xeon E5-2673 v3
主機板:華南金牌 X99-TF
記憶體:ECC DDR3 16GB × 4(共 64GB)
顯示卡 1:NVIDIA GeForce RTX 4080 32GB 渦輪版
顯示卡 2:ASUS ROG GeForce RTX 4070
儲存裝置:512GB × 2 + 2TB × 1
電源供應器:ASUS TUF 1000W

