跑 COFYUI 問題

[CS6]

@ppk 那我很推 PVE ，在設定顯卡直通上面有很多不錯的方案

[sirwang]

@CS6 一直听说有PVE/ESXI的多显卡直通/内存叠加方案用到comfyui上。但一直没看到过相关信息的教程。在YT上看到过一些，但都说的云里雾里的。

[ppk]

@sirwang 可以再提供點資料嗎?
您是說pve虛擬卡嗎?

[sirwang]

@ppk 显卡直通后虚拟成整个算力集合，之后再拆分成不同的算力级别： 8卡4090-48G 虚拟成一个，之后再把它拆成2个‘虚拟卡’ 这样一个卡就有192G 显存.... 我知道有这么回事，但不知道如何操作。

[ppk]

@sirwang 小弟孤陋寡聞了
但我超想要的~~~

[CS6]

@sirwang @ppk 需要 PRO 6000 那種高階卡才能單卡分割喔....
多卡只要分配就好

[ppk]

@cs6 您說的是vGPU分割
@sirwang 說的是多顯卡合併成一張

[sirwang]

@CS6 不是这样的，是用虚拟技术把显卡硬件直通，之后虚拟成一个池子。之后再单独分出来不同的算力的这种方式。

那些在线云计算平台应该就是用的这种技术吧？ 实际是如何操作的我一直不知道。 但有一点是肯定的。 INTEL 的卡，如果2张卡做互联--使用PCIE 的话， 那性能只相当于150% 的总体计算性能。

那天看到comfyui说可以支持多卡了，我不知道那张截图的真实程度，如果真的可以了，那就太好了。

[ppk]

comfyui 可以多卡並行不同任務(節點)吧
把兩張卡合併再塞入一個模型<這我想要~~哈哈哈

[CS6]

@sirwang 了解，下週上工我來試試看，剛好公司有個部署工單可以玩一下，但我們之前都是手動切分實體卡分派任務，是有在想嘗試搞類似 Runpod.io 的架構，
AMD 卡我就不確定了，只知道雙卡跑同一個模型的做法，第二張卡還沒到，到時研究下