瞎折腾工具
-
我的瞎折腾工具
PVE 硬件清单
配件 型号 CPU Intel Xeon Gold 6154 ×2（18 核 ×2 线程，共 36 核 72 线程 @3.0GHz） 主板 超微 x11dpi-nt RAM 352GB DDR4-2133 ECC LRDIMM *11 ） GPU Radeon RX 9070 XT 16G 系统 Proxmox VE 机箱 国鑫 24盘位 阵列卡 LSI SAS 9361-8i 机箱内装不下显卡，用pcie扩展到外置
软件方面
主机操作系统是pve-manager/9.2.20，主要跑测试/客户VPN环境虚拟机，
显卡应用方面
受限于显卡直通不能同时分享给多个虚拟机共同使用，采用了单虚拟机多容器的结构，我没有做过容器化显卡会有多少性能损耗的测试[root@pod2 ~]# podman ps -a CONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES 21edc0966acd localhost/rvc:tb /bin/sh -c while ... 4 weeks ago Up 4 hours rocm-query 0694e5ef8973 docker.io/josh5/steam-headless:latest 4 weeks ago Up 4 hours 8083/tcp steam-headless d7a557067de7 localhost/triposr:latest uvicorn server:ap... 3 weeks ago Exited (0) 3 weeks ago triposr 01b9742d7a5c localhost/human-fit:latest uvicorn server:ap... 3 weeks ago Exited (137) 11 days ago humanbody d6a7931d5881 localhost/comfyui:latest python main.py --... 3 weeks ago Exited (137) 3 weeks ago 8188/tcp comfyui 660306b25e9b localhost/fish-speech-server:rocm 3 weeks ago Exited (143) 3 weeks ago 0.0.0.0:8080->8080/tcp fish-s2 2577ae30f160 localhost/voxcpm-serve:vulkan 2 weeks ago Up 4 hours 0.0.0.0:8099->8099/tcp na-voxcpm e641f546b827 localhost/novel-audiobook:latest python3 /podmanda... 4 hours ago Up 4 hours 8000/tcp na-tasks b1e6ea9b6474 localhost/gpuman:latest python /podmandat... 4 hours ago Up 4 hours 0.0.0.0:7873->7873/tcp gpuman 13eda493f882 localhost/novel-audiobook:latest python /podmandat... 4 hours ago Up 4 hours 0.0.0.0:8000->8000/tcp novel-audiobook dca3683495ce localhost/strata-rocm:latest 43 minutes ago Up 31 minutes 0.0.0.0:8080->8080/tcp, 8001/tcp strata从使用感觉来说一般，吞吐不够，稍大的模型都用不了，所以一般都是本地做测试，流程跑通调用云API跑批量任务
现在正在做有声小说项目的测试相关，敏感内容都被云拒绝了，会自动在本地跑
综合来看显卡的负载其实比较少，一般用 steam-headless 玩玩游戏和小说做做离线任务
后面可能会上9700实现多卡
-
-
-
