<![CDATA[瞎折腾工具]]>我的瞎折腾工具

PVE 硬件清单

配件 型号
CPU Intel Xeon Gold 6154 ×2（18 核 ×2 线程，共 36 核 72 线程 @3.0GHz）
主板 超微 x11dpi-nt
RAM 352GB DDR4-2133 ECC LRDIMM *11 ）
GPU Radeon RX 9070 XT 16G
系统 Proxmox VE
机箱 国鑫 24盘位
阵列卡 LSI SAS 9361-8i

机箱内装不下显卡，用pcie扩展到外置

软件方面
主机操作系统是pve-manager/9.2.20，主要跑测试/客户VPN环境虚拟机，
显卡应用方面
受限于显卡直通不能同时分享给多个虚拟机共同使用，采用了单虚拟机多容器的结构，我没有做过容器化显卡会有多少性能损耗的测试

[root@pod2 ~]# podman ps -a
CONTAINER ID  IMAGE                                  COMMAND               CREATED         STATUS                    PORTS                             NAMES
21edc0966acd  localhost/rvc:tb                       /bin/sh -c while ...  4 weeks ago     Up 4 hours                                                  rocm-query
0694e5ef8973  docker.io/josh5/steam-headless:latest                        4 weeks ago     Up 4 hours                8083/tcp                          steam-headless
d7a557067de7  localhost/triposr:latest               uvicorn server:ap...  3 weeks ago     Exited (0) 3 weeks ago                                      triposr
01b9742d7a5c  localhost/human-fit:latest             uvicorn server:ap...  3 weeks ago     Exited (137) 11 days ago                                    humanbody
d6a7931d5881  localhost/comfyui:latest               python main.py --...  3 weeks ago     Exited (137) 3 weeks ago  8188/tcp                          comfyui
660306b25e9b  localhost/fish-speech-server:rocm                            3 weeks ago     Exited (143) 3 weeks ago  0.0.0.0:8080->8080/tcp            fish-s2
2577ae30f160  localhost/voxcpm-serve:vulkan                                2 weeks ago     Up 4 hours                0.0.0.0:8099->8099/tcp            na-voxcpm
e641f546b827  localhost/novel-audiobook:latest       python3 /podmanda...  4 hours ago     Up 4 hours                8000/tcp                          na-tasks
b1e6ea9b6474  localhost/gpuman:latest                python /podmandat...  4 hours ago     Up 4 hours                0.0.0.0:7873->7873/tcp            gpuman
13eda493f882  localhost/novel-audiobook:latest       python /podmandat...  4 hours ago     Up 4 hours                0.0.0.0:8000->8000/tcp            novel-audiobook
dca3683495ce  localhost/strata-rocm:latest                                 43 minutes ago  Up 31 minutes             0.0.0.0:8080->8080/tcp, 8001/tcp  strata

从使用感觉来说一般，吞吐不够，稍大的模型都用不了，所以一般都是本地做测试，流程跑通调用云API跑批量任务
现在正在做有声小说项目的测试相关，敏感内容都被云拒绝了，会自动在本地跑
综合来看显卡的负载其实比较少，一般用 steam-headless 玩玩游戏和小说做做离线任务
后面可能会上9700实现多卡

图片.jpeg
图片.jpeg
图片.jpeg

]]>https://lcz.me/topic/2187RSS for NodeMon, 12 Oct 2026 12:24:19 GMTThu, 08 Oct 2026 07:41:41 GMT60<![CDATA[Reply to 瞎折腾工具 on Thu, 08 Oct 2026 09:03:33 GMT]]>看了这么大的内存，以为是3090双卡，后期可以升级显卡啦。

]]>https://lcz.me/post/23263https://lcz.me/post/23263Thu, 08 Oct 2026 09:03:33 GMT<![CDATA[Reply to 瞎折腾工具 on Thu, 08 Oct 2026 08:34:08 GMT]]>@terry
是啊，干点啥就不够了，只怪自己当时没看抡锤者

]]>https://lcz.me/post/23255https://lcz.me/post/23255Thu, 08 Oct 2026 08:34:08 GMT<![CDATA[Reply to 瞎折腾工具 on Thu, 08 Oct 2026 08:17:45 GMT]]>你这么大内存为什么不买个3090，体验会比现在好很多。16G A卡还是略显紧张。

]]>https://lcz.me/post/23253https://lcz.me/post/23253Thu, 08 Oct 2026 08:17:45 GMT