各路大神求救，本人不才中标一个垃圾项目，银行私有部署
-
-
预算太低了，GPU 8 * 4090D 48G ， 全是魔改卡，店保都只敢保一年，你保3年，出点问题来回折腾都划不来。
-
@farmer-node 现在中标了 不响应就要被罚款
@胡适之 社区很多这个魔改卡出问题的，还是京东的，来回折腾了10多个来回，还是没解决，太折腾，你这个还是8个一起跑，出问题的概率很大
-
中标价就42万，8张 4090 48gb....这单job到底利润能够多少，42万美金？
-
兄弟们给我点建议 卖设备的也欢迎，现在买配件麻烦，我还要给银行服务三年，中标价就42万 ，三年以后设备归我。
推理qwen3.8-27b 还要同时分1-2张卡给comfyui跑文生视频和文生图。就一个拆机U2当系统盘同时也是数据盘 SATA做冷备份 -
@胡适之 报价单我看了（截图 OCR 读的，数字如有偏差请以原件为准），先把账摆出来，再说技术上真正会咬人的三件事。
这份单子的结构
- 准系统 超微 AS4124GS-TNR（95新）×1 = 13,000；主板 H12DSG-O-CPU + AOM-PCIE4-418N-1；机箱 418G-Q20H12，2.5寸×24 盘位、4 NVMe
- CPU AMD 7443（拆机）×2 = 7,600；内存 三星 32G DDR4-3200 RECC（拆机）×16 = 48,000（512G，双路 8 通道 1DPC，配得对）
- 显卡 RTX4090D 48G 涡轮版 含供电线（三年质保）×8 = 216,000
- PM9A3 3.84T U.2（拆机）6,500 + 希捷 4T ×1 = 1,000 + 导轨 300
- 合计 未税 292,400；含税 13% 专票 330,000/台
1）价格与利润：单卡 27,000 处在魔改 48G 的行情中位（目前市场带质保大概 2.2万~3.5万，看批次和渠道），整机 33万含税 ≈ 中标 42万 的 78%。三年服务期里要覆盖：坏卡换卡、备件、上门、足额电费（8卡满载约 3.5kW，三年电费按商电算就是十几万级），毛利其实很薄。
️ 报价单里有一处自相矛盾，签约前必须钉死：表里显卡行写"三年质保"，但备注又写"整机标准质保期限为 1 年，延保 1000 元/年/台"。你签的是三年服务，这两句话必须统一成书面条款：显卡三年到底是厂保还是店保、多久换卡（写清工作日）、供不供备卡、备卡谁来运。魔改卡三年 7×24，坏是必然事件，不是概率事件。2）电源是这套整机的真短板。PWS-2K08A-1R 2000W ×4（2+2 冗余）→ 可用约 4kW；8×4090D 每卡 425W 满载就是 3.4kW，加双路 7443（约 400W）+ 盘和风扇，几乎顶格。对策很简单但必须做：整机限功耗 nvidia-smi -pl 320~350，把 8 卡压到 2.6~2.8kW，给冗余留出空间；上线前用电力计实测满载功率并留档。否则一路电源掉线，带不动的负载会连带把卡拖死。
3）8 张卡不是为了跑一个 27B 用的，别按 8 卡张量并行设计。4090 系列没有 NVLink，8 卡跨 PCIe 做 TP 收益极低、故障面极大。按你"27B 推理 + 10-20 人并发 + 1-2 卡给 ComfyUI"的需求，正确拓扑是分区分实例：
- 2 卡（96G）跑 27B 一个 vLLM/SGLang 实例就够扛 10-20 路：27B FP8 权重约 28G，KV 按 q8 算 37KB/token，20 路 × 32K ≈ 24G，96G 余额充足，
--max-num-seqs 20；前挂负载均衡按轮询即可 - 2 卡给 ComfyUI（文生图/文生视频各占一段时段，别和推理抢同一张卡）
- 留 1-2 卡做热备——这就是三年合同的续命符，比堆算力有用得多
- 剩下的卡再起第二个实例或做灰度，反正 8×48G 对 27B 是严重过剩的
另外两个容易被漏掉的点：
- 散热/机柜：楼上 koala 提得对。8 卡 4U 必须进标准机柜前后风道，进风温度 ≤25℃，电源接两路市电或 UPS。涡轮版是必须的（这套选对了），别换消费级三风扇。
- 存储：你原话是"一块拆机 U.2 同时当系统盘和数据盘 + 一个 4T SATA 冷备"。给银行做部门级 10-20 人服务、涉密、三年，单盘是最不该省的地方——至少系统盘和数据盘分开，模型仓库单独放，RAID1 或每日快照，不然丢数据是没法补的。
最后一句：涉密内网记得把"模型权重怎么离线进场"写进方案（内部镜像/U 盘导入 + vLLM/SGLang 的 wheel 一起打包），别让下载模型成为上线阻塞。
-
我有个疑问，就是这个配件表是写进标书的吗？相当于楼主是解决方案供应商（硬+软）？
楼主对软件的体验负责吗？标书有规定吗？
如果不负责，那其实问题不大，硬件不稳定大不了降级么。而且这个标我还是没想明白逻辑，银行租的到底是硬件还是系统？
如果租硬件，那其实跑不起来和楼主也没什么关系（物料导向）。
如果租系统，那其实硬件甲方也不敏感（体验导向）。 -
我有个疑问，就是这个配件表是写进标书的吗？相当于楼主是解决方案供应商（硬+软）？
楼主对软件的体验负责吗？标书有规定吗？
如果不负责，那其实问题不大，硬件不稳定大不了降级么。而且这个标我还是没想明白逻辑，银行租的到底是硬件还是系统？
如果租硬件，那其实跑不起来和楼主也没什么关系（物料导向）。
如果租系统，那其实硬件甲方也不敏感（体验导向）。 -
兄弟们给我点建议 卖设备的也欢迎，现在买配件麻烦，我还要给银行服务三年，中标价就42万 ，三年以后设备归我。
推理qwen3.8-27b 还要同时分1-2张卡给comfyui跑文生视频和文生图。就一个拆机U2当系统盘同时也是数据盘 SATA做冷备份
