要不你先让ai帮你写一个需求分析？不然看不懂你想干嘛啊

预算太低了，GPU 8 * 4090D 48G ， 全是魔改卡，店保都只敢保一年，你保3年，出点问题来回折腾都划不来。

銀行用魔改卡........這出事的時候沒人幫忙扛耶

@胡适之 社区很多这个魔改卡出问题的，还是京东的，来回折腾了10多个来回，还是没解决，太折腾，你这个还是8个一起跑，出问题的概率很大

中标价就42万，8张 4090 48gb....这单job到底利润能够多少，42万美金？

确实， 这个卡稳定性真的不适合部署在这种场合

@胡适之 said:

现在买配件麻烦，我还要给银行服务三年，中标价就42万 ，三年以后设备归我

這就是機器是你的 算力出租三年 42万,
不好做的話 就當二房東發包出去 看有哪位高手願意承接

8张卡，你是不是漏算一个能放这8张卡的机柜，散热得跟上才行吧

@胡适之 报价单我看了（截图 OCR 读的，数字如有偏差请以原件为准），先把账摆出来，再说技术上真正会咬人的三件事。

这份单子的结构

• 准系统 超微 AS4124GS-TNR（95新）×1 = 13,000；主板 H12DSG-O-CPU + AOM-PCIE4-418N-1；机箱 418G-Q20H12，2.5寸×24 盘位、4 NVMe
• CPU AMD 7443（拆机）×2 = 7,600；内存 三星 32G DDR4-3200 RECC（拆机）×16 = 48,000（512G，双路 8 通道 1DPC，配得对）
• 显卡 RTX4090D 48G 涡轮版 含供电线（三年质保）×8 = 216,000
• PM9A3 3.84T U.2（拆机）6,500 + 希捷 4T ×1 = 1,000 + 导轨 300
• 合计 未税 292,400；含税 13% 专票 330,000/台

1）价格与利润：单卡 27,000 处在魔改 48G 的行情中位（目前市场带质保大概 2.2万~3.5万，看批次和渠道），整机 33万含税 ≈ 中标 42万 的 78%。三年服务期里要覆盖：坏卡换卡、备件、上门、足额电费（8卡满载约 3.5kW，三年电费按商电算就是十几万级），毛利其实很薄。

️ 报价单里有一处自相矛盾，签约前必须钉死：表里显卡行写"三年质保"，但备注又写"整机标准质保期限为 1 年，延保 1000 元/年/台"。你签的是三年服务，这两句话必须统一成书面条款：显卡三年到底是厂保还是店保、多久换卡（写清工作日）、供不供备卡、备卡谁来运。魔改卡三年 7×24，坏是必然事件，不是概率事件。

2）电源是这套整机的真短板。PWS-2K08A-1R 2000W ×4（2+2 冗余）→ 可用约 4kW；8×4090D 每卡 425W 满载就是 3.4kW，加双路 7443（约 400W）+ 盘和风扇，几乎顶格。对策很简单但必须做：整机限功耗 nvidia-smi -pl 320~350，把 8 卡压到 2.6~2.8kW，给冗余留出空间；上线前用电力计实测满载功率并留档。否则一路电源掉线，带不动的负载会连带把卡拖死。

3）8 张卡不是为了跑一个 27B 用的，别按 8 卡张量并行设计。4090 系列没有 NVLink，8 卡跨 PCIe 做 TP 收益极低、故障面极大。按你"27B 推理 + 10-20 人并发 + 1-2 卡给 ComfyUI"的需求，正确拓扑是分区分实例：

• 2 卡（96G）跑 27B 一个 vLLM/SGLang 实例就够扛 10-20 路：27B FP8 权重约 28G，KV 按 q8 算 37KB/token，20 路 × 32K ≈ 24G，96G 余额充足，--max-num-seqs 20；前挂负载均衡按轮询即可
• 2 卡给 ComfyUI（文生图/文生视频各占一段时段，别和推理抢同一张卡）
• 留 1-2 卡做热备——这就是三年合同的续命符，比堆算力有用得多
• 剩下的卡再起第二个实例或做灰度，反正 8×48G 对 27B 是严重过剩的

另外两个容易被漏掉的点：

• 散热/机柜：楼上 koala 提得对。8 卡 4U 必须进标准机柜前后风道，进风温度 ≤25℃，电源接两路市电或 UPS。涡轮版是必须的（这套选对了），别换消费级三风扇。
• 存储：你原话是"一块拆机 U.2 同时当系统盘和数据盘 + 一个 4T SATA 冷备"。给银行做部门级 10-20 人服务、涉密、三年，单盘是最不该省的地方——至少系统盘和数据盘分开，模型仓库单独放，RAID1 或每日快照，不然丢数据是没法补的。

最后一句：涉密内网记得把"模型权重怎么离线进场"写进方案（内部镜像/U 盘导入 + vLLM/SGLang 的 wheel 一起打包），别让下载模型成为上线阻塞。

我有个疑问，就是这个配件表是写进标书的吗？相当于楼主是解决方案供应商（硬+软）？
楼主对软件的体验负责吗？标书有规定吗？
如果不负责，那其实问题不大，硬件不稳定大不了降级么。

而且这个标我还是没想明白逻辑，银行租的到底是硬件还是系统？
如果租硬件，那其实跑不起来和楼主也没什么关系（物料导向）。
如果租系统，那其实硬件甲方也不敏感（体验导向）。

@kop-wang 他应该就是替代豆包的东西，豆包会泄密，这个在本地，无所谓，其实只要能解决并发拥堵的问题，4090的显卡是个性价比不错的方案，再买其他的就太贵了，成本吼不住。

@胡适之 所以我理解硬件的合格率、稳定性等不是核心指标。

毕竟是你来维护，到底是8卡还是6卡，甲方其实是不敏感的。物料也一直在。

@kop-wang 嗯嗯, 6+2, 2张在线做备份可能从 RAS 角度看比较靠谱. 类似于 raidz2. 硬盘也应该考虑 raid, 不然有得忙

420K / 3年 = 140K 每年收入 - (292K- 292K*0.3殘值) /5 每年機器折舊 $41K => 99K 每年利潤 / 292K 初始投資 = 34% 每年投資報酬率

前三年大概是 34% 每年投資報酬率, 有估錯的地方 歡迎更正

為什麼沒有考慮電費呢？?? 大陸的電費真的便宜到這個程度嗎？(不懂提問