各路大神求救，本人不才中标一个垃圾项目，银行私有部署

[koala]

@kop-wang 他应该就是替代豆包的东西，豆包会泄密，这个在本地，无所谓，其实只要能解决并发拥堵的问题，4090的显卡是个性价比不错的方案，再买其他的就太贵了，成本吼不住。

[胡适之]

@kop-wang 有道理 甲方是租用的设备，软件也是我做的，软件简单 不容易出问题 当免费的

[kop wang]

@胡适之 所以我理解硬件的合格率、稳定性等不是核心指标。

毕竟是你来维护，到底是8卡还是6卡，甲方其实是不敏感的。物料也一直在。

[laobenxiong]

@kop-wang 嗯嗯, 6+2, 2张在线做备份可能从 RAS 角度看比较靠谱. 类似于 raidz2. 硬盘也应该考虑 raid, 不然有得忙

[kos or]

420K / 3年 = 140K 每年收入 - (292K- 292K*0.3殘值) /5 每年機器折舊 $41K => 99K 每年利潤 / 292K 初始投資 = 34% 每年投資報酬率

前三年大概是 34% 每年投資報酬率, 有估錯的地方 歡迎更正

[CS6]

為什麼沒有考慮電費呢？?? 大陸的電費真的便宜到這個程度嗎？(不懂提問

[csmkaka]

@CS6 银行这类单位是不太需要考虑电费这种问题的。。换个新行长都会批出预算来翻新一次。。

[CS6]

@csmkaka 感謝解說，但銀行的話資安審查應該要先把零件拆bom表吧?
用的軟體這一些感覺比較麻煩（？ 不熟當地的金融法規。但應該也是有27001跟OS2 ?
設備的部分去華強北讓他們賺一手直接配好不就好了嗎？ 保固直接吃店家的。

[CS6]

@胡适之 你有考慮過怎麼管理這台機器嗎？ 我覺得你應該在 infra 的架構上面多想一下...
還有就是這個標案有沒有賠款條件?例如遇到資安或是故障事件或者是軟體層面的問題，還有 5x8 or 7x24 支援服務（？
但我猜這台機器應該只是放在銀行的辦公室? 不需要做到金融等級的安全性。

這種標案麻煩的東西通常都不是硬體本身

[Che]

看不懂。我只说说我作为外行的想法：

1. 魔改显卡+二手拆机配件？
2. qwen3.8-27B 当豆包用？小模型知识量少，也许是接入你们的知识库？
3. 硬件都没买的情况下，你说你做好了软件。。最好别到时候发现数不清的问题。
4. 20并发不需要太大显存，关键是你需要多大的上下文、响应/吐字速度、精度。
5. 建议就是对他们的需求摸个底，尽量压低配置，没提到的东西统统不要上；选质量有保障的硬件，降低风险。总之就是砍上限保下限。

[stxpnet]

有点疑惑，为啥不抄抖音上那几个卖多卡的商家的作业

[鍾子揚]

4張ai pro r9700，內部10幾個人跑sglang應該划算，NV的卡太貴了。

[williamlouis]

干竞标多年。
我只关注怎么付款。
这标都谁得到利益。
分的到底均不均。
其他的并没什么软用。

[stormaround]

私有银行，数据不能出本地，都8张4090 48g，直接考虑部署deepseek-v4.1-flash啊，团队只考虑 qwen3.8-flash-next，glm5.3-flash，deepseek-flash，也可以考虑R9700，毕竟质保时间长，魔改卡有风险。大体量模型可能得加钱，上下文一定得拉长，不能裁减kv。