跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签 硬件 AI 广场
  1. 主页
  2. 版块
  3. AI硬件
  4. 各路大神求救,本人不才中标一个垃圾项目,银行私有部署

各路大神求救,本人不才中标一个垃圾项目,银行私有部署

已定时 已固定 已锁定 已移动 热议 AI硬件
qwen-27bcomfyui服务器
28 帖子 17 发布者 541 浏览 2 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • 胡适之胡 胡适之

    @kop-wang 有道理 甲方是租用的设备,软件也是我做的,软件简单 不容易出问题 当免费的

    kop wangK
    kop wangK
    kop wang
    超级版主
    编写于 最后由 编辑
    #17

    @胡适之 所以我理解硬件的合格率、稳定性等不是核心指标。

    毕竟是你来维护,到底是8卡还是6卡,甲方其实是不敏感的。物料也一直在。

    虚心交流,一起进步

    L 1 条回复 最后回复
    0
    • kop wangK kop wang

      @胡适之 所以我理解硬件的合格率、稳定性等不是核心指标。

      毕竟是你来维护,到底是8卡还是6卡,甲方其实是不敏感的。物料也一直在。

      L
      L
      laobenxiong
      德高望重 劳动模范
      编写于 最后由 编辑
      #18

      @kop-wang 嗯嗯, 6+2, 2张在线做备份可能从 RAS 角度看比较靠谱. 类似于 raidz2. 硬盘也应该考虑 raid, 不然有得忙

      1 条回复 最后回复
      0
      • kos orK
        kos orK
        kos or
        超凡大师
        编写于 最后由 编辑
        #19

        420K / 3年 = 140K 每年收入 - (292K- 292K*0.3殘值) /5 每年機器折舊 $41K => 99K 每年利潤 / 292K 初始投資 = 34% 每年投資報酬率

        前三年大概是 34% 每年投資報酬率, 有估錯的地方 歡迎更正

        1 条回复 最后回复
        0
        • CS6C
          CS6C
          CS6
          技术大牛 劳动模范
          编写于 最后由 编辑
          #20

          為什麼沒有考慮電費呢??? 大陸的電費真的便宜到這個程度嗎?(不懂提問

          C 1 条回复 最后回复
          0
          • CS6C CS6

            為什麼沒有考慮電費呢??? 大陸的電費真的便宜到這個程度嗎?(不懂提問

            C
            C
            csmkaka
            编写于 最后由 编辑
            #21

            @CS6 银行这类单位是不太需要考虑电费这种问题的。。换个新行长都会批出预算来翻新一次。。

            CS6C 1 条回复 最后回复
            0
            • C csmkaka

              @CS6 银行这类单位是不太需要考虑电费这种问题的。。换个新行长都会批出预算来翻新一次。。

              CS6C
              CS6C
              CS6
              技术大牛 劳动模范
              编写于 最后由 编辑
              #22

              @csmkaka 感謝解說,但銀行的話資安審查應該要先把零件拆bom表吧?
              用的軟體這一些感覺比較麻煩(? 不熟當地的金融法規。但應該也是有27001跟OS2 ?
              設備的部分去華強北讓他們賺一手直接配好不就好了嗎? 保固直接吃店家的。

              1 条回复 最后回复
              0
              • 胡适之胡 胡适之

                fdeb51c7-2a08-44a9-89f1-c05b3735e05e-image.jpeg
                兄弟们给我点建议 卖设备的也欢迎,现在买配件麻烦,我还要给银行服务三年,中标价就42万 ,三年以后设备归我。
                推理qwen3.8-27b 还要同时分1-2张卡给comfyui跑文生视频和文生图。就一个拆机U2当系统盘同时也是数据盘 SATA做冷备份

                CS6C
                CS6C
                CS6
                技术大牛 劳动模范
                编写于 最后由 编辑
                #23

                @胡适之 你有考慮過怎麼管理這台機器嗎? 我覺得你應該在 infra 的架構上面多想一下...
                還有就是這個標案有沒有賠款條件?例如遇到資安或是故障事件或者是軟體層面的問題,還有 5x8 or 7x24 支援服務(?
                但我猜這台機器應該只是放在銀行的辦公室? 不需要做到金融等級的安全性。

                這種標案麻煩的東西通常都不是硬體本身

                1 条回复 最后回复
                0
                • C
                  C
                  Che
                  德高望重
                  编写于 最后由 编辑
                  #24

                  看不懂。我只说说我作为外行的想法:

                  1. 魔改显卡+二手拆机配件?
                  2. qwen3.8-27B 当豆包用?小模型知识量少,也许是接入你们的知识库?
                  3. 硬件都没买的情况下,你说你做好了软件。。最好别到时候发现数不清的问题。
                  4. 20并发不需要太大显存,关键是你需要多大的上下文、响应/吐字速度、精度。
                  5. 建议就是对他们的需求摸个底,尽量压低配置,没提到的东西统统不要上;选质量有保障的硬件,降低风险。总之就是砍上限保下限。
                  1 条回复 最后回复
                  0
                  • stxpnetS
                    stxpnetS
                    stxpnet
                    超凡大师
                    编写于 最后由 编辑
                    #25

                    有点疑惑,为啥不抄抖音上那几个卖多卡的商家的作业

                    双卡3090 PCIE 3.0 8X/8X

                    白天(宰相) Sglang+mattbucci 3.6 35B A3B AWQ W4A16 262K ~160 t/s
                    夜间(将军) sglang+DENSE 27B INT8-W8A8-imatrix mtp/dflash2 230K ~65 t/s
                    1 条回复 最后回复
                    0
                    • 鍾子揚鍾
                      鍾子揚鍾
                      鍾子揚
                      编写于 最后由 编辑
                      #26

                      4張ai pro r9700,內部10幾個人跑sglang應該划算,NV的卡太貴了。

                      1 条回复 最后回复
                      0
                      • williamlouisW
                        williamlouisW
                        williamlouis
                        超级版主
                        编写于 最后由 编辑
                        #27

                        干竞标多年。
                        我只关注怎么付款。
                        这标都谁得到利益。
                        分的到底均不均。
                        其他的并没什么软用。

                        个人主页:xlkj.org Telegram https://t.me/xlkjorg

                        1 条回复 最后回复
                        0
                        • S
                          S
                          stormaround
                          编写于 最后由 编辑
                          #28

                          私有银行,数据不能出本地,都8张4090 48g,直接考虑部署deepseek-v4.1-flash啊,团队只考虑 qwen3.8-flash-next,glm5.3-flash,deepseek-flash,也可以考虑R9700,毕竟质保时间长,魔改卡有风险。大体量模型可能得加钱,上下文一定得拉长,不能裁减kv。

                          1 条回复 最后回复
                          0

                          你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                          厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                          有了你的建议,这篇帖子会更精彩哦 💗

                          注册 登录
                          回复
                          • 在新帖中回复
                          登录后回复
                          • 从旧到新
                          • 从新到旧
                          • 最多赞同


                          • 登录

                          • 登录或注册以进行搜索。
                          • 第一个帖子
                            最后一个帖子
                          0
                          • 版块
                          • 最新
                          • 标签
                          • 热门
                          • 用户
                          • 群组