跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签 硬件 AI 广场
  1. 主页
  2. 版块
  3. AI硬件
  4. 各路大神求救,本人不才中标一个垃圾项目,银行私有部署

各路大神求救,本人不才中标一个垃圾项目,银行私有部署

已定时 已固定 已锁定 已移动 热议 AI硬件
qwen-27bcomfyui服务器
28 帖子 17 发布者 541 浏览 2 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • kop wangK kop wang

    @胡适之 所以我理解硬件的合格率、稳定性等不是核心指标。

    毕竟是你来维护,到底是8卡还是6卡,甲方其实是不敏感的。物料也一直在。

    L
    L
    laobenxiong
    德高望重 劳动模范
    编写于 最后由 编辑
    #18

    @kop-wang 嗯嗯, 6+2, 2张在线做备份可能从 RAS 角度看比较靠谱. 类似于 raidz2. 硬盘也应该考虑 raid, 不然有得忙

    1 条回复 最后回复
    0
    • kos orK
      kos orK
      kos or
      超凡大师
      编写于 最后由 编辑
      #19

      420K / 3年 = 140K 每年收入 - (292K- 292K*0.3殘值) /5 每年機器折舊 $41K => 99K 每年利潤 / 292K 初始投資 = 34% 每年投資報酬率

      前三年大概是 34% 每年投資報酬率, 有估錯的地方 歡迎更正

      1 条回复 最后回复
      0
      • CS6C
        CS6C
        CS6
        技术大牛 劳动模范
        编写于 最后由 编辑
        #20

        為什麼沒有考慮電費呢??? 大陸的電費真的便宜到這個程度嗎?(不懂提問

        C 1 条回复 最后回复
        0
        • CS6C CS6

          為什麼沒有考慮電費呢??? 大陸的電費真的便宜到這個程度嗎?(不懂提問

          C
          C
          csmkaka
          编写于 最后由 编辑
          #21

          @CS6 银行这类单位是不太需要考虑电费这种问题的。。换个新行长都会批出预算来翻新一次。。

          CS6C 1 条回复 最后回复
          0
          • C csmkaka

            @CS6 银行这类单位是不太需要考虑电费这种问题的。。换个新行长都会批出预算来翻新一次。。

            CS6C
            CS6C
            CS6
            技术大牛 劳动模范
            编写于 最后由 编辑
            #22

            @csmkaka 感謝解說,但銀行的話資安審查應該要先把零件拆bom表吧?
            用的軟體這一些感覺比較麻煩(? 不熟當地的金融法規。但應該也是有27001跟OS2 ?
            設備的部分去華強北讓他們賺一手直接配好不就好了嗎? 保固直接吃店家的。

            1 条回复 最后回复
            0
            • 胡适之胡 胡适之

              fdeb51c7-2a08-44a9-89f1-c05b3735e05e-image.jpeg
              兄弟们给我点建议 卖设备的也欢迎,现在买配件麻烦,我还要给银行服务三年,中标价就42万 ,三年以后设备归我。
              推理qwen3.8-27b 还要同时分1-2张卡给comfyui跑文生视频和文生图。就一个拆机U2当系统盘同时也是数据盘 SATA做冷备份

              CS6C
              CS6C
              CS6
              技术大牛 劳动模范
              编写于 最后由 编辑
              #23

              @胡适之 你有考慮過怎麼管理這台機器嗎? 我覺得你應該在 infra 的架構上面多想一下...
              還有就是這個標案有沒有賠款條件?例如遇到資安或是故障事件或者是軟體層面的問題,還有 5x8 or 7x24 支援服務(?
              但我猜這台機器應該只是放在銀行的辦公室? 不需要做到金融等級的安全性。

              這種標案麻煩的東西通常都不是硬體本身

              1 条回复 最后回复
              0
              • C
                C
                Che
                德高望重
                编写于 最后由 编辑
                #24

                看不懂。我只说说我作为外行的想法:

                1. 魔改显卡+二手拆机配件?
                2. qwen3.8-27B 当豆包用?小模型知识量少,也许是接入你们的知识库?
                3. 硬件都没买的情况下,你说你做好了软件。。最好别到时候发现数不清的问题。
                4. 20并发不需要太大显存,关键是你需要多大的上下文、响应/吐字速度、精度。
                5. 建议就是对他们的需求摸个底,尽量压低配置,没提到的东西统统不要上;选质量有保障的硬件,降低风险。总之就是砍上限保下限。
                1 条回复 最后回复
                0
                • stxpnetS
                  stxpnetS
                  stxpnet
                  超凡大师
                  编写于 最后由 编辑
                  #25

                  有点疑惑,为啥不抄抖音上那几个卖多卡的商家的作业

                  双卡3090 PCIE 3.0 8X/8X

                  白天(宰相) Sglang+mattbucci 3.6 35B A3B AWQ W4A16 262K ~160 t/s
                  夜间(将军) sglang+DENSE 27B INT8-W8A8-imatrix mtp/dflash2 230K ~65 t/s
                  1 条回复 最后回复
                  0
                  • 鍾子揚鍾
                    鍾子揚鍾
                    鍾子揚
                    编写于 最后由 编辑
                    #26

                    4張ai pro r9700,內部10幾個人跑sglang應該划算,NV的卡太貴了。

                    1 条回复 最后回复
                    0
                    • williamlouisW
                      williamlouisW
                      williamlouis
                      超级版主
                      编写于 最后由 编辑
                      #27

                      干竞标多年。
                      我只关注怎么付款。
                      这标都谁得到利益。
                      分的到底均不均。
                      其他的并没什么软用。

                      个人主页:xlkj.org Telegram https://t.me/xlkjorg

                      1 条回复 最后回复
                      0
                      • S
                        S
                        stormaround
                        编写于 最后由 编辑
                        #28

                        私有银行,数据不能出本地,都8张4090 48g,直接考虑部署deepseek-v4.1-flash啊,团队只考虑 qwen3.8-flash-next,glm5.3-flash,deepseek-flash,也可以考虑R9700,毕竟质保时间长,魔改卡有风险。大体量模型可能得加钱,上下文一定得拉长,不能裁减kv。

                        1 条回复 最后回复
                        0

                        你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                        厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                        有了你的建议,这篇帖子会更精彩哦 💗

                        注册 登录
                        回复
                        • 在新帖中回复
                        登录后回复
                        • 从旧到新
                        • 从新到旧
                        • 最多赞同


                        • 登录

                        • 登录或注册以进行搜索。
                        • 第一个帖子
                          最后一个帖子
                        0
                        • 版块
                        • 最新
                        • 标签
                        • 热门
                        • 用户
                        • 群组