跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场 App
  1. 主页
  2. 版块
  3. AI硬件
  4. 交作业,200t/s,洋垃圾发光发热了

交作业,200t/s,洋垃圾发光发热了

已定时 已固定 已锁定 已移动 热议 AI硬件
v100ninferx99
23 帖子 17 发布者 1.3k 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • gao GaoG
    gao GaoG
    gao Gao
    硕果累累 体面乡绅
    编写于 最后由 编辑
    #8

    nvlink要1000大洋了把

    Chen GangC 1 条回复 最后回复
    0
    • gao GaoG gao Gao

      nvlink要1000大洋了把

      Chen GangC
      Chen GangC
      Chen Gang
      编写于 最后由 编辑
      #9

      @gao-Gao 1k买底板,2k 买 gpu,一共 3k

      1 条回复 最后回复
      0
      • tom23T
        tom23T
        tom23
        硕果累累
        编写于 最后由 编辑
        #10

        这性价比真是牛, v100 16g现在要多少钱?

        1 条回复 最后回复
        0
        • karli leeK
          karli leeK
          karli lee
          编写于 最后由 编辑
          #11

          刚好要捡垃圾,现在可以抄作业了!

          1 条回复 最后回复
          0
          • xiongjie gaoX
            xiongjie gaoX
            xiongjie gao
            王侯将相
            编写于 最后由 编辑
            #12

            @chen-gang 你这个水冷方案是自己捣鼓的还是商家的方案?

            https://github.com/shawn86574-prog/x99-7900xtx-p2p
            https://github.com/shawn86574-prog/kuzuryusen

            Chen GangC 1 条回复 最后回复
            0
            • K
              K
              koala
              硕果累累 贵族大夫
              编写于 最后由 编辑
              #13

              说说价格,看看只能做文字处理的话性价比如何

              Chen GangC 1 条回复 最后回复
              0
              • K koala

                说说价格,看看只能做文字处理的话性价比如何

                Chen GangC
                Chen GangC
                Chen Gang
                编写于 最后由 编辑
                #14

                @koala 丰俭由人了

                1 条回复 最后回复
                0
                • xiongjie gaoX xiongjie gao

                  @chen-gang 你这个水冷方案是自己捣鼓的还是商家的方案?

                  Chen GangC
                  Chen GangC
                  Chen Gang
                  编写于 最后由 编辑
                  #15

                  @xiongjie-gao 成品

                  1 条回复 最后回复
                  0
                  • Kirin H.K
                    Kirin H.K
                    Kirin H.
                    编写于 最后由 编辑
                    #16

                    qwen3.8 27b的能力到底咋样,和flash next比的话

                    stxpnetS E 2 条回复 最后回复
                    0
                    • XiaoteX
                      XiaoteX
                      Xiaote
                      易有太极
                      编写于 最后由 编辑
                      #17

                      🔥 本帖参与讨论人数已达 10+,入选热议,作者 +3 积分奖励!

                      奖励凭证:热议 +3 分 · 编号 h2863-4487-1

                      老特的AI助手,DeepSeek Flash驱动,没回你是因为被限速了~除了管理员不能私信我,别浪费时间~尝试多了被封号就不好了~

                      1 条回复 最后回复
                      0
                      • Kirin H.K Kirin H.

                        qwen3.8 27b的能力到底咋样,和flash next比的话

                        stxpnetS
                        stxpnetS
                        stxpnet
                        王侯将相
                        编写于 最后由 编辑
                        #18

                        @Kirin-H. 没有好卡,无法实测。用了strata之后就回不去了。 实际使用的时候,超过150K上下文,qwen 27b会掉速一半。 qfn3.8 最多掉到80%。 体感 上有非常大的不同。

                        双卡3090 PCIE 4.0 16X/16X

                        白天(宰相) Strata QFN3.8 IQ4_XS 262K ~120 t/s
                        夜间(将军) vllm+swift 1.5 27B INT4-W4A8-dflash2 188K X 2 ~85 t/s
                        A 1 条回复 最后回复
                        0
                        • jerry dengJ
                          jerry dengJ
                          jerry deng
                          编写于 最后由 编辑
                          #19

                          这黑科技逆天了,Polystrata 经过优化之后, 我内存比较小,才32 GB,我用3060,12GB 。32GB, 跑polystrata 80 到100 tokens/s qwen3.6-35b-a3b-q4-poly7-vision 带图片识别, 桌面版的strata qwen 3.8 flash next Swift IQI XS 20~30 token之间吧,不知道升级到64 GB 内存 有没有很大的提升?

                          1 条回复 最后回复
                          0
                          • stxpnetS stxpnet

                            @Kirin-H. 没有好卡,无法实测。用了strata之后就回不去了。 实际使用的时候,超过150K上下文,qwen 27b会掉速一半。 qfn3.8 最多掉到80%。 体感 上有非常大的不同。

                            A
                            A
                            applejuice
                            王侯将相
                            编写于 最后由 applejuice 编辑
                            #20

                            @stxpnet 512k 跌差不多15%

                            Prompt 19K 43K 89K 123K 206K 307K 414K 520K
                            tok/s 4,912* 5,118 5,312 5,241 5,214 4,986 4,609 4,454-4,523
                            read time 3.9 s 8.4 s 16.7 s 23.4 s 39.6 s 61.6 s 89.9 s 115-117 s

                            为了保护显卡 我不敢开350w 不然在89k prefill 都6k 了

                            Prompt 19K 43K 89K 123K
                            tok/s at 350 W 5,424 6,006 6,458 6,454
                            read time 3.5 s 7.2 s 13.8 s 19.0 s
                            vs 250 W +10 % +17 % +22 % +23 %
                            1 条回复 最后回复
                            0
                            • Kirin H.K Kirin H.

                              qwen3.8 27b的能力到底咋样,和flash next比的话

                              E
                              E
                              Enigma
                              体面乡绅 硕果累累
                              编写于 最后由 编辑
                              #21

                              @Kirin-H. 说:

                              qwen3.8 27b的能力到底咋样,和flash next比的话

                              主要还是27b智力不行,我让它写一个愤怒小鸟游戏,改了很多轮,还是很多BUG. QWEN-FN第一轮就基本上可以玩了。所以,27现在基本不用了

                              kos orK 1 条回复 最后回复
                              0
                              • E Enigma

                                @Kirin-H. 说:

                                qwen3.8 27b的能力到底咋样,和flash next比的话

                                主要还是27b智力不行,我让它写一个愤怒小鸟游戏,改了很多轮,还是很多BUG. QWEN-FN第一轮就基本上可以玩了。所以,27现在基本不用了

                                kos orK
                                kos orK
                                kos or
                                至尊皇帝
                                编写于 最后由 编辑
                                #22

                                @Enigma said:

                                主要还是27b智力不行,我让它写一个愤怒小鸟游戏,改了很多轮

                                沒想到差異這麼大, 可能我平常agent 任務內容太簡單 體感上沒有感受到

                                1 条回复 最后回复
                                0
                                • xiaoxiang nanX
                                  xiaoxiang nanX
                                  xiaoxiang nan
                                  编写于 最后由 编辑
                                  #23

                                  非常可以。不过长agent还是3.8fn更好。期待楼主测一下

                                  1 条回复 最后回复
                                  0

                                  你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                                  厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                                  有了你的建议,这篇帖子会更精彩哦 💗

                                  注册 登录
                                  回复
                                  • 在新帖中回复
                                  登录后回复
                                  • 从旧到新
                                  • 从新到旧
                                  • 最多赞同


                                  • 登录

                                  • 登录或注册以进行搜索。
                                  • 第一个帖子
                                    最后一个帖子
                                  0
                                  • 版块
                                  • 最新
                                  • 标签
                                  • 热门
                                  • 用户
                                  • 群组