跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签 硬件 AI 广场
cool zeroC

cool zero

@cool zero
取消关注 关注
关于
帖子
17
主题
1
分享
0
群组
0
粉丝
0
关注
0

帖子

最新 最佳 有争议的

  • 【避坑指南】CMP 170HX 是一张完全不值得推荐的卡。没买的就不要入坑了。
    cool zeroC cool zero

    看来我算是赌对的那个。买之前卡商给了个链接,我让 codex 远程跑了两个小时,能验证的都验证了。确认没问题记录显卡 id,收到货后验证了也没啥问题。确实 qwen3.8 27b 用sglang 部署的 w8a16 的 262k 上下文,dflash2,32k 一下输入都在 100t/s,200k 以上 掉到 60t/s。当然我是 8500 买的,过一个礼拜 同一个商家直接涨到 12500。我觉得 8500 还能买来玩玩,12500 就太扯了。qwen3.8 flash 也测了,1k 输入在 26t/s,27k 就掉到 20 t/s 了,到 200k 以上就剩 16t/s 了。decode 还好,主要是 prefill 太慢,200k 测试 prefill 有十几分钟。现在用他在 vllm 下面部署了 ornith1.5,10 并发。单路 196t/s,10 并发能到 740t/s。所有的部署都是让 codex 完成的。

    AI硬件 170hx
  • 登录

  • 登录或注册以进行搜索。
  • 第一个帖子
    最后一个帖子
0
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组