双 RTX PRO 6000 + 48GB RAM：Strata 跑 DeepSeek 1017，Decode 80.8 tok/s，524K Prefill 1,385 tok/s

[terry]

我一直认为最后还是要把思考放到harness中去，模型就裸出，提升效率。当然有的模型公司本身没有harness，也为了跑分和用户体验，很难做到。所以我觉得梁子有竞争力，打包优化避免很多不必要的开支。

[terry]

@lunarmoon26 我弟，这个测试你放svg或者html文件啊。

[dardeaw feng]

看完後還是覺得去儲值比較省錢

無意冒犯啦，但有實驗精神給兄弟們羨慕真好

[lunarmoon26]

@dardeaw-feng 没错 如果纯粹使用 还是直接调用api充值比较便宜。但是有个问题是api一般会throttle request 高频调用就会被卡脖子

本地的一个好处是可以不需要等timeout

[johnnybegood]

@lunarmoon26 我也没有调参数， 都是默认， 提示词就是 ， 给我生成一个鹈鹕骑自行车的 SVG动画 ， 没有其他任何要求， 说实话我自己也很惊讶， 模型是 qfn iq4-xs 。 确实没有单独特地去调优。我感觉可能就是抽卡比较幸运吧。抽到了幸运卡。 用的是 deepseek harness xhigh 。 这是我的原贴：https://lcz.me/topic/2168 ， 第一次我写错了， 把 鹈鹕 写成了 醍醐， 可能因为他思考过一回了吧， 第二次的时候只是把 醍醐 改成了 鹈鹕， 就成 tihu2.html 这个样子了。这两次为什么差别如此之大， 我也无法解释。

[lunarmoon26]

@johnnybegood 也就是说你在dsh里说“给我生成一个鹈鹕骑自行车的 SVG动画” 他自己生成了个html吗？没有写别的要求？
还有就是dsh web profile里自带的工具，Skill和harness loop本身都会影响输出结果。（还有你自己电脑上装的Skill 看下你的~/.agents/skills里有没有东西被自动加载了）

严谨来讲最好写个单独的eval python来调用LLM生成鹈鹕svg

[johnnybegood]

@lunarmoon26

1， 启动strata， 加载模型qfn iq4_xs
2，启动deepseek harnness , 开新对话，选中本地qfn模型

3， 请帮我生成一个醍醐骑自行车的svg动画
4，生成了个醍醐灌顶骑车
5，错了！你是不是傻。 重新生成 鹈鹕骑自行车的svg动画
6，跑了20多分钟就出来tihu2了

[lunarmoon26]

@johnnybegood 是的 模型一样的情况下有harness和没harness生成的svg差别很大

[soop ladios]

光就跑deepseek來說, DGX spark GB10還是比較香一點, 一張RTX pro 6000差不多就四台GB10的錢. 4台GB10可以跑滿血deepseek v4.1 flash 1017, decode 90~100 tok/s, prefill 3500-4000 tok/s, 500K ctx 10併發.

[kos or]

@soop-ladios said:

deepseek v4.1 flash 1017, decode 90~100 tok/s, prefill 3500-4000 tok/s, 500K ctx 10併發.

10併發, aggregate 速度有多快呢？ 聽起來好像不錯

RTX pro 6000 算多功全能型, 跑ComfyUI 應該很順

[soop ladios]

@kos-or 10併發約230-260 tok/s.

[johnnybegood]

@soop-ladios 四张 5070ti 加起来， 从纯硬件角度看真的要超过 rtx pro 6000了， 就看软件能发挥硬件多少能力的问题了。