抡锤者

@hyaska 说:

终于搞定了，开64上下文，现在在43T/s 左右

恭喜，这几天在玩观火炉，没怎么上，才看到，你那个缺指令集的报错解决了就好。

@y-w 说:

我的配置是 5600+B350I+32g*2+5060ti 16G，开256上下文，我现在是41-45T/s左右，准备换12600kf+b760主板以解决四个内存槽和PCIE5的问题，估计换完能和你的差不多。

你什么系统，我才开150K上下文，你居然开256K

@zeroxin 说:

我也想换了，想把手头上的一张5070TI能换两张5060TI或者两张3080 20G

3080 20G 体质太不稳定 我前后换过三张都有问题

@johnnybegood 说:

@J-xu 现在后悔了么？

你指后悔什么？

@exllm 说:

@J-xu 试试 时序 19/20-23-23-44/45

2933 速度 ～33G/s
3200 速度 ～38G/s

大佬，请问电压给多少？

@hyaska 说:

大哥的配置与我的也相近，就是我只有32G内存，愁啊，到底里去搞2根凑个64G，太贵了

咬咬牙狠狠心，不然以后会更贵

@exllm 说:

哈哈， 和我的差不多， 我也是5600 + 96G ， 7900xtx

你的内存可以上3200 ， 调高一下时序

我也是已有的16G x 2 R1 内存 ，又买了32G x 2 的R2， 经过反复调整稳稳的跑在3200， 通过了6轮memtest测试。

真的可以3200吗？我之前直接开XMP开机失败了 所以就让AI帮我算了个求问的参数 ！但我觉得其实这个频率也还好！没觉得和我插双卡时候的3200有什么体感差别。

@stxpnet 说:

AVX2 cpu +128G内存已经很能大了。 而且STRATA的作者还在不断进化。
看他的推特，估计某些硬件用后续版本能达到目前的3-4倍性能，如果他没吹牛的话。

现在的模型量化和推理引擎真是日新月异

@williamlouis 说:

你这个配置其实比 pro 6000 爽。
你省电。可以玩24小时工作。
无噪音。可以安静工作。

我之前换掉 撼讯7900XTX暗黑犬确实就是因为它太吵太费电。

@terry 说:

@J-xu 何必呢，其实没必要，你两个5060Ti大模型效率很高，玩ComfyUI稍慢，也不能不能玩。换洋垃圾体验不会好。
楼主的审美不错。

不是换，我是想再搞一台X99洋垃圾

@terry 说:

男人的快乐不因为价格打折，RTX Pro6000是快乐，5060Ti也是快乐，你96G内存可以再卖一个5060Ti，很有玩头，何况5060Ti也不贵。

我原来就是双5060ti16G，实际上我刚卖掉了一张5060ti16G，等过段时间我想再搞一台你那种“洋垃圾”

@matrix-0 说:

可以跑千问 qwen3.8-flash-next-iq3_s 呢 strata + mtp

是的已经试了一下，体验不错！

首字吞吐（Prefill）：1242 tok/s 的极速读入！Prompt Tokens： 39266 tokens（约 4 万 Token）
耗时： 31s。一口气给它喂了一整部 181KB（约 3 万汉字）的完整小说《无声》，它仅仅花了 31 秒钟，就把整整 4 万 Token 的全部细节彻底消化完毕！

狂飙到了 57.46 t/s（在长达 1.4 万 token 的超长思考链输出下，稳定输出 4 分钟不掉速）。

下面是我的详细硬件配置和模型配置参数!

下面是strata-iq3_s.json参数

{
 "exe": "E:\\strata-alesha-proQ3.8-Flash-abliterated-G-R\\Strata\\engine\\strata.exe",
 "args": [
  "--pack",
  "E:\\strata-alesha-proQ3.8-Flash-abliterated-G-R\\Strata-data\\packs\\iq3_s",
  "--native",
  "..\\Qwen3.8-Flash-Next-GSQ-RCO-IQ3_S-00001-of-00002.gguf",
  "--ple-gguf",
  "..\\Qwen3.8-Flash-Next-GSQ-RCO-IQ3_S-00002-of-00002.gguf",
  "--expert-profile",
  "E:\\strata-alesha-proQ3.8-Flash-abliterated-G-R\\Strata\\data\\expert-profile.bin",
  "--expert-cache",
  "auto",
  "--prefill",
  "auto",
  "--spec",
  "4",
  "--spec-min-p",
  "0.5",
  "--mtp",
  "E:\\strata-alesha-proQ3.8-Flash-abliterated-G-R\\Strata-data\\mtp\\rt",
  "--max-context",
  "65536",
  "--kv",
  "k8v4",
  "--resident-experts",
  "--kv-resident",
  "32768",
  "--vision",
  "--vram-reserve-mib",
  "700",
  "--control-vector-scaled",
  "E:\\strata-alesha-proQ3.8-Flash-abliterated-G-R\\Huihui-Qwen3.8-Flash-Next-refusal-direction-r.gguf:1.0",
  "--control-vector-layer-range",
  "4",
  "44",
  "--cvec-mode",
  "project",
  "--cvec-dir",
  "per-layer"
 ],
 "cwd": "E:\\strata-alesha-proQ3.8-Flash-abliterated-G-R\\Strata",
 "tokenizer": "E:\\strata-alesha-proQ3.8-Flash-abliterated-G-R\\Strata-data\\packs\\iq3_s\\tokenizer",
 "model_name": "qwen3.8-flash-next-iq3_s",
 "log": "E:\\strata-alesha-proQ3.8-Flash-abliterated-G-R\\Strata\\strata-iq3_s.log",
 "lib_dirs": [
  "E:\\strata-alesha-proQ3.8-Flash-abliterated-G-R\\Strata\\.venv\\Lib\\site-packages\\nvidia\\cu13\\bin\\x86_64"
 ],
 "port": 8080,
 "gpu": 0,
 "gpus_asked": true,
 "vision": {
  "exe": "E:\\strata-alesha-proQ3.8-Flash-abliterated-G-R\\Strata\\engine\\strata-vision.exe",
  "mmproj": "..\\mmproj-Qwen3.8-Flash-Next-BF16.gguf",
  "model": "..\\Qwen3.8-Flash-Next-GSQ-RCO-IQ3_S-00001-of-00002.gguf",
  "gpu": true,
  "max_tokens": 1024
 }
}

我还没对接Agent，下一步准备保持这个速度的同时，先把上下文开大128K。今天就先到这里吧！献丑了，欢迎各位大佬批评指导！

我的3080魔改翻车了，突然花屏了一会，不敢再用，售后换了一张用了不到半个月又经常黑屏，所以现在又用回5060ti16G了

这几天比较忙，没怎么折腾本地模型，一开电脑突然发现大家都在用Strata跑Qwen3.8-Flash，研究了一下发现我原本的32G内存跑不了Qwen3.8-Flash-Next-GSQ-RCO-IQ3 S只能跑IQ2 0，而IQ2 0体验还不如Qwen27BGSQ-RCO-IQ4 XS，所以忍痛出血收了两条32G的C16 3000的阿斯嘉特现在是混插只能稳定跑2933，不过试了一下Strata跑Qwen3.8-Flash-Next-GSQ-RCO-IQ3 S体验还不错，能跑38-57Tokens，至于配置回头在其他板块另发一贴吧！

去年借着双11优惠3229入的索泰三风扇5060ti16G，这卡其实挺可以的，功耗低，发热低，16G显存跑AI算是入门够用，但16G显存像Qwen27BQ4这种甜品模型没法用，所以玩Agent一直卡在舒适区外。

最近显卡价格涨的很疯，我借机以近4200元的价格在咸鱼出掉了这张5060ti16G然后转手买了张撼讯的暗黑犬白色7900XTX，但这张卡啸叫严重，功耗高，发热也很高，用起来体验非常差，我想啸叫应该是个例，但应该也是普遍通病，功耗和发热应该就是7900XTX就这样，虽然24G的显存跑本地Qwen3.8-27-Q4KM的Agent那是直接进入了128K上下文的舒适区，但是吱吱嘎嘎的供电模块啸叫声还有刷个视频或者多开几个网页都一百多瓦的功耗实在是太激进了，跑本地模型的时候直接满载(地狱犬是双8pin供电)380W的发热，加上吱吱嘎嘎的啸叫直接让我受不了啦！尤其是在魔性上头的啸叫中根本没法冷静的思考任何事情，所以我退掉了它。

之后我退而求其次，PDD买了张极将的3080魔改20G因为咸鱼退货的时候和买家产生了些拉扯，所以最终本来应该可以在3450-3500元买到的3080 20G短短几天就涨到了3750，最终我处理完咸鱼退货加上一张49元优惠卷以3701元拿下了这张极将的3080魔改20G。其实当时京东有一家叫影赫的店3500元还能买到同款，但是我想着极将的PDD品牌店开的多少久一点，出货也多一点，而且PDD也比较偏袒买家，售后保障多少好一点，所以就多花了一两百买了这家店，事后证明这确实也是正确的选择。

这张卡到家大概三四天左右，在跑Agent任务后花屏了一次，果断走了售后要求换一张，售后当然是让我再测试一下，之后的一两天烤机和跑本地AI几乎没在出过任何问题，但我思来想去还是再次要求换卡，这次客服倒是很痛快的答应了，于是我提出退掉这张卡，然后再拍一张，（此时这张卡已经涨到了3999）让客服帮我改成我之前的价格，客服爽快答应，但称他没有改价权限所以可以之后给我退款补差价，于是我为了避免无卡可能的空窗期，等第二张卡到货测试点亮，然后烤机，这张卡无论是风扇还是电流声都比之前的小很多，而且烤鸡核心和显存温度也比之前的低几度，然后才退回之前的卡，又用了两天没什么异常，联系客服确认收货，然后客服让我走不退货退款给我补了250元差价，承诺三年店保不受影响。

这就是我这段时间经历的折腾，现在我已经用这张卡本地部署Qwen3.82 7B Q4KM双Q8KV 96K上下文但视觉模型要放在CPU，跑通了DHS、Hermes、还有Codex，后来又替换成了IQ4XS，把Q8量化的视觉模型取回了GPU。

发个贴特此记录我的这段折腾经历，先就写道这里吧！下次我再开一贴或者直接再这贴里更新我的配置参数。