抡锤者

@tutu 说:

本人用 3090ti nvlink

3090Ti貌似不支持nvlink，难道是我搞错了？！？

@stxpnet 说:

3090 Ti 等在 issue 请求中

那我还得再等等，并且从windows10迁移到ubuntu也是一个巨大的工程~

看了下各种硬件下的速度，我的是跑不动的~

3090只能流着口水飘过~

@johnnybegood 我是外挂了三个风扇增强风道

strata这个项目对屌丝来讲，最大的好处其实是大家都忽略了的一点，不会让显卡跑到满载。

我之前用ninfer-3090时，显卡的温度基本上都是80°左右，换成strata后，显卡温度就没有超过65°。

我今年5月买的二手卡，按照锤哥的说法100%是矿卡改的，strata的这种利用率使用寿命应该能长不少O(∩_∩)O

@Bunsei 我非常赞同大神的观点

在锤哥的视频中看到过，qwen的模型上下文最多到16*KB，超过了模型会变成傻逼。

所以我一般都只将上下文开到160K

在锤哥的视频中看到过，qwen的模型上下文最多到16*KB，超过了模型会变成傻逼。

所以我一般都只将上下文开到160K

我将模型切换到ninfer-3090，其它都不变，然后任务跑不完，全是中断，dsh不断告诉我”已达到输出 token 上限回答被截断，已有输出保留在对话中。发送“继续”可让模型接着输出。“

我觉得就是模型的问题，qwen3.8-27b的思考模式ninfer应该是默认打开的，thinking也算入了输入token。

@kos-or DSH完成任务共有64 次工具调用，session 日志：
dsh-session-session-49ec30f7-29db-46bc-81d2-60d520dca910.zip

@kos-or 我在DSH中的模型设置

要看你计划做什么，其实锤哥在他的视频中说过无数次了，除非有数据安全的要求，肯定是在线API香，你买一根ddr5的钱够你用好久好久了。

32G物理内存少了，翻一倍到64G才摸到strata跑qwen3.8-flash-next的门槛

看看其它大神怎么说吧，反正我觉得蛮尴尬的，高不成低不就，跑啥都缺资源

3090Ti+96GRAM+Xeon E5-2680 v4+DSH+qwen3.8-flash-next-iq3_s+128K上下文，完成测试，用量 4.6M tok、用时 25分10秒。

硬件是 3090 Ti + 96G + Xeon E5-2680 v4，结果如下：

@gao-Gao 说:

3090单卡+96GB或64GB 内存用 Qwen3.8-Flash-Next-GSQ-RCO-IQ3_S ,128K上下文 parallel: 5 设置

parallel这个能开到5？

我本机的配置和您差不多一致，3090Ti+96G+x99洋垃圾

3060上能跑出这个成绩，我觉得可以释放我的3090去玩H3了

@gao-Gao 大佬，这个模型的能力如何？您有没有测试过？

我整个国庆节，除了开车在路上的时间，剩下全是telegram操控Hermes在折腾Strata。

在看到这个贴子前，我也在网上搜索，有没有大神采用类似的技术，本地跑deepseek v4.1 flash。

看来还是我太贪心了~

补一张我本机Hermes 调用strata的运行数据图：