抡锤者

@dardeaw-feng 为什么我单卡32g反而不如你双卡16g呢 诶，后悔买单独的32g了

@范志刚 mi210差在生态了，跑comfyui生视频慢了，还有目前的starata 好像对cdna2不是很支持

贴主，想问下，你的IQ3_S 是用的哪个模型？

我发现有些抖音的测试结果上不同作者训练的模型有在适配Strata跑的比较快，且智商还在线的，我本人跑iQ3_s 发现有点慢啊，单卡v100 32g 只能到20-40的decode，求大神们分享和留下你们使用的模型仓库~~~~~

大神，方便问下，是哪家的Qwen3.8-Flash-Next IQ3_S 模型呢？

@tutu 我是在网页上的，大佬。。。没想到他是在应用里面才有，不过我好奇为什么48gb的3090没华强北弄出来，诶，找翻翻开 推特看看

@tutu 没哦，刚刚看了西北区，3090只有24g，任重道远

如图，项目地址如下：https://github.com/turbo-tan/tqllm

按项目官方所说，在128K长上下文状态下，可以比Strata推理引擎接近快1.63倍！

如果在算上最近3090的算力破解，decode速度可能没变，但是pf速度可能快很多啊，可以解决一下 目前Strata推理引擎 在长上下文等待第一个token 过久的问题！！

@tutu 没发现目前可以改48g啊，3090还没官方流出来的bios版本支持48gb的显存的吧，焊上去系统也读不出48g只能有24g

测试了，我尝试给目前已有短剧翻译配音，但是无法解决中文字少，发音少，外语必须加速，加速了很奇怪，而且很多情绪：比如 喘气、哈气、叹气、呐喊 等，无法配音的那么完美

好推荐，我就是单卡3090用户，看他即将推出：Qwen3.8-Flash-Next 在单块 RTX 3090 显卡上运行，我期待中

@vosrock 请问大佬你的显卡是V100吗

这个环境下，挺吃配置啊。。。。要么上ddr5，要么上多4090/5090， 或者pro 6000 一步到位

@perter 已测试IQ3_S 效果的确开始好起来了，感谢！！

@perter 是的 量化版本，但是别的帖子有参考（ https://lcz.me/topic/2081 ）

这个启动就是会投机解码，照成在agent上处理工作很死板，你是换了IQ3_S直接就好了吗，有没有尝试在agent上处理非编程工作？

@starryskyknight 我也有这样的感觉，flash好像没有27b 聪明，包括在agent里面工具调用

不知道为什么，跑3.8 flash 就是很拧巴，没有qwen 27b调用agent 爽快….

补一个长上下文的情况，还是平均有50-60的

@vosrock 主要是我放codex 里面只能控制思考低，不能关掉思考，神了，大思考很麻烦

对了，本人Tesla V100 限制功耗墙 250w