让本地27B(或任意)模型数学从只有92.7% 准确到工程可靠！可用！
-
-
我用strata 用到很开心呢..
只是我有另一张卡跑子任务 -
@applejuice
不瞒你说，你说的这个想法我也试了。你另一张卡用的什么跑的什么模型？我是把另一张5070ti让他跑27b给qfn调用子代理的时候去用，结果翻车了。一来有那个派任务和验收的开销，二来5070Ti跑27b本来就不快，pp也就才1100左右，tg的话在三四十，算下来还不如用本体Strata跑呢，尴尬死了。 -
@fcme 我两张3090跑strata prefill 4.5k 以上
r9700 跑27b 2.5k prefill
现在主模型 等待时间比较长 利用率有点低 -
@applejuice
你是多卡狂人，比不了比不了
-
-
-
@范志刚 其实如果可以我也想要单卡
问题是 现在处境有点尴尬单卡 不够跑大型moe qfn 除非你买6000 pro
双卡跑moe 基本也已经榨干显卡strata 方案 却只能排队，这时候有另一个模型做子任务就好多了
而且我分拆子任务也是因为一个工作一个检查
不是为了分拆而分拆 -
@applejuice 其实我觉得这个实在不行可以让agent改一下修改一下调度规则。平衡一下各会话的吞吐。
-
-
-
就是每个分支任务跟个qc？高级啊!顺巡逻辑树这事其实不用那么大模型，30b框架和填肉足够了，我要速度的时候都用8b跑刮削填肉，他只是框架不够大，没moe会吹大泡，单论执行不比大moe差，甚至更稳，主要是关键时刻能反得回主逻辑树，大moe可能就按他想象跑了@applejuice 模型出厂训练内容少点还能听话点，大不了咱自己给他赋能，垂直领域我是信不过moe的“专家”能力？真犯错就会罗圈错，永远跳不出，除非你就依赖他自己的训练通识内容，那还咋创作了，个人觉得那些通识正是幻觉的来源
-
-
-
举个实例，过去我用qwen3.6 27b送生成词给ltx2.3并推节点工作，他写那个节点推送脚本因为模型里没有过训练，怎么都给我抓ltx20的节点，怎么训怎么存也是这次会了下次必插模型内训练的ltx2.0节点，当时我都要疯了，这还不如没任何训练只执行我写好的脚本，撂爪就忘，抬爪就是模内的淘汰信息，我用了几个月掰他这种幻觉，现在看只能从两点解决，顺从他ltx2.0，或者认输。反而我用3.5 9b感觉教会他容易多了，但他复杂任务格局不够，逻辑宽度不够，做不了复杂树轮询
-
-
