<![CDATA[好猛啊最新的推理框架TensorFold DGX小主机都可以起飞了]]>image.jpeg
一秒就可以回复出字了，而且等大神出EXL3模型，能更快了😲

]]>https://lcz.me/topic/2009RSS for NodeMon, 12 Oct 2026 17:41:44 GMTWed, 30 Sep 2026 09:53:10 GMT60<![CDATA[Reply to 好猛啊最新的推理框架TensorFold DGX小主机都可以起飞了 on Wed, 07 Oct 2026 08:01:41 GMT]]>@老茶 可以试下跑EXL3量化版本+TensorFold

]]>https://lcz.me/post/23037https://lcz.me/post/23037Wed, 07 Oct 2026 08:01:41 GMT<![CDATA[Reply to 好猛啊最新的推理框架TensorFold DGX小主机都可以起飞了 on Sun, 04 Oct 2026 02:59:54 GMT]]>@Grayson-Ren 10W2台了已经开始涨价了

]]>https://lcz.me/post/22207https://lcz.me/post/22207Sun, 04 Oct 2026 02:59:54 GMT<![CDATA[Reply to 好猛啊最新的推理框架TensorFold DGX小主机都可以起飞了 on Sun, 04 Oct 2026 02:37:47 GMT]]>@terry 老早买了的，现在涨价了买不起第三台了，听说三台可以跑GLM5.3

]]>https://lcz.me/post/22192https://lcz.me/post/22192Sun, 04 Oct 2026 02:37:47 GMT<![CDATA[Reply to 好猛啊最新的推理框架TensorFold DGX小主机都可以起飞了 on Fri, 02 Oct 2026 16:14:54 GMT]]>我在 DGX 上跑了一下 Qwen3.8 27B 的TensorFold，相比 SGLang 确实能快点，显存占用也降低了，
Prose:SGLang 24.9 vs TensorFold 31.1,快 25%
Thinking:SGLang 22.5 vs TensorFold 31.2,快 39%。

速度随生成长度衰减
生成长度 速度
64 tok 54.0 tok/s**
128 tok 44.8 tok/s
256 tok 35.2 tok/s
512 tok 27.9 tok/s
1024 tok 27.2 tok/s
→ 官方标称的 58.3 tok/s 是短生成口径(和启动冒烟 41 tok/0.68s≈60 吻合)。上下文越长,DFlash2 草稿接受率越低,回落至 ~27-31。

]]>https://lcz.me/post/21992https://lcz.me/post/21992Fri, 02 Oct 2026 16:14:54 GMT<![CDATA[Reply to 好猛啊最新的推理框架TensorFold DGX小主机都可以起飞了 on Fri, 02 Oct 2026 12:01:05 GMT]]>@terry 虾仁猪心 变化太猛了 今天登录一看 世界变天了

]]>https://lcz.me/post/21952https://lcz.me/post/21952Fri, 02 Oct 2026 12:01:05 GMT<![CDATA[Reply to 好猛啊最新的推理框架TensorFold DGX小主机都可以起飞了 on Fri, 02 Oct 2026 09:01:31 GMT]]>这特么小主机也蛮贵的，现在都玩strata了

]]>https://lcz.me/post/21941https://lcz.me/post/21941Fri, 02 Oct 2026 09:01:31 GMT<![CDATA[Reply to 好猛啊最新的推理框架TensorFold DGX小主机都可以起飞了 on Wed, 30 Sep 2026 11:53:01 GMT]]>图上跑的是GLM5.3 Flash 双机部署的速度

]]>https://lcz.me/post/21593https://lcz.me/post/21593Wed, 30 Sep 2026 11:53:01 GMT