@老茶 可以试下跑EXL3量化版本+TensorFold
hao dee
@hao dee
-
好猛啊最新的推理框架TensorFold DGX小主机都可以起飞了 -
好猛啊最新的推理框架TensorFold DGX小主机都可以起飞了@Grayson-Ren 10W2台了已经开始涨价了
-
好猛啊最新的推理框架TensorFold DGX小主机都可以起飞了 -
好猛啊最新的推理框架TensorFold DGX小主机都可以起飞了图上跑的是GLM5.3 Flash 双机部署的速度
-
好猛啊最新的推理框架TensorFold DGX小主机都可以起飞了
一秒就可以回复出字了,而且等大神出EXL3模型,能更快了
-
想买两台华硕 DGX 跑 V4,论坛大神给个建议吧
4.1 跟GLM 5.3 差不多速度了 我主力还是GLM5.3 -
想买两台华硕 DGX 跑 V4,论坛大神给个建议吧
我自己的DGX 部署的 你可以参考下 -
越狱模型真给我遇上模型生成退化 -
越狱模型真给我遇上模型生成退化
本地部署的D4flash一直循环不调用工具,只能新开会话了
-
实测可用AMD官方免费大模型API调用DeepSeek v4跟Qwen3.8 -
实测可用AMD官方免费大模型API调用DeepSeek v4跟Qwen3.8 -
双DGX部署D4flash好还是Qwen3.8flash好?还是大佬们多我还在摸索
-
双DGX部署D4flash好还是Qwen3.8flash好?目前在跑D4flash平时拿来做点协议注册薅羊毛,有双机部署的佬给点意见交流下吗

