抡锤者

Ben-Lee 说: @6cccccc 兄弟DeepSeek Flash现在好用不贵，你完全可以试试用DeepSeek先驱动你的本地Agent跑图跑视频。我实际测下来，7900XTX的生图速度，大概是比4080S要慢20%~40%，大多数出图每张也就是慢几秒到十几秒的事儿；比R9700慢一点或者差不多。或者你切换着用，做几个一键启动卸载脚本，27B或者Strata FN（如果你内存够的话）和COMFYUI按需加载，PCI4X16加载和卸载模型也就是几秒的事儿。 我现在就在用DeepSeek Flash 新版本挺不错的，不过有时候还是想折腾一下本地的，之前deepseek有时候会出现不怎么稳定的情况，不知道咋回事。昨天试了一下27B的（用qoder），感觉视觉那块有点问题，不能在读取图片+调用工具。可能得分开用才行。

@909 哈哈所以7900XTX持有者们需要多多出来碰瓷。现在MOE模型硬件门槛这么低了，7900XTX的独特地位确实有所下降，但是我辈既然买了就不纠结，干就完了。

@Tony-Wang 只是实验了下原理，修复过往问题，一会弄个插件就好了。

咦，这是回档了？之前修改加了注，怎么现在刷新又看不到了？

@terry 我这厮怎么混上这个头衔的‍，拉低了本论坛众大佬的身价你这个坛主要承担主要责任哈。

@naniandemeng 谢谢，这个增量长上下文目前有两个痛点，一个是cold prefill慢，第二个就是长上下文KV取回准确率不是100%。我准备给作者发个Ticket请他关注AMD这个版本的这个问题。

@terry 特哥，第三篇发了 https://lcz.me/topic/1972

@张光璞 确实是这样，现在L2内存提取KV是毫秒级，L2 SSD提取估计要秒级以上了，会出现明显的卡顿。

@Ben-Lee 当前进度 技术模块 状态 双 7900 XTX + SGLang TP2 已跑通 MTP3 / DFlash2 投机解码 均已测试 HiCache L1 命中 / L2 恢复 已验证 L3 的 FULL KV + Mamba 完整恢复 研究中 多 Agent 长期循环联合验收 待完成 这个相当牛逼了，后期的其实不那么重要，这已经相当能打了。

@Ben-Lee x570大部分都支持，670不一定，这玩意就是自己用起来能跑就是了，没必要较真，AI也不是都懂。要装的人自然会去尝试，你告诉他们也没用。