Your browser does not seem to support JavaScript. As a result, your viewing experience will be diminished, and you have been placed in read-only mode.
Please download a browser that supports JavaScript, or enable it if it's disabled (i.e. NoScript).
cpu 8100T 300元三件 主板:asus B360M-A 0 内存: ADAT DDR4-2400 8GX2 300元 SSD: 128G 0 显卡:XFX 凤凰涅槃 9700XTX 24G 4399元 电源:长城F8 850W 406元 机箱:追风者XTM3 175元 总价:5580元 今天测试了所有配件没问题,装上了ubuntu server版,弄好了docker,等明天机箱到货了就安装好来部署qwen3.6-27B
哈哈,加油.~~~~~~
老铁你内存也太抠了,给弄个32g啊
@terry 说: 老铁你内存也太抠了,给弄个32g啊
@terry 说:
我觉得 32G 都有点悬,可能是win 11系统的缘故吧,Qwen3.6 27B 64K上下文,我32G的内存与24G的显存几乎都到99%了!锥子哥,你说我装成乌班图系统应该能省点资源,对吧?不会这么慌兮兮了吧!
@张老师 应该是多少G都会占满,Linux下要自己调整参数,调好了内存压力不大
@terry 上下文如果卸载到内存就失败了,怎么搞都要想办法全弄显存里,内存多少都够。
悲剧了,内存不够,跑64k上下文显存没问题,内存溢出了,llama.cpp自动退了,
@xping 太抠了,上内存条吧。
现在32G内存,跑通了,加了视觉模型,96K上下文Q8量化,内存很稳。热点没超过103度,基本成功。
你好!看起来您对这段对话很感兴趣,但您还没有一个账号。
厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。
有了你的建议,这篇帖子会更精彩哦 💗