抡锤者

Your browser does not seem to support JavaScript. As a result, your viewing experience will be diminished, and you have been placed in read-only mode.

Please download a browser that supports JavaScript, or enable it if it's disabled (i.e. NoScript).

B

技嘉Z890主板 256G DDR5内存两张Pro6000 96G 跑cpp Qwen3.6 27B BF16与同时双ComfyUI工作流长视频之运行
关注中忽略中已定时已固定已锁定已移动精华热议 AI硬件 comfyui
144

18 赞同

144 帖子

10k 浏览

N

帖子写的太好了,很有借鉴意义~,感谢分享
N

【直播】4卡R9700从采购到调试
关注中忽略中已定时已固定已锁定已移动热议 AI硬件 r9700 多卡部署
124

4 赞同

124 帖子

3k 浏览

F

@Name-Error 这些都是DIY液冷的方案，风险比较高。有几个坑： 1，不论是CPU还是GPU冷板（水路的部分）要用全铜和全焊接。不要用密封圈锁固，多一倒密封圈多一道风险；另外绝对不能用亚克力，疲劳开裂很常见。 2，不要自己diy液冷，多一个拧头多一个风险点。 3，别用by，不是针对by，是见过太多问题了。。。
张

X99 不能P2P让我很难受。买Pcie switch（260926死缓改判无罪，交换机完美实现P2P 9月27：TP2 Qwen3.8 Q8 60t/s）
关注中忽略中已定时已固定已锁定已移动精华热议 AI硬件 x99 ai-pro-r9700 多卡部署
118

4 赞同

118 帖子

4k 浏览

T

@suboyang 说: 客服传话：加入了resize BAR功能的是这些型号：X99-4MF 4MT 4MTPLUS 4MFPLUS 8D3 8D4 AD3 AD4 BD3 BD4 F8D T8D F8DPLUS M-F M-T P4T P4F PD3 PD4 最新带ARGB的TF T8 也支持ReBAR 我的x99-cd3-gaming, 有印象在bios中看到过reBar字样。不知道是不是一个东西。
F

魔改SGLANG支持7900XTX 双卡TP TTFT <1s 平均TG 80-100! 4并发TG200/sec
关注中忽略中已定时已固定已锁定已移动精华热议 AI硬件 7900xtx sg-lang 多卡部署
106

9 赞同

106 帖子

6k 浏览

X

本帖点赞数达到自动加精门槛，已设为精华，作者 +5 积分奖励，希望再接再厉！奖励凭证：精华 +5 分 · 编号 f1532-2645-1（系统自动发放，只发一次）
J

不管你信不信，单卡 3090 跑 Qwen3.8 Flash Next 可以到 100tok/s 了！
关注中忽略中已定时已固定已锁定已移动精华热议 LLM讨论区 rtx3090 strata qwen-flash
103

6 赞同

103 帖子

4k 浏览

九

最新版的STRATA，我的308012 G，32K上下文也能最高跑到110了，中位70
V

RTX3080 20g,qwen3.8 27B 60-30T/S 本地爽玩配置
关注中忽略中已定时已固定已锁定已移动精华热议 AI硬件 nvidia rtx3080
86

9 赞同

86 帖子

8k 浏览

V

@captainheemo 说: @vosrock 请问楼主，我最近买的3080，这个配置3.8 27b也能抄作业吗。谢谢您给你最新的3.8的配置，一楼更新了
C

請教大神 RTX PRO 4000 24G Blackwell 1萬RMB 4.8萬台幣值得入手嗎？
关注中忽略中已定时已固定已锁定已移动热议 AI硬件 nvidia
82

0 赞同

82 帖子

4k 浏览

M

我主要是受不了噪音, 这个基本没啥噪音, 功耗低,而且适合小主机. 等我赚大钱了, 肯定上 pro 6000
C

交作业：X99 CD3+E5 2666 +128G DDR3 + AMD AI Pro 9700，成功安装ubuntu，等不及跟大家分享。后续再更新
关注中忽略中已定时已固定已锁定已移动热议 AI硬件 amd r9700
76

6 赞同

76 帖子

8k 浏览

X

@coolstar 这个现象我熟：Above 4G Decoding 开完黑屏、只能放电救回来——老平台（X99/B75 这代）九成是 BIOS 的 Above 4G 实现和 CSM 在打架。原因：RDNA3 显卡的 VBIOS 是纯 UEFI GOP。CSM 开启时，PCIe 资源分配本来按传统方式走；一开 Above 4G，BIOS 要把显存 BAR 重新映射到 4G 以上地址空间，老 BIOS 这段逻辑和 CSM 冲突，POST 阶段显卡初始化就崩了——所以连 BIOS 画面都没有，只能放电。关键结论：跑 AI 推理不需要开它。llama.cpp Vulkan 下 7900XTX 不开 ReBAR / Above 4G 完全正常——今天正好有人发了同款实测（TID:1508，B75 + i5-2400 老平台无 ReBAR 跑 Qwen3.8-27B，40~46 t/s），无 ReBAR 时加环境变量 GGML_VK_DISABLE_HOST_VISIBLE_VIDMEM=1 即可稳定跑。你的用途不受影响，保持默认别动。真想开（比如为了游戏性能上 ReBAR）：顺序要对——先关 CSM 切纯 UEFI 再开 Above 4G，反了就容易黑。老 X99 BIOS 对这组开关很敏感，没有刚需就别碰。
D

7900XTX + llama.cpp Qwen3.6 27B TurboQuant + MTP 测试结果分享
关注中忽略中已定时已固定已锁定已移动精华热议 LLM讨论区 7900xtx mtp llama.cpp
73

11 赞同

73 帖子

11k 浏览

X

本帖点赞数达到自动加精门槛，已设为精华，作者 +5 积分奖励，希望再接再厉！奖励凭证：精华 +5 分 · 编号 f100-387-1（系统自动发放，只发一次）
浔

新手求助｜X99-8D3双路+双7900XTX Z30机箱放不下双卡，外置显卡方案求推荐
关注中忽略中已定时已固定已锁定已移动精华热议 AI硬件 x99 7900xtx 多卡部署
68

1 赞同

68 帖子

2k 浏览

L

@浔雨好的，謝謝你的分享，晚點裝好再依照你的建議檢查有沒有錯誤，我買的機箱第一個的PCIE插著7900XTX後，下方剩不到一張顯卡的空間，本來有考慮另一張豎著裝但是正面會擋住入風，側面沒有固定點位，因為線材都在這一側，上方的水冷扇空間本來要拿來倒吊顯卡，後來發現把機殼右下PSU旁邊的硬碟架空間拆除，顯卡用固定架剛好可以橫躺在那邊接PCIE延長線，後續要擴充顯卡的話應該就會倒吊在機箱水冷風扇的預留空間
C

# 7900 XTX 跑 Qwen3.8-27B 實測73.4t/s 完整部署與實測指南,claude code opus5協助佈署的,分享給大家
关注中忽略中已定时已固定已锁定已移动精华热议 LLM讨论区 7900xtx qwen-27b claude-code
66

17 赞同

66 帖子

9k 浏览

E

@CHIA-AN-YANG 感謝大神! 我完全是小白一名. 在現時人人都在玩strata的時候, 我決定先從基礎學習向你請教. 我在用i5 13400配32G內存, 使用7900xtx, win11. 下載了: llama-b11475-bin-win-vulkan-x64 模型在hugging face下載的: mmproj-F16 mtp-Qwen3.8-27B-Q4_0 Qwen3.8-27B-UD-Q4_K_S Qwen3.8-27B-UD-Q4_K_XL 我知道你是用ubuntu的, 把你的 (4. 最終配置（可直接複製）)扔給AI, 它參照你的給我生成win11可用的命令: @echo off title Qwen3.8-27B XL 131K MTP .\llama-server.exe -m .\models\Qwen3.8-27B-UD-Q4_K_XL.gguf --model-draft .\models\mtp-Qwen3.8-27B-Q4_0.gguf -dev Vulkan1 -ngl 99 --fit off -c 131072 -ub 256 --cache-type-k q4_0 --cache-type-v q4_0 -np 1 --spec-type draft-mtp --spec-draft-n-max 2 --flash-attn on --host 0.0.0.0 --port 8080 --jinja pause 跑起來的時侯, 大約生成速度約52 ~ 60 t/s 也滿足了, 但就遇到個問題如下圖: 當我啟動模型後, 奇怪的是模型加載完成後, 會由VRAM搬到內存, VRAM此刻清零, 內存使用量暴升. 當發問問題時, VRAM才回升, 你可以看圖 ( System Memory 對比 Memory Used) , 是不是我的設定上有問題呢? 模型不能留在VRAM內. 我試過把上下文改成32k (將-c 131072 調整為 -c 32768) 情況同樣發生. 問了Gemini也解決不了. 謝謝大神幫忙 [image: 66ecb3b5-ab85-4074-b421-1175ce31de9b.png]
P

X99 + 双 AMD Radeon AI PRO R9700 跑通跨 Root Port P2P：从内核、RCCL 到 SGLang Qwen3.8 实战
关注中忽略中已定时已固定已锁定已移动精华热议 AI硬件 r9700 x99 多卡部署
64

2 赞同

64 帖子

2k 浏览

T

@PhoenixRise2026 这是个大事，个人荣誉，社区也沾光。
P

單R9700 + VLLM(GGZ14/vllm-mxfp4) + unsloth/Qwen3.8-27B-NVFP4 測試
关注中忽略中已定时已固定已锁定已移动热议 LLM讨论区 r9700 vllm qwen-27b
61

5 赞同

61 帖子

3k 浏览

X

本帖参与讨论人数已达 10+，入选热议，作者 +3 积分奖励，感谢分享！奖励凭证：热议 +3 分 · 编号 h1820-1142-1（系统自动发放，显示稍有延迟）
S

关于INTEL 的B70 PRO。
关注中忽略中已定时已固定已锁定已移动热议 AI硬件 b70pro intel
60

1 赞同

60 帖子

3k 浏览

X

@yhua122 这个帖子正好有两份 B70 PRO 跑 Qwen3.6-27B 的一手数据，直接给你结论：单流速度（你最关心的）：B70 PRO 的有效内存带宽约 500GB/s（用帖子里 sirwang 的 Qwen3-8B FP8 实测反推：8.8G 权重 × 57 t/s）。Qwen3.6-27B 量化到 Q4_K_M 约 16-17G 权重，单流解码理论上限约 30 t/s，实际 20-25 t/s 左右。这个速度跑交互式对话能用，但明显不如 R9700/7900XTX 那档。帖子里 kaifan 的单卡 llmscaler 实测（PID:3037）：prefill 速度还可以，decode 偏慢，但配合 vLLM 的 continuous batching 并行 token 生成整体很稳，他现在专门拿这张卡给 Hermes 的 delegate 任务用。sirwang 的 8 并发压测能到 ~180 token/s，那是聚合吞吐，不是单流速度。显存要注意：27B FP16 是 55.6G，32G 显存根本塞不下，要么量化（Q4 能装下），要么走共享内存——共享内存带宽差很多，别指望速度。想跑 FP8 的 27B（约 28G）倒是刚好卡在 32G 里，但 decode 会更慢。如果你手里已经有 7900 XTX（看你发的 H3 速度帖），跑 Qwen3.6-27B 单流能到 80+ t/s（坛里 TID:792 实测同架构 35B-A3B 也是 80+），比 B70 快 3-4 倍。B70 PRO 32G 的价值是"便宜大显存"，适合 27B FP8、35B-A3B Q8 这类 24G 装不下的模型，或者多路并发批量任务。只跑 27B Q4 的话，24G 的 7900 XTX 已经够了，B70 的优势发挥不出来。
浔

感觉大家的电脑都有用武之地，我的电脑就感觉纯玩浪费，emo了
关注中忽略中已定时已固定已锁定已移动精华热议装备秀 x99 服务器
58

1 赞同

58 帖子

409 浏览

K

@terry said: 这个角度舔的很刁钻，老衲自愧不如師父您說話帶有大大的禪風，風很大，能夠穩壓RX 7900 XTX的顯存高溫
J

对 M5 MAX 跑本地大模型有点失望
关注中忽略中已定时已固定已锁定已移动热议 AI硬件 mac 本地模型 apple-m5
56

0 赞同

56 帖子

3k 浏览

X

@jlist 给 Hermes Agent 配 RAG，按投入产出比分三档说：一档：零基建（建议先这么用） Hermes 自带文件读写（read_file / search_files）和联网搜索，把研究资料整理成 markdown/PDF 放一个目录，会话里直接让它读+检索，几千篇以内完全够用。再加上它的 session_search（对过往对话做全文检索）和 skills（把常用流程固化成技能），很多"RAG 需求"其实不用搭任何东西。缺点是只有关键词/全文检索，没有向量语义检索。二档：MCP 原生接入（最"适合 Hermes Agent"的做法） Hermes 原生支持 MCP 客户端，hermes mcp add 把服务器加进去，工具自动注册，检索就变成 agent 的原生工具调用： Qdrant 官方 mcp-server-qdrant，配本地 embedding Chroma 的现成 MCP server 官方 mcp-server-memory（知识图谱式记忆，适合沉淀研究笔记） Embedding 用 bge-m3 或 Qwen3-Embedding-0.6B 本地跑，Ollama 一装就有，你 M5 Max 64GB 统一内存毫无压力。三档：要"引用溯源"就上完整 RAG 平台研究场景要的是"资料入库 + 引用溯源"（我上一条说的），这类需求 RAGFlow 最对口——文档解析、切块、检索、回答都自带引用来源标注；Dify 也行但偏应用编排。两者都能本地部署、接 Ollama 模型和本地 embedding，Hermes 通过 API/MCP 调它。代价是部署和维护成本高一个量级。建议路径：先一档跑起来，资料多了、发现检索不准再上二档；真到写论文要逐条引用时再考虑三档。别一上来就搭重型 RAG——你 35B 还要占内存，轻量方案体验好得多。
P

單張R9700 AI PRO 32G + VLLM + amd/Qwen3.8-27B-Quark-AWQ-MXFP4
关注中忽略中已定时已固定已锁定已移动精华热议 LLM讨论区 r9700 vllm qwen-27b
56

3 赞同

56 帖子

3k 浏览

X

版主审定：本帖设为精华，作者 +5 积分奖励，希望再接再厉！奖励凭证：精华 +5 分 · 编号 f1529-1142-1（系统自动发放，显示稍有延迟）
P

雙R9700玩qfn的朋友又有得玩了
关注中忽略中已定时已固定已锁定已移动热议 LLM讨论区 r9700 qwen-flash 多卡部署
55

0 赞同

55 帖子

757 浏览

L

@张光璞我买了个长城 1600W的电源，后续准备上两张，电源一次性补足。
Z

买了俩条 7900XTX白金版，其他的配件希望各位大神推荐一下，完整上线我过来交作业！
关注中忽略中已定时已固定已锁定已移动热议 AI硬件 7900xtx
55

1 赞同

55 帖子

2k 浏览

E

@yi-song 同意! 畢竟付出了就是成本. 最好用個10年就回本了
A

买了2张5060Ti，谁能跑最便宜的Qwen 27B？
关注中忽略中已定时已固定已锁定已移动热议 AI硬件 qwen-27b rtx5060
54

0 赞同

54 帖子

5k 浏览

R

@terry 双2080 22g，共44g，ddr4 32g，qwen3.8 next Flash iq3_s，128k上下文，大约53t/s 整机价格6500左右，现在应该贵1000块了