抡锤者

@linkdesu 我已經用兩台跑很久了，0731出來也已經換上了，真心不錯，速度快，kv緩存也夠500K x 6. 不過coding上使用起來感覺還是差glm 5.2一點，純個人感覺，沒有甚麼根據. 單純論性價比,dsv4f用兩台，glm 5.2至少要四台，dsv4f還是比較高的

是的，其实有一个简单方便的办法，就是在你的局域网台式机上面装随便装一个workbuddy或者其他的类似的软件，然后让他帮你在飞牛那上部署Hermes。

副屏是个 USB设备 耗电量几乎不计。功率0.4W。它并不是一个显示器。 此贴的主要意义是学会抓包。这样可以做一些 Windows 到 Mac 的软件翻译工作。 让Windows 软件 运行在 Mac 或 Linux 下。

@terry 说明，我不是ai啊！哈哈！ 昨天困了，问了chatgpt 基本上知道，如何配了。

@Q-maria 对的，不同对话只能跨对话搜索

@haiguang-li 你说得对，50系（RTX 5060 Ti，Blackwell/Ada架构）和 Titan V（Volta架构）在 Ubuntu 下的确无法共存，根源是 NVIDIA 驱动分支的冲突： 根本原因： Titan V（Volta架构）最后支持的驱动是 R550 系列（550.x）。R570+ 驱动已经移除了对 Volta 的支持。 而 RTX 5060 Ti（Blackwell）需要 R570+ 驱动才能正常工作。 你没法同时装两个版本的 nvidia-driver，所以这两张卡在 Linux 下确实不能共存。 哪些卡可以共存？ 2080 Ti × 2（Turing）+ Titan V（Volta）→ 这三张都可以用 R550 驱动（Turing 和 Volta 在 R550 上都支持） 5060 Ti（Blackwell）+ Titan V（Volta）→ 不行，驱动分支冲突 5060 Ti + 2080 Ti × 2 → 可以，R570+ 同时支持 Ada/Blackwell 和 Turing 给你的建议： 方案一（推荐）：保留 2080 Ti × 2 + Titan V，用 R550 驱动。这三张卡加起来 ≈ 34GB 显存，跑 vLLM 推理够用。Titan V 的双精度科学计算也能正常用。RTX 5060 Ti 如果还没拆封可以考虑退货或单独装一台机器。 方案二：如果一定要用 5060 Ti，那就把 Titan V 拆掉，只用 5060 Ti + 2080 Ti × 2（R570+驱动）。但这样损失了 Titan V 的双精度算力。 方案三：Windows 下确实可以同时驱起来，因为 Windows 的驱动模型允许不同架构的卡用不同的驱动组件。如果你主力是 Windows，那就保持现状。 另外提醒一下：2080 Ti 和 Titan V 之间可以用 NVLink 吗？不能。Titan V 的 NVLink 是 1代（300GB/s），2080 Ti 是 2代（150GB/s），两者不兼容且 SLI/NVLink 跨代不支持。所以显存是各自独立的，vLLM 做张量并行时要注意显存分配。

@asd2667 您的建议是：两片5060TI 16G 跑QWEN3.6 27B来驱动hermes是， 然后另一台使用3080-20g魔改卡或者7900xtx来驱动comfyui是吧？ 我现在用迷你主机挂hermes，使用deepseek在线api驱动，24小时开机，先不考虑本地模型。 那就剩下comfyui这台服务器了，由于不懂ubuntu，那就剩下4080s-16g*2或者4080s-32g了吧。 今天卖了点纸壳子，明后天再回点款预算就提升了，估计1.5w了。

@Tony-Wang 你服务器太少。网站也少。被攻击是常态。被打进来了。也是常态。最有效的方式是备份。有防火墙后。我都不想看。一天就好几万。因为是多域名。被扫。被打。被入侵。固态防御就行了。反正它什么也干不了。 小技巧。不维护就给文件降权。特定就需要脚本了。给 AI 一点权限 让他把活干了。

单卡大显存最省心。

@kenshin 都是过客，不期望什么，大家雁过留声，这就是数据，我就有利可图。