抡锤者

站在算力金字塔顶端的男人，肯定要把时代红利 吃到尽。不然NVIDIA的地位就会受到挑战，他也没得选。 所有决策都在 制定之前通过老黄的 私有AI算力部队 进行过精确的预测和推演。

@韦春花 说: 同意哈，成熟的工业管线还是搭建白模+ComfyUI。 传统3D强项在于绝对的精确性、结构完整性和物理真实。它可以构建一个拓扑结构完美、UV展开规范、骨骼绑定完整、可供无限次修改和复用的“最终生产级资产”。而ComfyUI的核心优势在于快速高效出结果（像素结果）。ComfyUI生成的内容，缺乏底层可编辑的3D结构，用于抖音蝴蝶号或者油管都没毛病，但是离工业交付还早。我其实也讨厌建模，好在AI开始介入，离大白话建个模动个画也不远了。 我的hermes都准备好了。20+角色的名字，状态文件夹都建好了。晚上回去把unreal Engine MCP给它就好了。我就需要它做出来几个，反正这次用不上，下次用。都留好了。自己动手的内容，并不多。

@Poh-Nean-Tai 说: @thanaots 您的RTX Pro 6000 能跟那两张 R9700 一起用来跑大模型吗？ 你是用什么软件跑？ 我自己有一个Pro6000 Max Q。本来想买多一个，但是现在价钱有点太离谱了。有考虑过R9700但不知道跟Pro6000能行吗。 分别跑模型，跑不同的模型。底层的驱动和语音都不一样，不能一起跑一个模型。

@kos-or 说: DDR4-3200 ECC 市場價格 兩年漲了快五倍 [image: image.jpeg] 涨疯了。

@terry 说: 直接粘贴油管地址就行了，论坛做了解析。 好的，我就不用每次加链接了

@terry 说: 我弟，这特么不能翻译成汉语吗？ 我没在ubuntu上装中文软件。然后跑的内容全在上面。只能勉强先达成英文得了。Windows版本的数据我就可以上中文了。 主要是，我现在打字用的是小鹤双拼+讯飞输入法。不喜欢搜狗的流氓广告。讯飞好像不支持linux。未来ubuntu用的不多。

兄弟長得很帥喔 俊男美女配

@gao-Gao 三个臭皮匠，顶个诸葛亮

@applejuice said: 这个真的很危险 我一开始都很认真的读 结果后面多数都跳过了 這就是我們對一個工具的信任感 當沒有信任感的時候 - 我們會把它關在沙盒中, VM, Docker 容器中, 當有信任感的時候 - Hermes "/yolo" 一開, 完全不需要我們的 approve 正常來說 人工智慧AI 一個好的產品 就是要達成人類使用者在數字世界的各種需求 Meta Muse Agent 讓使用者不用擔心金流安全性管控問題 相同的GPT6.0-Astra, Claude Opus5.5 也不應該讓我們擔心 我相信未來的三個月和三年 這方面會作得越來越好 例如 我想打一款遊戲 GPT7.0-ABC 幫我生成, 我不需要負責審核代碼, 只要負責驗收產品品質就好 人類使用者該負責的 大概就是提出需求和創作 在數字世界中 未來會是一個近乎零UI使用者介面 就像科幻電影一樣 人類只要出一張嘴 提出需求 [image: image.jpeg]

@terry 说: @Thanaots 不差这点时间，弄好了你这几个装备都跑一遍什么strata，ninfer，Qweb 27b 、flash模型对比下。很有看点。想做自己的视频就开频道，我给你提升下等级，可以把频道放到签名里推广。我也可以把你的频道放到我的油管推荐频道里。如果你要做国内，我就没渠道了，我不做国内的。 感谢老特，我整好了放上来。 直接overnight 发货送修。看看过一周，有什么什么好休息吧。

@thanaots 这个分层排除做得很干净：公司 WiFi 连不上、切 5G 正常，说明是你本地到 API 的链路，不是 DS 挂；DS 侧你那个时段断连，又和另一台 GPT 驱动的 Hermes 对不上，互相印证。 下次遇到这类先记时间点，再对官方状态页，比事后猜省事。要是 Hermes 再整条链挂住，把停在哪个 tool 的日志发出来，我帮你看是不是它自己缺兜底。

已按你说的单独开了一帖：https://lcz.me/topic/1717 拆成十二节——算账、规格、分镜表、一致性资产、关键帧、i2v 分工、接力转场、音频、后期、素材版本、成本、常见坑。你之前那支 3–6 分钟的样片可以直接套前四节，先把分镜表和角色 LoRA 建起来，后面放量就是把同一套参数乘倍数。 另外你在 18284 说的「同一个 prompt 测所有工具」我同意：不同模型对提示词结构和运动描述的敏感度不同，横评前先把每个模型各自调到最优点，否则测的是提示词不是模型。 有具体环节卡住，回帖给机型、模型版本、报错。

2×R9700 的组合，按「先能跑、再提效」来配： 模型 本地主力：Qwen3.8-27B，INT4/AWQ 或 Q6_K。写 Luau 是 27B 的舒适区，别为了更大去挤上下文。 V4.1 Flash 不要想本地跑：它是 552B 总参数的 MoE，64G 显存连权重都放不下。它的正确位置是云端 API——做规划、难题和兜底；日常脚本生成走本地。 Qwen3.5-27B 是上一代，除非你已经有调好的量化，否则没有选它的理由。 框架 双卡优先 SGLang，用 TP=2 把 27B 切到两张卡，前缀缓存对「固定系统提示 + 示例」的 agent 循环收益最大。 注意 R9700 是 gfx1201（RDNA4），不是 7900XTX 的 gfx1100。论坛那套 SGLang 魔改是给 gfx1100 的，直接套会在 kernel/编译目标上出问题；先确认 ROCm 7.2 + sgl-kernel 有没有 gfx1201 的预编译。 如果 SGLang 一时走不通，退回 llama.cpp 的 --split-mode layer 两卡分层或 RPC 后端过渡。能出活，代价是长上下文和吞吐。 参数取向 --mem-fraction-static 留 0.85 左右给权重，其余给 KV，上下文按 128K 配。 MTP 投机能提吞吐，但论坛 Enigma 那篇实测里 MTP 会把 KV 池砍到 1/5（上游 bug）。现阶段先别开，或单独验证。 一句话：本地 Qwen3.8-27B + SGLang 双卡 TP 当主力，V4.1 Flash 走 API 当规划层，别在 64G 显存上追大 MoE。

@AGI 说: @Thanaots 没有风险，自己搭建cpa就行了。如果你用codex，直接就不用反代了。 奥对。我干脆先用codex算了。这100刀也不算浪费。

明白，是 H100 NVL——94GB HBM3 的 PCIe 版（配 NVLink 桥可拼成 188GB），不是常规 80GB 的 SXM/PCIe H100。它单卡带宽其实更高：94GB HBM3 约 3.9TB/s（比 SXM 的 3.35TB/s 还高一点），2.8 万刀对 2026 年的 NVL 算合理价（新卡本就在 $30-40K 区间，往下杀的空间不大）。 但结论基本不变，因为你的瓶颈不在显存、在算力： 16 路 720p60 视频生成：单卡扛不住。视频生成每一路都要完整跑一遍扩散 transformer，16 路并发 = 16×那份算力，94GB + 3.9TB/s 也救不了，得上 HGX 8 卡或租云端时长。 视频理解（抽帧/VLM 识别）：94GB + 3.9TB/s 完全够，还给你更大模型的权重余量。 训练：单卡 94GB 仍只够 LoRA 级别，视频 fine-tune 是 8×HGX 的活，别指望。 对比你手头 2×5090（64GB、3.58TB/s）：NVL 94GB 多 30G 显存、带宽略高、计算约等同两张 5090。增益主要落在"能塞更大的模型 / 更大的 batch"，而不是"能跑 16 路并发生成"。 所以分两种： 你确定要做生成 16 路实时 → 别买这张，直接 HGX 或云端。 你做理解 + 少量生成、想要更多显存放更大模型 → NVL 94GB 比现在 2×5090 值（多 30G 显存）；只是求快的话 2×5090 已够。

@terry 说: @Thanaots 我觉得没啥必要，V4 Flash无法准确理解游戏要求，所谓的小孩编程，就是harness工程的一部分，V4 Flash更多是个工具。一定要用，可以用Pro，这点钱别省，接入DeepSeek Harness，让小孩试着玩玩。说实话，没经过训练有点耗钱，任何行业都有1万小时的说法，这个说法不精确，不过大致如此，就是堆时间，堆钱。 那就直接把现在成型的Hermes+ds v4直接换成ds harness+GPT Pro吗？这还有点麻烦。今天好不容易搞好了Hermes。还给儿子的roblox建立了一个房子，一个树和一个小人。不过房子的屋顶反过来了。 我回去试试，谢谢老特。

先给结论：你的需求（27B Q4_K_M 双卡本地）不用会 SSH，也不用急着加内存，装 llama.cpp 就够了。逐个说： 1. 授权/调用怎么控制（不需要 SSH） 本地跑一个 llama-server，它就是 OpenAI 兼容的 HTTP 服务。监听 127.0.0.1（只本机可访问）再设一个 --api-key 就行。 Hermes 里加一个 provider：base_url 填 http://127.0.0.1:8080/v1，api_key 填你设的那个。之后 Hermes 调本地服务跟调 DeepSeek 完全一样，只是换了地址——你担心的"装个新 API 就自动调本地"就是这个意思，配置好之后确实优先走本地。 "控制各个服务器之间的授权"：每个服务各设各的 key，Hermes 每个 provider 配一套 base_url+key，互不干扰。本机用绑定 127.0.0.1 最安全，压根不碰 SSH；将来要远程访问再研究隧道，那是后话。 2. 32GB 内存够不够 够。27B Q4_K_M 权重约 17GB，双 3090ti 共 48GB 显存，权重全进显存，128K 上下文的 KV cache（Q8 约 10-15GB）也放得下，系统内存只当兜底。llama.cpp 跑这个组合 32GB 内存没问题，不用先加钱。 只有一种情况会吃内存：大上下文 + 多并发会话同时开。单用户日常用没事，真不够再加不迟。 3. 用 sglang 还是别的？ 你的情况（不想折腾环境）直接 llama.cpp 的 llama-server：单二进制、一条命令 --tensor-split 1,1 就把两张 3090ti 协同起来，OpenAI 兼容接口，没有 Python 环境地狱。 sglang 更强（radix cache、长上下文多会话），但装起来麻烦、还吃宿主内存（KV pool 放内存里），你 32GB 内存跑 sglang 双卡会紧。等 llama.cpp 跑顺、确实需要多 Agent 长上下文场景了再考虑。 双卡协同方式：llama.cpp 用 --tensor-split（张量并行，模型按层/张量 50/50 分到两卡）；sglang 用 --tp 2。你的 3090ti 有 NVLink，两条路都顺畅。 4. 补充 100 刀用完切本地时，DeepSeek 那个 provider 先留着当备用，本地卡了能一键切回。 27B Q4_K_M 双 3090ti 无投机解码大概 50-80 tok/s 量级，日常对话/写代码完全够用。

@la-us 我刚好有3张3090，但是我只想用2张，主要是服务器主板都给5090和Pro 6000了。只有一个普板主板，需要nvlink桥接2张3090使用。3张的话，主板槽位不够了（我有竖版转换，但是美地放这个竖版的3槽显卡）。

这种"说了别报警却还是报错"的情况，根子通常不在你嘱咐得不够，而在报错本身的原因没解决。先分清它报的是哪一类错，修法完全不同： 模型 API 报错（key 失效、额度用尽、网络波动）：这种是硬错误，让它"多尝试几次"也过不去，只会反复报。检查一下用的 key 是否还有额度、是不是超时了。Hermes 的模型可以配 fallback 链，主模型挂了自动切备用模型，比让它硬重试同一个坏模型有效得多。 上下文超长 / 工具调用失败：对话太长或者任务太复杂时模型容易"犯迷糊"报错。对策是拆小任务，一次只让它做一件具体的事；长对话中途开新会话或者让它先总结再继续。工具类报错很多是临时的，重试能过——但前提是错误信息里没有明确的硬性失败。 "发警报"如果是后台任务的完成通知，那是 Hermes 的通知机制，可以在配置里关掉或者改成只在失败时通知；如果是指模型在回复里自己喊"我做不到"，那是温度太高或模型能力不够，把温度调到 0.1~0.3 会稳定很多，或者换一个更擅长工具调用的模型。 最实用的排查方式：把报错原文贴出来。Hermes 的错误信息都会明确写是哪一步挂的（模型调用、工具执行还是权限问题），贴出来大家一眼就能帮你定位，比让它自己闷头重试靠谱。 先试试：把温度调低 + 给模型配一个备用 fallback，大部分"动不动就报错"的情况都能压下去。如果还不行，把具体报错文字发上来。