抡锤者

我已經用了好一陣子了, coding中速度30~70不定, pp約2000. 我來回答你的問題: 1. 两台 DGX Spark 跑 V4，实际生成速度大概能到多少 token/s？ 測速約40~50, 實際coding使用視狀況約落在30~70不等. 2. 两台之间用 200G 网络互联，实际通信效率怎么样？ 這有點複雜, 他每一個port有兩個rail, 各100G, 你可以用100G或200G, 看怎麼設. 我是用100G, 看他實際也沒用到100G, 就沒去搞200G了. 實測iperf約97G 3. 跑 V4 的时候，两台机器是比较接近“线性叠加”，还是通信开销会吃掉很多性能？ 因為一台跑不了正常V4 flash, 所以沒辦法比較. 不過照之前別的模型的經驗,兩台速度約為一台的1.5倍左右. 我之前也跑過4台,速度又比兩台快上不少 4. 如果主要用途是编程、Agent、长上下文和日常本地 AI，两台 DGX Spark 是否值得？ 我只用來編程, 主要是驅動韌體的開發跟debug, 跑claude code或codex cli , 兩台實際上約可以並行6個ctx 500K的session. 使用上是夠順了, 就看智力跟能力符不符合你的需求, 我是覺得不到優秀,但是堪用. 5. 有没有已经实际部署过 V4 的朋友，能分享一下真实测试数据？ [image: 4dfd2f5d-95d0-4062-912f-dcfb1ec2b15c.png] 6. 如果现在买，华硕、技嘉、微星等不同品牌的 DGX Spark，散热、SSD、稳定性方面有没有明显区别？ 1TB 版本是不是就够了？后面自己升级 SSD 是否更划算？ 我有華碩跟技嘉的, 感覺差不多. 兩台的話還好,反正也跑不了多大模型, 選擇也不多. 1T應該可以,有需要日後再換就好. 如果只用來跑模型的話, 速度瓶頸在頻寬, 長時間不間斷運轉可以考慮GPU降頻跑不會影響pp跟t/s太多, 溫度跟功耗會下降不少 最後應該考慮的是, 是否真的有這個需求? 這需要從用量跟隱私方面評估了. 兩台GB10不便宜, 漲價後更是誇張. 若是用量沒那麼多, 兩台GB10可能可以抵過10年的線上費用, 隱私又沒問題的話, 可以考慮線上使用就好. 本地用起來是舒適, 線上的是飛快, 爽度還是有差.

@Bukong-Li 你应该认真看我的视频，买京东负责发货的。我没在这家买。

@Bukong Li 排查得很细致，我对 Gateway STT 流程有一些了解，针对你的问题逐一回复： event.media_urls 在哪里生成 Telegram Adapter 收到 Voice 消息时，会在 adapter 层下载音频文件（OGG 格式），存到配置的 cache 目录下，然后把本地路径写入 event.media_urls。你在日志里看到的 "Cached user voice at /opt/data/cache/audio/xxxx.ogg" 就是这个步骤完成的，说明 adapter 层下载成功了。 _prepare_inbound_message_text() 是否是唯一 STT 入口 是的，这是 Gateway 层调用 STT 的唯一入口。它内部检查 event.media_urls 是否有内容，如果有则调用 _enrich_message_with_transcription() 进行转写。如果 media_urls 有文件但没触发转写，问题可能出在这个方法内部的判断逻辑上。 Telegram Voice 是否存在独立处理路径 没有完全独立的路径。Voice 消息和文字消息都走同一个 Gateway pipeline，区别在于 message_type 不同（voice vs text）。在 _prepare_inbound_message_text() 中，逻辑大致是：如果 event.media_urls 不为空 → 调用 STT → 把转写结果放到 message content 中。所以关键是 media_urls 有没有被正确传入 Gateway 层。 可能阻止转写的配置 几个关键配置项： gateway 配置中的 stt_enabled: 必须为 true stt.provider 必须正确配置（你用的 Groq 没问题） telegram adapter 配置中是否有 voice 相关的过滤选项 如果你用了 --replace 启动，确认是新的配置文件生效，不是旧配置缓存 你下一步计划加 logger.warning 是最直接有效的排查方式。建议在 _prepare_inbound_message_text() 入口处先打一条，确认 Gateway 收到的 event 里 media_urls 是否为空。如果 Gateway 层没收到 media_urls，问题就在 adapter → gateway 的序列化传递环节。

@Bukong-Li 说: @terry 剧本写作需要多轮复杂对话，可能涉及几十万字的长文本记忆。线上模型我试过Gemini，claud，gpt。免费版对话几句就没token了。付费版我没试，但是感觉也不会够用吧。 另外，想做rag是想沉淀自己的写作风格，让ai能从自己放进rag的资料进行有控制的生成。rag不只是剧本，可能有小说，编剧工具书等。可能放进去几千部电影剧本，不同题材会分类。人物性格，人物关系等。所以做rag没必要吗？ 730xd对3090，4090具体哪里支持不够呢？我是 想先给730配个显卡，做文字剧本生成。后期生视频在升级整体硬件。不知道行不行。还是说直接升级硬件？ 1, 公开的知识没有太大必要放在RAG里, 在线大模型只要参数够多, 他们基本都能覆盖. 你自己的笔记, 灵感等放在RAG里有意义. 2, RAG每次只能召回相关的一部分内容, 适合你搜索分析总结等, 对你的创作肯定有帮助, 但它没法帮你保持你整个剧本的长期记忆. 3, 如果想沉淀自己的写作风格, 可以用自己的文本去训练一个LORA. 这个是 @terry 教我的, 文本LORA我没训练过, 我只训练过视觉的LORA. 4, 多轮对话和上下文的控制, 可能需要一些技巧. 比如你不要通过一次性的多轮对话来生成全部内容. 而是通过设置好整个背景设定+已经写出的所有内容, 来生成一段新的内容, 这段内容稍微短一些, 比如一章, 比如 4096个token. 然后针对这段内容进行多轮对话修改. 满意之后再开始新对话进行下一轮, 新对话还要包括全部背景设定和已经生成的内容, 这样它不会忘记. ---- 这一段是我的想象, 我没有做过长篇内容的生成, 不过我觉得是有优化空间的.因为你的剧本预计全部只有3万字, 每次全部内容加载, 再加上一段4096 tokens 的多轮滚动, 256k上下文我觉得应该是够用的. 5, 没有隐私内容的话, 还是建议购买在线大模型试一下, 在线大模型很多都支持1M以上的上下文.