<![CDATA[搞机Nvidia DGX Spark(128G 4T)，累]]>目前折腾运行的是Ollama, Hermes, Open WebUI, Comfy UI。试着装其他的推理框架，还没捋顺。主要按这个网页上的说明搞的：
https://build.nvidia.com/spark

Hermes Agent直接连到Open WebUI上的。

目前还有个问题就是Open WebUI,上传文件不工作，还没来得及修改。

来这边主要看看各位大神怎么折腾的，本地硬件确实水深，看着别人吃豆腐牙快，自己搞感觉完全不同，可能我太菜了

]]>https://lcz.me/topic/17/搞机nvidia-dgx-spark-128g-4t-累RSS for NodeWed, 20 May 2026 07:04:41 GMTTue, 05 May 2026 00:36:27 GMT60<![CDATA[Reply to 搞机Nvidia DGX Spark(128G 4T)，累 on Sun, 10 May 2026 12:37:41 GMT]]>@Crosby_openclaw 没啥鸟用，推理的时候差距微乎其微，NVFP4主要是模型权重量化，专家权重，这一块就算是DeepSeek，也能换成INT4权重，真正推理部分用FP8。有的模型选FP4模型它反量化到BF16计算，更慢。DGX的算力就那样，带宽也不足。

]]>https://lcz.me/post/762https://lcz.me/post/762Sun, 10 May 2026 12:37:41 GMT<![CDATA[Reply to 搞机Nvidia DGX Spark(128G 4T)，累 on Sun, 10 May 2026 12:34:27 GMT]]>剛折騰完nvidia thor128g
ollama在此環境不太友善
升級jetson 7.1之後，跑llama.cpp
使用nvfp4模型，跑起來飛快
大概比q4量化的快30%
測試完了
qwen3.6:35b moe約50 token/s
qwen3.6:27b dense約12 token/s
llama.cpp跑nvfp4還是比較適合這個平台
比起ollama int4量化同模型，快了30%左右

之前ollama
qwen3.6:35b q4約35token/s
qwen3.6:27b q4約 9token/s

nvidia社群是說 nvfp4比mxfp4更適合在這台跑

目前順跑hermes串whatsapp

]]>https://lcz.me/post/761https://lcz.me/post/761Sun, 10 May 2026 12:34:27 GMT<![CDATA[Reply to 搞机Nvidia DGX Spark(128G 4T)，累 on Sat, 09 May 2026 03:49:44 GMT]]>@benton-yi 👍 好的，谢谢哥们。

]]>https://lcz.me/post/620https://lcz.me/post/620Sat, 09 May 2026 03:49:44 GMT<![CDATA[Reply to 搞机Nvidia DGX Spark(128G 4T)，累 on Wed, 06 May 2026 03:06:25 GMT]]>@Kk-Hh 挺好，有图有真相。

]]>https://lcz.me/post/287https://lcz.me/post/287Wed, 06 May 2026 03:06:25 GMT<![CDATA[Reply to 搞机Nvidia DGX Spark(128G 4T)，累 on Wed, 06 May 2026 00:01:17 GMT]]>6486fd49-eeb5-44bd-b26b-daa796db8206-image.jpeg
没搞懂，你们想干嘛，反正也是 DGX Spark 技嘉版本的

]]>https://lcz.me/post/279https://lcz.me/post/279Wed, 06 May 2026 00:01:17 GMT<![CDATA[Reply to 搞机Nvidia DGX Spark(128G 4T)，累 on Tue, 05 May 2026 18:37:54 GMT]]>@bef 我用谷歌，便宜的很，没研究。

]]>https://lcz.me/post/259https://lcz.me/post/259Tue, 05 May 2026 18:37:54 GMT<![CDATA[Reply to 搞机Nvidia DGX Spark(128G 4T)，累 on Tue, 05 May 2026 15:06:23 GMT]]>@Tide 如果是ubuntu系统，没法选字的情况是在hermes提出危险命令预警，让你选择是否执行之后原生终端会死锁。解决办法是你直接用hermes --yolo运行。

]]>https://lcz.me/post/230https://lcz.me/post/230Tue, 05 May 2026 15:06:23 GMT<![CDATA[Reply to 搞机Nvidia DGX Spark(128G 4T)，累 on Tue, 05 May 2026 11:55:45 GMT]]>@linax777 有可能，最近老是出现状况。

]]>https://lcz.me/post/218https://lcz.me/post/218Tue, 05 May 2026 11:55:45 GMT<![CDATA[Reply to 搞机Nvidia DGX Spark(128G 4T)，累 on Tue, 05 May 2026 08:35:25 GMT]]>@terry 請教terry兄：Brave API費用高，亞馬遜VPS用作爬蟲穩定嗎？阿里雲/騰訊雲VPS很容易被擋 (禁止訪問)

謝謝

]]>https://lcz.me/post/204https://lcz.me/post/204Tue, 05 May 2026 08:35:25 GMT<![CDATA[Reply to 搞机Nvidia DGX Spark(128G 4T)，累 on Tue, 05 May 2026 05:25:22 GMT]]>@Jonathan 你买VPN肯定没有用亚马逊主机稳定的，有很多AI会禁止你访问。xui是正解，躲在cloudflare后面即可。一个人用，也便宜，流量足够。

]]>https://lcz.me/post/184https://lcz.me/post/184Tue, 05 May 2026 05:25:22 GMT<![CDATA[Reply to 搞机Nvidia DGX Spark(128G 4T)，累 on Tue, 05 May 2026 05:23:12 GMT]]>@terry 好吧，本来想偷懒，我以前在自己的VPS上装过x-ui面板，不难，就是烦。看来还是绕不过去阿，既然这样的话，还是老实去装个梯子先。谢谢特老板！

]]>https://lcz.me/post/182https://lcz.me/post/182Tue, 05 May 2026 05:23:12 GMT<![CDATA[Reply to 搞机Nvidia DGX Spark(128G 4T)，累 on Tue, 05 May 2026 05:09:03 GMT]]>@Tide 沒辦法選字是 terminal app 的問題吧。多試試不同的 terminal app

]]>https://lcz.me/post/179https://lcz.me/post/179Tue, 05 May 2026 05:09:03 GMT<![CDATA[Reply to 搞机Nvidia DGX Spark(128G 4T)，累 on Tue, 05 May 2026 02:56:17 GMT]]>@Tide win本来就bug多，热切效率也不高。

]]>https://lcz.me/post/166https://lcz.me/post/166Tue, 05 May 2026 02:56:17 GMT<![CDATA[Reply to 搞机Nvidia DGX Spark(128G 4T)，累 on Tue, 05 May 2026 02:55:48 GMT]]>@Jonathan 你梯子这么简单的事不会搞吗，问豆包和gemini，走v2ray。

]]>https://lcz.me/post/165https://lcz.me/post/165Tue, 05 May 2026 02:55:48 GMT<![CDATA[Reply to 搞机Nvidia DGX Spark(128G 4T)，累 on Tue, 05 May 2026 02:15:45 GMT]]>我本地部署模型是在物理机安装的Ubuntu server，一直很稳定。就是hermes和webui是安装在wsl2里面，各种问题让人崩溃。

]]>https://lcz.me/post/160https://lcz.me/post/160Tue, 05 May 2026 02:15:45 GMT<![CDATA[Reply to 搞机Nvidia DGX Spark(128G 4T)，累 on Tue, 05 May 2026 02:08:49 GMT]]>@terry 原生的Ubuntu

]]>https://lcz.me/post/158https://lcz.me/post/158Tue, 05 May 2026 02:08:49 GMT<![CDATA[Reply to 搞机Nvidia DGX Spark(128G 4T)，累 on Tue, 05 May 2026 02:04:58 GMT]]>@terry 机器在墙内阿，没在上面装梯子，电报上不去，微信也不爽~~~

我是一边打开AI一边搞的，AI也被搞崩溃~~~，搞来绕圈，各自尝试，最后还是失败~

]]>https://lcz.me/post/156https://lcz.me/post/156Tue, 05 May 2026 02:04:58 GMT<![CDATA[Reply to 搞机Nvidia DGX Spark(128G 4T)，累 on Tue, 05 May 2026 01:54:57 GMT]]>我也来装个Ubuntu桌面版来试下，对于本地部署的东西很多在win下各种问题让人老壳疼。

]]>https://lcz.me/post/152https://lcz.me/post/152Tue, 05 May 2026 01:54:57 GMT<![CDATA[Reply to 搞机Nvidia DGX Spark(128G 4T)，累 on Tue, 05 May 2026 01:32:33 GMT]]>系统装的有问题吧，我原生的可以，你们可以试试看linux mint或者其他基于ubuntu的桌面系统

]]>https://lcz.me/post/148https://lcz.me/post/148Tue, 05 May 2026 01:32:33 GMT<![CDATA[Reply to 搞机Nvidia DGX Spark(128G 4T)，累 on Tue, 05 May 2026 01:29:10 GMT]]>@terry 在hermes命令行里打拼音看不到选字，可能输入法有问题。我也是在搞webui。今天讲hermes。。。👍 👍 👍

]]>https://lcz.me/post/147https://lcz.me/post/147Tue, 05 May 2026 01:29:10 GMT<![CDATA[Reply to 搞机Nvidia DGX Spark(128G 4T)，累 on Tue, 05 May 2026 01:07:49 GMT]]>啊，我都没部署过webUI，你部署它干嘛？？本地就命令行终端，和webui一样好懂啊，远程你用电报链接，你安装这个什么webui干嘛？？今天视频正好讲hermes，全程电报操作，我其实更喜欢命令行的。你不要照着官方文档，大哥，你打开豆包活着gemini，照着AI的指导搞。

]]>https://lcz.me/post/145https://lcz.me/post/145Tue, 05 May 2026 01:07:49 GMT