搞机Nvidia DGX Spark(128G 4T)，累

[Jonathan]

目前折腾运行的是Ollama, Hermes, Open WebUI, Comfy UI。试着装其他的推理框架，还没捋顺。主要按这个网页上的说明搞的：
https://build.nvidia.com/spark

Hermes Agent直接连到Open WebUI上的。

目前还有个问题就是Open WebUI,上传文件不工作，还没来得及修改。

来这边主要看看各位大神怎么折腾的，本地硬件确实水深，看着别人吃豆腐牙快，自己搞感觉完全不同，可能我太菜了

[terry]

啊，我都没部署过webUI，你部署它干嘛？？本地就命令行终端，和webui一样好懂啊，远程你用电报链接，你安装这个什么webui干嘛？？今天视频正好讲hermes，全程电报操作，我其实更喜欢命令行的。你不要照着官方文档，大哥，你打开豆包活着gemini，照着AI的指导搞。

[Tide]

@terry 在hermes命令行里打拼音看不到选字，可能输入法有问题。我也是在搞webui。今天讲hermes。。。

[terry]

系统装的有问题吧，我原生的可以，你们可以试试看linux mint或者其他基于ubuntu的桌面系统

[Tide]

我也来装个Ubuntu桌面版来试下，对于本地部署的东西很多在win下各种问题让人老壳疼。

[Jonathan]

@terry 机器在墙内阿，没在上面装梯子，电报上不去，微信也不爽~~~

我是一边打开AI一边搞的，AI也被搞崩溃~~~，搞来绕圈，各自尝试，最后还是失败~

[Jonathan]

@terry 原生的Ubuntu

[Tide]

我本地部署模型是在物理机安装的Ubuntu server，一直很稳定。就是hermes和webui是安装在wsl2里面，各种问题让人崩溃。

[terry]

@Jonathan 你梯子这么简单的事不会搞吗，问豆包和gemini，走v2ray。

[terry]

@Tide win本来就bug多，热切效率也不高。

[linax777]

@Tide 沒辦法選字是 terminal app 的問題吧。多試試不同的 terminal app

[Jonathan]

@terry 好吧，本来想偷懒，我以前在自己的VPS上装过x-ui面板，不难，就是烦。看来还是绕不过去阿，既然这样的话，还是老实去装个梯子先。谢谢特老板！

[terry]

@Jonathan 你买VPN肯定没有用亚马逊主机稳定的，有很多AI会禁止你访问。xui是正解，躲在cloudflare后面即可。一个人用，也便宜，流量足够。

[bef]

@terry 請教terry兄：Brave API費用高，亞馬遜VPS用作爬蟲穩定嗎？阿里雲/騰訊雲VPS很容易被擋 (禁止訪問)

謝謝

[Tide]

@linax777 有可能，最近老是出现状况。

[benton yi]

@Tide 如果是ubuntu系统，没法选字的情况是在hermes提出危险命令预警，让你选择是否执行之后原生终端会死锁。解决办法是你直接用hermes --yolo运行。

[terry]

@bef 我用谷歌，便宜的很，没研究。

[Kk Hh]

没搞懂，你们想干嘛，反正也是 DGX Spark 技嘉版本的

[terry]

@Kk-Hh 挺好，有图有真相。

[Tide]

@benton-yi 好的，谢谢哥们。