模型机和agent的网络问题

[李健]

大家的agent机器/llm模型机/comfyui机器的网络是怎么设置的？
全在一个局域网都能上网吗？
还是只有agent机器能上网，其他机器全在内网？

[CS6]

你要不要先分享一下你目前的網路架構?這樣比較好討論。
我目前是用虛擬化 PVE VM 的方式，所以Host本身就有連外網
Host <==cloudflare tunnel ==> cloudflare DNS
Host 有一個 getway 容器做軟體路由

[terry]

我是主机本身可以上网，也可以通过其他机器代理上网。

[李健]

@CS6 我这也没有个主力机，现在全在一个交换机下面 都能上网。计划这周改一下，交换机划vlan，所有模型机全部内网，只有hermes agent小猪鸡连外网（光猫），所有上网的事全部hermes机器干，然后传到各个模型机。省得hermes一会用这个下一会用那个下，乱。所谓主力机就是平时带出去的笔记本。

[williamlouis]

拓扑如下：
双Hermes构架：
Hermes：1号 在软路由中。主要协调任务。控制同子网下的所有设备。软路由是科学过的。
Hermes：2号 在工作电脑。接受我的任务跑项目。
网络：所有工作 算力相关设备 都在软路由下 都有科学上网权限。控制关闭某终端不可以连外网使用 软路由 的科学工具 设置禁用。这样相当于物理断开外网。终端机中如果AI 折腾也不会发生它自己作秀联网的情况。（也就杜绝了自动更新等情况）。外出 远程控制 聊天工具 与 Hermes 1或2 通讯即可。 他们负责的任务不同。当然不用聊天工具就使用tailscale也是可以的。正常通讯 免费额度直接够用。

[williamlouis]

补充下。Hermes 1看个人习惯。没有它 手动设置 软路由是一样的。都是界面化的工具。直接手动设置也是一样的。我是有一些 特殊要求 才做了 这个控制终端。最初放的是 kimi 的 cli 。零智能 基本都是靠自己 手动指挥也是一样的。
这里面要提的还有 nas。 多设备协调工作我用的这个构架。因为我全程都是 在线算力。属于芸芸众生。就一直没发这个。马上我的小霸王学习机就到了。大约今晚。我全部改造后发一个帖子讲讲我的设计。可能需要几天。我的需求比较特殊。设计应该和大家都不一样。我不需要 音视频及图片 这些。完全都是编码类项目。打打字又TMD 跑题了。回到 NAS。协调工作的所有数据汇总在我的NAS。这样 控制权限就可以让不同的算力工作主机共享数据完成任务。原因是我需要 各种系统 验证系统兼容性。源码都是Linux下跑出来的。之后输出到 NAS。其他系统主机在围观 Linux的工作成果开始二次编译。有点跑题等显卡开始折腾了。Hermes 统筹 计算用本地算力是可以的。这和我用Claud 做框架设计。DS编程的原理是一样的。没人解释我就发我的新帖好了。继续工作。有空聊。多来我的板块提问哈。