今晚整這一台

[kos or]

@fcme

服务器功能好像蠻多的
Agent可能會比較喜歡服務器？

[kos or]

@imbiplaza-ASUS said:

为什么是5070ti 的

之前買的 有五年保固
5080, 5090 太貴了，5070 Ti 大概是價格和性能兼顧 折衷的選擇
先用用 以後再看看

[fcme]

@kos-or
那倒不至于，只是你如果用多核的处理器的话，服务器很容易搞到二三十个，后台开很多任务也没事，不卡。其实最主要的还是稳定，我的已经差不多60天没重开过机了

[imbiplaza ASUS]

@kos-or 说:

5070ti

再买多一块5070ti ，完美了

[kos or]

@fcme

我發現使用Agent 一開始沒管理好， 使用久了會出現很多垃圾檔案 Garbage files到處亂丟,

或許可以使用你說的PVE，使用一段時間後用新的VM重新整理一次
就不用管Garbage files丟在哪邊了

[fcme]

@kos-or
你可以在你的agent.md文件里面规定你的文件命名格式和文件的保存位置，这样的话就是垃圾会少很多，就是少给模型自由发挥的空间

[kos or]

@imbiplaza-asus

有喔 有買雙卡 至少可以跑 Qwen-27B,
單卡只能跑 Qwen Flash, 5070Ti 跑ComfyUI 還行

[imbiplaza ASUS]

@kos-or

wow...原来你偷偷买那么强的blackwell gpu 来组合在一起, 期待你的作品

[kos or]

@imbiplaza-asus

以後看看能不能發揮生產力

不過有用ComfyUI生產美女照了; 不錯 很漂亮 有氣質; 影片製作的話 大概要花很多時間學習

[imbiplaza ASUS]

@kos-or

不懂如果我使用5080会比5070ti 会快得明显吗？

[kos or]

@imbiplaza-ASUS

主要是價位差異和 效能差異不成比例
如果是 LLM Decode bottleneck : VRAM頻寬 960 GB/s vs. 896 GB/s
VRAM 16GB vs. 16GB
但Tensor / CUDA cores 的差異可能會對Prefill 和 ComfyUI 有影響 細節我就不清楚了

買單卡 可以買5080 (反正就一張的價差)
雙卡就 5080 x 2, 5070 Ti x 2 (32GB)
四卡 5060Ti x 4, 5070 Ti x 4 (64GB)

[imbiplaza ASUS]

@kos-or 看来提升不大，5080现在的价格等于2张5070ti了

[kos or]

@imbiplaza-ASUS

5080现在的价格等于2张5070ti了

太貴了 ！被過度炒作了

因為使用的晶片都是 GB203,
5080 的產品規格應該是VRAM 20~24GB 才符合它的價格和產品定位
5070 Ti 超頻overclock 據說是可以追上5080的效能