有没有大神折腾windows r9700的？

[applejuice]

@loulan 说:

多谢。让hermers用的deepseek v4 flash搞的，为了弄大模型，现在把comfyui也整挂了，先抢救comfyui中

你们的hermes 都会爆粗？

[566656661]

@applejuice

heretic的不是算正常的嘛

有時候他還會懟我

[applejuice]

@566656661 应该是你平时也爆粗才有 我的没看过

[566656661]

@applejuice

也算吧, 見到有明顯錯的地方就懟他叫他double check

然後他就爆粗了

[Tony Wang]

你还是对AI礼貌些, 否则它可能会记仇

[566656661]

這就是玩本地模型的醍醐味啊

我估計hermes到最後就變成數字分身了, 然後我的不多不少染上我自己一些不好的習慣, 直來直往的

[CS6]

@566656661 看了一下魔改版的技術分析，他的風扇好像只有兩個檔位0 -50 -100..... 所以我直接放棄，而且現在一張要一萬多人民幣，我覺得不值得

[566656661]

@CS6

這麽奇怪? 所以他基本上長時間50%轉速?

[CS6]

@loulan https://lcz.me/post/5773 有空你可以測測看差異大不大，這是我昨天租借跑出來的結果

[loulan]

@566656661 请教怎么限制200w？

[loulan]

@CS6 用什么工具测？

[566656661]

@loulan

普通window應該能用微星小飛機

linux底下應該能單純用nvidia-smi, 應該能拉到70%?

[sospda]

折腾了几天放弃了， windows下面可以用vulkan, 用35ba3b的性能还可以，用27b性能下降严重。
也安装rocm成功， 但是总有各种各样的小毛病，折腾了一阵，累人。
是直装的，不通过wsl2。 各种修补，发挥不了全力，gpu核心占用只能用到一半左右。
又退回ubuntu了。

[imbiplaza ASUS]

我之前刚巧折腾跑通direct ml ，关键在于torch 版本和numpy 版本，否者自动cpu在跑
intel Xe GPU
DirectML 固定依赖：
torch==2.4.1
torchvision==0.19.1
torchaudio==2.4.1
numpy>=2.0,<2.3
onnxruntime-directml==1.20.1
torch-directml==0.2.5.dev240914
audio-separator[dml]==0.44.1