小白對顯卡型號的煩惱. 請大神幫一幫忙. 感謝
-
xtx 二手最低4k xt我之前看最低也要3000，差1000差4g显存，带宽。我也不觉得xt合适
另外LLM a卡跟n卡的折腾难度差距并不大，我大概半天就能把7900xtx跑起来了。只是后面心痒，优化迭代了一周罢了。你看看我最后发的那篇LLM的文章，抄一下参数，基本上半天就能跑稳妥
@abaalei 謝謝大神! 就是這篇吧?
<受站长的激励，分享一下这10天都在comfyui做了些什么“大”制作>@abaalei 謝謝大神大牛! 想問一下, 在烏班圖上跑AI真的會比windows 更快嗎?
根據Gemini, AI系統最好用ubuntu, 原生linux架構, 跑AI最快; 而且最好跑AI的跟Hermes分開. 所以
電腦A : 家裹的NAS, 已安裝docker Hermes agent
電腦B : 就是用上面的各項零件, 再買張顯卡, 放在公司裹跑本地AI, 為電腦A提供支援家人在個網店, 我希望可以透過Hermes,
自動對網店的客人提供接待, 最好是完成整個銷售過程
自動生文, 生圖, 並發文到facebook / Instagram 進行推廣
如果可以的話, 生成時間不長的影片, 上傳到yt 油管, 做自媒體推廣 -
@abaalei 謝謝大神! 就是這篇吧?
<受站长的激励，分享一下这10天都在comfyui做了些什么“大”制作>@abaalei 謝謝大神大牛! 想問一下, 在烏班圖上跑AI真的會比windows 更快嗎?
根據Gemini, AI系統最好用ubuntu, 原生linux架構, 跑AI最快; 而且最好跑AI的跟Hermes分開. 所以
電腦A : 家裹的NAS, 已安裝docker Hermes agent
電腦B : 就是用上面的各項零件, 再買張顯卡, 放在公司裹跑本地AI, 為電腦A提供支援家人在個網店, 我希望可以透過Hermes,
自動對網店的客人提供接待, 最好是完成整個銷售過程
自動生文, 生圖, 並發文到facebook / Instagram 進行推廣
如果可以的話, 生成時間不長的影片, 上傳到yt 油管, 做自媒體推廣@exe127 哈哈 这要看你是想跑LLM还是文生图图生视频了。我下面还有LLM的帖子
我只能说我一开始3080ti 接windows，同时负责输出，显存就被吃三分之一了。跑整合包都经常OOM
hermes放哪里都没所谓，只要能24小时联网就行。但是我觉得大部分情况下，跑LLM没必要用自己部署的大模型，LLM的额度我目前以deepseek v4flash为主，gemini白嫖的pro会员为辅。基本上都够用了，我比较菜，2个月烧了500rmb的flash token
如果生成视频的话，就可以参考我的贴的部分参数来套用。我现在的目标是喊一声agent就能自己帮我跑管线，但是现在问题还有很多还需要debug
-
电源的坑我踩过了。不要看功率。看有没有 3条 8PIN 的显卡供电线接口就行了。就没有小的。
-
@exe127 哈哈 这要看你是想跑LLM还是文生图图生视频了。我下面还有LLM的帖子
我只能说我一开始3080ti 接windows，同时负责输出，显存就被吃三分之一了。跑整合包都经常OOM
hermes放哪里都没所谓，只要能24小时联网就行。但是我觉得大部分情况下，跑LLM没必要用自己部署的大模型，LLM的额度我目前以deepseek v4flash为主，gemini白嫖的pro会员为辅。基本上都够用了，我比较菜，2个月烧了500rmb的flash token 如果生成视频的话，就可以参考我的贴的部分参数来套用。我现在的目标是喊一声agent就能自己帮我跑管线，但是现在问题还有很多还需要debug
-
电源的坑我踩过了。不要看功率。看有没有 3条 8PIN 的显卡供电线接口就行了。就没有小的。
@williamlouis 我的利民8pin插口有很多, 但8pin pice線只有2根. 7900xtx有2個或3個接口. 我收了個powercolor地獄犬只有2個接口, 剛剛好
-
@abaalei 的確, 對話LLM好像少了點意思. 只是我看老特說Qwen 3.6 32B 的本地智力也有線上模型的強, 也想試一試.
但說到底, 你是對的, 我就想生成圖/生成影片, 再自動配上對白和字幕, 可以自動出片/幻燈片就好了.
喊一声agent就能自己帮我跑管线! -
@exe127 哈哈 这要看你是想跑LLM还是文生图图生视频了。我下面还有LLM的帖子
我只能说我一开始3080ti 接windows，同时负责输出，显存就被吃三分之一了。跑整合包都经常OOM
hermes放哪里都没所谓，只要能24小时联网就行。但是我觉得大部分情况下，跑LLM没必要用自己部署的大模型，LLM的额度我目前以deepseek v4flash为主，gemini白嫖的pro会员为辅。基本上都够用了，我比较菜，2个月烧了500rmb的flash token 如果生成视频的话，就可以参考我的贴的部分参数来套用。我现在的目标是喊一声agent就能自己帮我跑管线，但是现在问题还有很多还需要debug
-
-
@CHIA-AN-YANG
当然可以
@abaalei 用gpt5.6 hing跑 5小時額度跑通,一開始讓他做,一直說不行,把你截圖給他他才看懂用本地8317去調用!
-
CLIProxyAPI 已安裝並以 Google Antigravity OAuth 授權。
-
本機 proxy 常駐於 127.0.0.1:8317，由 PM2 管理並已保存開機清單。
-
Hermes 主模型已改為 gemini-pro-agent、1M context，指向本機 /v1 proxy：
config.yaml:1 -
Hermes gateway 已重啟並正常運行。
-
實測 Hermes 主模型成功回覆：Hermes Gemini Pro main model confirmed.
-
舊設定已備份：
backups/config.yaml.20260710-073724-before-cliproxy-gemini
你在 Telegram 打 /new 後，應會看到 gemini-pro-agent、custom、http://127.0.0.1:8317/v1 與 1M context。
-
-
感謝大老，我也成功薅上了gemini pro的羊毛，不過聽說這種玩法違反谷歌政策容易被ban帳，所以還不敢大力使用
交給我的hermes (主大腦 deepseek v4 flash)去整合，生圖(image gen)、視覺(vision)都成功了！
