小白對顯卡型號的煩惱. 請大神幫一幫忙. 感謝

[abaalei]

@exe127 哈哈 这要看你是想跑LLM还是文生图图生视频了。我下面还有LLM的帖子

我只能说我一开始3080ti 接windows，同时负责输出，显存就被吃三分之一了。跑整合包都经常OOM
hermes放哪里都没所谓，只要能24小时联网就行。但是我觉得大部分情况下，跑LLM没必要用自己部署的大模型，LLM的额度我目前以deepseek v4flash为主，gemini白嫖的pro会员为辅。基本上都够用了，我比较菜，2个月烧了500rmb的flash token

如果生成视频的话，就可以参考我的贴的部分参数来套用。我现在的目标是喊一声agent就能自己帮我跑管线，但是现在问题还有很多还需要debug

[williamlouis]

电源的坑我踩过了。不要看功率。看有没有 3条 8PIN 的显卡供电线接口就行了。就没有小的。

[exe127]

@abaalei 的確, 對話LLM好像少了點意思. 只是我看老特說Qwen 3.6 32B 的本地智力也有線上模型的強, 也想試一試.

但說到底, 你是對的, 我就想生成圖/生成影片, 再自動配上對白和字幕, 可以自動出片/幻燈片就好了.
喊一声agent就能自己帮我跑管线!

[exe127]

@williamlouis 我的利民8pin插口有很多, 但8pin pice線只有2根. 7900xtx有2個或3個接口. 我收了個powercolor地獄犬只有2個接口, 剛剛好

[abaalei]

@exe127 是啊,主要是LLM就算用api,只要不是fable5那些极端贵的模型,也花不了多少钱.相对的,跑视频就不是这个说法了,平均下来1元1秒,我冲了50元积分,都不敢怎么用就没了

[wml-ai]

@abaalei 是呀，上月底有两天用DeepSeek V4 flash，两天烧了一亿多token，也才几块钱的事。多研究一下本地AI音视频才对的起投资。

[CHIA AN YANG]

@abaalei 说:

gemini白嫖的pro会员为辅。基本上都够用了，我比较菜，2个月烧了500rmb的flash token

如果生成视频的话，就可以参考我的贴的部分参数来套用。我现在的目标是喊一声agent就能自己帮我跑管线，但是现在问题还有很多还需要debug

大神,我想問gemini pro能oauth給hermes用嗎?

[abaalei]

@CHIA-AN-YANG

当然可以

[CHIA AN YANG]

@abaalei 用gpt5.6 hing跑 5小時額度跑通,一開始讓他做,一直說不行,把你截圖給他他才看懂用本地8317去調用!

• CLIProxyAPI 已安裝並以 Google Antigravity OAuth 授權。

• 本機 proxy 常駐於 127.0.0.1:8317，由 PM2 管理並已保存開機清單。

• Hermes 主模型已改為 gemini-pro-agent、1M context，指向本機 /v1 proxy：
  config.yaml:1

• Hermes gateway 已重啟並正常運行。

• 實測 Hermes 主模型成功回覆：Hermes Gemini Pro main model confirmed.

• 舊設定已備份：
  backups/config.yaml.20260710-073724-before-cliproxy-gemini

你在 Telegram 打 /new 後，應會看到 gemini-pro-agent、custom、http://127.0.0.1:8317/v1 與 1M context。

[densha]

感謝大老，我也成功薅上了gemini pro的羊毛，不過聽說這種玩法違反谷歌政策容易被ban帳，所以還不敢大力使用

交給我的hermes (主大腦 deepseek v4 flash)去整合，生圖(image gen)、視覺(vision)都成功了！

[CHIA AN YANG]

@densha 這種是合法的不會被ban