交作业， 7900XTX + Hermes Agent + Qwen3.6-27B 调优过程分享

[5ccccc]

@terry 说:

@kylin_Zaki 我说实话，这张卡我倒是没想到这么多人买，因为大陆人一半都倾向于N卡，但境外的似乎都很看重保修。文化差异大，大陆人要求立刻能干活，干活快，不太在乎保修。淘宝上六七万买RTX Pro6000的大有人在，这和大陆维修方便低价也有关系。

@terry 说:

@kylin_Zaki 我说实话，这张卡我倒是没想到这么多人买，因为大陆人一半都倾向于N卡，但境外的似乎都很看重保修。文化差异大，大陆人要求立刻能干活，干活快，不太在乎保修。淘宝上六七万买RTX Pro6000的大有人在，这和大陆维修方便低价也有关系。

@terry 主要是现在3090涨价了，涨完之后性价比不如7900xtx了

[terry]

@5ccccc 未必啊，很多人不愿意折腾AMD，你要买来插上就干活，那还得3090。性价比要看你的需求和现有条件的。价格上涨说明供不应求，但是如果你懂技术，现在XTX确实是神卡。

[CHIA AN YANG]

@艷陽天 台灣人+1 舉手

[CHIA AN YANG]

我接了codex cli進ubuntu ,讓他檢查hermes提示詞跟skill tools載入過大優化,優化完,目前玩得分起,我在查詢幣價分析幾乎秒等級的回應,然後裝了一張3060/12g 跑一個小模型9b 設定壓縮讓他跑,速度挺快的,給大家參考

[kylin_Zaki]

@CHIA-AN-YANG 分享一下详细的过程呀

[CHIA AN YANG]

@kylin_Zaki 來了 我把文回到主文章

[JamesPhlao]

看了你的7900xtx，如果纯跑27B，我还是不入坑了。保持两张16G的羊垃圾，27B-IQ4_NL(理论上比Q4_K_M小一些，智力稳一些)， q8_0的kv-cache 256k可以跑，保险一些224k 240k 加mtp一次吐出8k左右能稳定40-50 t/s。 楼主的单卡24可以考虑折腾dflash，据说速度最高可以10倍。

[kylin_Zaki]

@JamesPhlao 说:

Q4_K_M

目前是27B Q4_K_M MTP， 可以到50t/s左右

[janebo]

好问，7900xtx顺丰还没到，到了超作业，固定硬盘已经准备好了！期待！7900xtx我觉得跑千问没有太大问题，就是ai生图哪块是短板，期待群主测评，到时候又可以来抄作业了！

[Bryant Wu]

感谢分享。不会代码的无折腾过的心痒小白敬上！

[mark]

先尝试 hermes agent , 然后 自己写工作流 , hermes agent 最近 搞了太多没用的功能了. 有点膨胀过度了.