交作业， 7900XTX + Hermes Agent + Qwen3.6-27B 调优过程分享

[applejuice]

笑死我了
我翻回去看了一下，第一眼看过去 真的像酸
但是说是台湾人又觉得没问题了

[kylin_Zaki]

@applejuice 是的，后来问了ai也是这么答复的，hermes的提示词过大

[kylin_Zaki]

@艷陽天 我一直是用hermes调用deepseek v4 flash用的，性价比极高，相对试错成本来说，容忍度可太高了

[kylin_Zaki]

@Tide 一切折腾，折腾才有意思

[kylin_Zaki]

@terry 可以有，太多小伙伴是因为特哥的引路，入手的

[applejuice]

@kylin_Zaki 说:

@terry 可以有，太多小伙伴是因为特哥的引路，入手的

可惜主板插不下了 不然整一块7900xtx玩

[terry]

@kylin_Zaki 我说实话，这张卡我倒是没想到这么多人买，因为大陆人一半都倾向于N卡，但境外的似乎都很看重保修。文化差异大，大陆人要求立刻能干活，干活快，不太在乎保修。淘宝上六七万买RTX Pro6000的大有人在，这和大陆维修方便低价也有关系。

[5ccccc]

@terry 说:

@kylin_Zaki 我说实话，这张卡我倒是没想到这么多人买，因为大陆人一半都倾向于N卡，但境外的似乎都很看重保修。文化差异大，大陆人要求立刻能干活，干活快，不太在乎保修。淘宝上六七万买RTX Pro6000的大有人在，这和大陆维修方便低价也有关系。

@terry 说:

@kylin_Zaki 我说实话，这张卡我倒是没想到这么多人买，因为大陆人一半都倾向于N卡，但境外的似乎都很看重保修。文化差异大，大陆人要求立刻能干活，干活快，不太在乎保修。淘宝上六七万买RTX Pro6000的大有人在，这和大陆维修方便低价也有关系。

@terry 主要是现在3090涨价了，涨完之后性价比不如7900xtx了

[terry]

@5ccccc 未必啊，很多人不愿意折腾AMD，你要买来插上就干活，那还得3090。性价比要看你的需求和现有条件的。价格上涨说明供不应求，但是如果你懂技术，现在XTX确实是神卡。

[CHIA AN YANG]

@艷陽天 台灣人+1 舉手

[CHIA AN YANG]

我接了codex cli進ubuntu ,讓他檢查hermes提示詞跟skill tools載入過大優化,優化完,目前玩得分起,我在查詢幣價分析幾乎秒等級的回應,然後裝了一張3060/12g 跑一個小模型9b 設定壓縮讓他跑,速度挺快的,給大家參考

[kylin_Zaki]

@CHIA-AN-YANG 分享一下详细的过程呀

[CHIA AN YANG]

@kylin_Zaki 來了 我把文回到主文章

[JamesPhlao]

看了你的7900xtx，如果纯跑27B，我还是不入坑了。保持两张16G的羊垃圾，27B-IQ4_NL(理论上比Q4_K_M小一些，智力稳一些)， q8_0的kv-cache 256k可以跑，保险一些224k 240k 加mtp一次吐出8k左右能稳定40-50 t/s。 楼主的单卡24可以考虑折腾dflash，据说速度最高可以10倍。

[kylin_Zaki]

@JamesPhlao 说:

Q4_K_M

目前是27B Q4_K_M MTP， 可以到50t/s左右