【求助】Z890+64GB DDR 4+ 3090Ti+3080

[Thanaots]

我现在这套系统已经组装完成。
ubuntu+Windows双系统也完成安装了。
llama.cpp也安装完成了。
Qwen 3.8 27B Q4_K_M也已安装完成。
现在问题是MTP是不是没办法安装？没有办法平分这两个VRAM。
好像GPT和Claude都是推荐3.6/3.5 35B 的模型。不明白为啥。
现在还没测试上下文，目标是128k起步，不知道能不能给达到60 token/s。
顺便打算安装识图的模型。
有没有高人再多指点一下。谢谢。

[starryskyknight]

你这配置如果有 pcie x8+x8
为什么不玩玩最近最红的 Strata/ Qwen3.8 Flash-Next
我也有贴文 努力尝试最佳化中 当然板上也超多帖子可以参考

[Thanaots]

@starryskyknight 说:

你这配置如果有 pcie x8+x8
为什么不玩玩最近最红的 Strata/ Qwen3.8 Flash-Next
我也有贴文 努力尝试最佳化中 当然板上也超多帖子可以参考

没有，pcie 5 x 16 + 4 x 4。速度肯定不行

[Thanaots]

@starryskyknight 说:

你这配置如果有 pcie x8+x8
为什么不玩玩最近最红的 Strata/ Qwen3.8 Flash-Next
我也有贴文 努力尝试最佳化中 当然板上也超多帖子可以参考

不过我考虑在第二台机器上，搞一个这个。不知道strata对AMD支持如何。

[gao Gao]

@thanaots 你别犹豫了 直接玩 Strata/ Qwen3.8 Flash-Next, 我3090 24G+64GB内存都跑的很爽256K上下文 70/tok-95/tok Qwen3.8-Flash-Next-GSQ-RCO-IQ3_XXS,我感觉啥都能干,就是傻点罢了. 我用低智商chatgpt Gpt-6 Luna轻度 去指挥 3090干活, 2个大傻在一起 加上我自己这个大傻纠正错误基本可以永动机 ,chatgpt Gpt-6 Luna轻度连续指挥用不完5小时额度,周额度用完重置送.

[Thanaots]

@gao-Gao 说:

@thanaots 你别犹豫了 直接玩 Strata/ Qwen3.8 Flash-Next, 我3090 24G+64GB内存都跑的很爽256K上下文 70/tok-95/tok Qwen3.8-Flash-Next-GSQ-RCO-IQ3_XXS,我感觉啥都能干,就是傻点罢了. 我用低智商chatgpt Gpt-6 Luna轻度 去指挥 3090干活, 2个大傻在一起 加上我自己这个大傻纠正错误基本可以永动机 ,chatgpt Gpt-6 Luna轻度连续指挥用不完5小时额度,周额度用完重置送.

谢谢

[johnnybegood]

@gao-Gao 三个臭皮匠，顶个诸葛亮