┌───────────┬─────────────────────────────────────────────────────────────────────┐
│ 组件 │ 型号/规格 │
├───────────┼─────────────────────────────────────────────────────────────────────┤
│ CPU │ AMD Ryzen 7 8845HS（8核16线程，最大睿频5.14GHz，含Radeon 780M核显） │
├───────────┼─────────────────────────────────────────────────────────────────────┤
│ GPU │ AMD Radeon 780M（集成显卡，HawkPoint1） │
├───────────┼─────────────────────────────────────────────────────────────────────┤
│ 内存 │ 64GiB DDR（BIOS设置16G专用显存，运行llama.cpp+Qwen3.6 35b后，约23GiB空闲） │
├───────────┼─────────────────────────────────────────────────────────────────────┤
│ 硬盘 │ SK海力士 HFS512GEJ9X115N（512GB NVMe SSD） │
├───────────┼─────────────────────────────────────────────────────────────────────┤
│ 主板/整机 │ GMKtec NucBox K8 Plus（迷你主机） │
├───────────┼─────────────────────────────────────────────────────────────────────┤
│ 操作系统 │ Ubuntu（Kernel 7.0.0-15-generic，x86_64） │
└───────────┴─────────────────────────────────────────────────────────────────────┘

用vulkan在llama.cpp上跑Qwen3.6 35b，设置了100K上下文（因为太大了，后面很可能跑不动，小一点轻量任务反而更友好，agent到限额也会auto compact，中型任务也可以跑跑），开了flash attention, KV设置成q4_0，40层都放到了显卡上。

llama bench结果pp2048（预填充） 304.49 ± 1.32，tg128（生成） 22.22 ± 0.08

目前在agent里勉强是可以用的。有没有大佬知道如何能再优化优化？试过Qwen3.6的MTP在llama.cpp上搞不通。