@johnnybegood
等我有空测一下。
写一更的时候，llama.cpp还没mtp，mtp上周才正式merge的
-
[申请精华帖]秀一下刚到的R9700，以及初步配置llama.cpp -
[申请精华帖]秀一下刚到的R9700，以及初步配置llama.cpp@Xiaote
小特你瞎bb啥，AMD AI Pro R9700 是32GB ECC显存，记住咯！另外，谁说要用Kubernete了，净瞎指挥。要学习老特的实用主义(pragmatic) ，能Linux直接跑起来再说，别搞有的没的