抡锤者

Your browser does not seem to support JavaScript. As a result, your viewing experience will be diminished, and you have been placed in read-only mode.

Please download a browser that supports JavaScript, or enable it if it's disabled (i.e. NoScript).

I

iocat

@iocat

关注

0

帖子

最新最佳有争议的

r9700 32G速度总算达标了，27B MTP,能上50t/s

I iocat

AI硬件 r9700 mtp

@Tony-Wang 这个应该是提示词很短导致的
廉頗老矣，尚能飯否？測試tesla V100 32Gx2 部署Qwen 3.6 27B Q8模型

I iocat

LLM讨论区本地模型 v100 qwen-27b 量化

大佬你行动力也太强了，刚看完你spark的贴子
小小秀一下我的AI RIG

I iocat

AI硬件 rtx4090 r9700 多卡部署

6w可以搞两个dgx spark，感觉也不错
下单 7900xtx, 开始折腾 llama.cpp

I iocat

AI硬件 amd 7900xtx

vulkan + mtp 直接跑到50token/s了
下单 7900xtx, 开始折腾 llama.cpp

I iocat

AI硬件 amd 7900xtx

我换了vulkan，发现好像不用上mtp速度也有这么快。。
Nvidia DGX spark一些心得

I iocat

LLM讨论区 dgxspark nvidia

@terry 你目前的主力显卡是pro6000还是4090 48G
下单 7900xtx, 开始折腾 llama.cpp

I iocat

AI硬件 amd 7900xtx

mtp快了好多啊，我原始7900xtx跑27b q4只有
3080 20G*2的有没有，来交流啊兄弟们

I iocat

AI硬件 rtx3080

3080有nvlink吗，上个桥接器应该很爽