我觉得把一些东西放在内存当查表,这个思路是最核心的
jerry deng
@jerry deng
-
【纯闲着】2700 块的洋垃圾跑 QFN:MI50 16G×2 + 128G DDR3,从装系统到 54 tok/s,这可能是目前价格最低的洋垃圾方案。 -
【纯闲着】2700 块的洋垃圾跑 QFN:MI50 16G×2 + 128G DDR3,从装系统到 54 tok/s,这可能是目前价格最低的洋垃圾方案。我只能说太牛了,这套调优其实就是“把每一块硬件的脾气摸透,让它们各司其职”:
- 贵的显存跑计算,便宜的内存当仓库:把需要高频计算的核心零件死死锁在极速的显存里,把体积庞大但只需要查询的辅助数据塞进便宜的内存里,用最少的钱买到了最大的容量。
- 每次只动一小部分,不搞全员大集合:利用 MoE 架构“激活小部分”的特点,每次生成只调用一小撮专家,把原本几十个人才能干的活压缩到几个人干,直接避开了内存搬运速度慢的死穴。
- 干掉假把戏,开关全拉满:把软件里那些表面开着、实际在偷懒的机制通通揪出来,同时把隐藏在底层的加速开关全部手动打开,不让硬件浪费哪怕一微秒。
- 耐心等机器“热身”好:就像跑马拉松前要热身一样,刚开机数据还没理顺,等它空转跑个几分钟、把缓存全部命中之后,性能就能稳稳冲到最高点。
-
温哥华攒机历程散记非常幸运我人就住深圳,离华强北这么近,哈哈
-
华南X99T8 DDR3 8x32G插满256G,2686V4 cpu,一次点亮顺利跑起deepseek。 -
【内存】X99 平台 DDR3 RDIMM 规格参数介绍:1Rx8、2Rx4、4Rx4 与 32G 兼容性认准标签买 RDIMM(末尾带 R),尽量避开 LRDIMM(末尾带 L)。
一次性买同品牌同批次,严禁不同规格混插。
收到后 BIOS 先降频到 1600MHz/1333MHz 手动定压 1.5V 使用。??可以这样理解吗?
-
【内存】X99 平台 DDR3 RDIMM 规格参数介绍:1Rx8、2Rx4、4Rx4 与 32G 兼容性32G 优先 2Rx4 几乎是买不到的,非常罕见,电商搜了一大堆,没有
-
交作业,200t/s,洋垃圾发光发热了这黑科技逆天了,Polystrata 经过优化之后, 我内存比较小,才32 GB,我用3060,12GB 。32GB, 跑polystrata 80 到100 tokens/s qwen3.6-35b-a3b-q4-poly7-vision 带图片识别, 桌面版的strata qwen 3.8 flash next Swift IQI XS 20~30 token之间吧,不知道升级到64 GB 内存 有没有很大的提升?