我想购买一个128G的
- 主要是看中他满载功耗低,
- 统一内存又没有显存焦虑
就是不知道跑Q4_K_M 或者 Q8 ,搭配opencode或者harmes在真实环境下,一般的速度分别是多少?
多谢各位大佬!
我想购买一个128G的
多谢各位大佬!
楼主,请问ai max+ 395 跑 qwen3.6-27b Q4_K_M 或者 Q8 的通常速度是多少? 带和不带mtp 速度有多少提升?
楼上说的不错。 24G单卡发挥不出那两个的优势。llama.cpp默认够用
I-mini用起来效果如何? 用这个提示词,看看能不能一次写出来: 编写一个网页版的贪吃蛇游戏,需求如下:
1, 普通食物:紫色球形,加10分,游戏启动时放置1个,被吃后立即刷新,没被吃这一直存在;
2, 特殊食物:金色星形,加30分,游戏启动后每间隔 10~30 秒随机出现1个,带脉冲动画和倒计时条,存在8秒
3, 缩小食物:绿色菱形,不加分,游戏启动后每间隔 20~40 秒随机出现1个,吃到后身体缩短3格(最少保留2节身体),带脉冲动画和倒计时条,存在8秒
4, 变长食物:红色正方形,加20分, 游戏启动后每间隔 40~80 秒随机出现1个,吃到后身体变长3格, 永久存在(被吃才消失),最多20个
5, 游戏画布30x30网格, 背景色蓝色,格子间有浅色分割线,中画布600x600
6, 蛇身绿色,椭圆形,蛇头球形,有眼睛,白底黑眼珠,看向前进方向
7, 空格键暂停/继续游戏
8, 仅用方向控制蛇走向,禁止 180° 掉头
9, 页面首次加载和游戏结束时,按回车键可开始新游戏
10, 页面布局:中间为画布,
10.1 画布上方显示当前得分, 蛇的长度, 几秒后将出现的特殊食物。
10.2 画布下方显示累积吃到的食物。 比如: 累积吃到 紫色10 金色 2 绿色 1 红色 1
10.3 画布下方增加一行,显示最近一次事件: 比如吃到金色食物 +30
10.4 游戏结束时在画布上显示结束原因,并提示按Enter键重新开始
楼主这个效果非常不错。看来买新不买旧非常有道理的。
难道是魔改的L40S吗?
看了你的7900xtx,如果纯跑27B,我还是不入坑了。保持两张16G的羊垃圾,27B-IQ4_NL(理论上比Q4_K_M小一些,智力稳一些), q8_0的kv-cache 256k可以跑,保险一些224k 240k 加mtp一次吐出8k左右能稳定40-50 t/s。 楼主的单卡24可以考虑折腾dflash,据说速度最高可以10倍。