不错。这机器不便宜。能跑27b的都不错。
Hank Wang
-
M5pro 64G LLM性能参考. -
两张5060ti 16g想部署qwen3.6 27b用来写代码4080s 32g 跑27b肯定可以跑。双卡不是3090的话估计意义不大。
其他机器貌似也跑不太动27b, 64g的Mac估计能跑,但是估计很慢。建议4080s -
4060Ti 8G显存还能部署本地大模型吗?玩玩Hermes应该跑35b。8g显存绝对够了。token应该26每秒以上
-
求指导:谁快来把我打醒买苹果吧。不想玩了跌价不会太大。A卡这显存也不快,感觉不划算。
-
更新一下近况,再请教一下懂Qwen 3.6 35B A3B的3090卡友35b显然开256k。8g显存我都开256k
-
AMD 780M小主机,64G内存跑Qwen 3.6 35B,需要优化建议。这种情况我建议跑benchmark。另外,建议接Codex cli自动分析。
-
给你们看看我运行Hermes的设备@williamlouis 关键词rock64,但是这是9年前的产品了。现在还是要用树莓派,我这个4g内存。现在新树莓派4g肯定比这rock64 性能高。当时买1000多点人民币好像。
-
Pro 6000都是怎么玩?最近想更新一下我的配置,平时用Openclaw帮我做调研,写码,也用comfyui跑图。我算了一下,咬咬牙其实可以上一张Pro 6000。
但Pro 6000在我眼里就是皇帝的金锄头
我手里已经有一块3090了,如果再加一块3090,我就可以比较舒服的跑Qwen3.6 27b了,甚至还能并行。如果我需要做图,我还可以再加一张3090,单独用来跑comfyui,跟另外两张3090协同。
但是如果只装一块Pro 6000的话,虽然好像可以把两种模型都装进显存,但是似乎却不能协同作业?也就是说虽然我可以并行很多大模型,但是却不能同时作图?
当然了,一张Pro 6000的耗电低得多,但我还是觉得我目前的工作吃不满96gb显存。我这种情况是不是买两张魔改4090更合适?
有钱就买96G显存的。万一出来牛逼模型需要64以上显存你的卡就有用了。反正运行什么都快,不是吗。
-
小小秀一下我的AI RIG显卡坞有没有可以支持5090这样显卡的?不知道有没有这样用过。
-
给你们看看我运行Hermes的设备
今天刚装的,跑deepseek+ telegram。
不过跟我想的一样,暂时没活干。就随便聊天了几下。不过我这个设备功耗超低,可能让它24小时,负责开机关机可能可以,回头试试。 -
看到一个很优雅的5090, 有点儿动心加拿大的朋友。我今天买了 https://www.hp.com/ca-en/shop/products/desktops/omen-max-45l-gaming-dt-gt23-0019-pc-d0bz1aa-abl
Total before tax 7,109.99 $ Tax
我今天弄了个小企业回头把税可以退回来。 这样最划算。找HP Online chat直接要折扣即可。这种贵东西,HP,dell等商家跟菜市场一样,可以砍价。 -
定了一台HP OMEN 5090的机器。@wwcd 我不在国内,我要是买洋垃圾运过来还得增加成本,相当麻烦。只能直接掏钱了。 3090不错!
-
定了一台HP OMEN 5090的机器。收到之后再来显能耐。
准备运行所有能运行的玩意。