618梭哈一把硬件配置,探索一下。
-
@Tony-Wang 不需要。我认为48G够用了。32G对我来说都够玩的。
这个项目是个低速托管项目 被阉割的pro 6000D 都能跑。和京东发生了点不愉快。只能退款上这个 Pro 5000了。 -
48G 绝对是 民用标兵了。 想搞点什么都够用了。而且 模型 优化工具都在更新。尤其显存上下文压缩技术。未来的显存需求只能越来越小。我是老想法。没有实操项目不需要搞那么高的显存。完全浪费。24G入门 32G优秀 48G放飞级别了。
-
我看京东丽台的 72G 都 59999了

@Tony-Wang 操原地赚钱了。有要的吗?

官方公版的我也下了一块。 -
正常会退一块回去。准备用公版的就行了。客户说他无惧噪音。现在我想可能选 丽台的面大。
-
48G 绝对是 民用标兵了。 想搞点什么都够用了。而且 模型 优化工具都在更新。尤其显存上下文压缩技术。未来的显存需求只能越来越小。我是老想法。没有实操项目不需要搞那么高的显存。完全浪费。24G入门 32G优秀 48G放飞级别了。
-
未来的显存需求只能越来越小
對呀
但玩法可能越來越多樣 , 未來一個GPU VRAM一次裝3~5模型 不知道會怎樣 -
-
一个LLM 做大脑
一个ComfyUI 跑几个diffusion相关的模型
一套IOT模型 (whisper+TTS)
一套RAG模型( embedding + rerank)
......我最大可能的应用场景是:
1, 27b+256K上下文
2, 一个生图的 ComfyUI (我不需要视频)
3, RAG 相关
4, IOT 相关
主要用语音聊天, 控制IOT设备, 个人知识库, 以及AI-agent的一些自动化等.如果把这些都同时加载, 48G 不够, 72G 可能刚刚好...所以, 我在犹豫是不是要换...
@Tony-Wang 大哥你这有点 喧宾夺主啦。我们可以去你的帖子里聊。还有你的卡过7天无理由了吧?但是 没开封的话 确实可以退。而且京东应该很乐意。
但是这些天的升值你肯定是拿不到了。 -
@kos-or 有什么实际用途没?折腾没有任何经济价值。一起跑3-5 模型能做什么这个很重要。
-
在线的 api 更适合折腾(硬件折腾实现不了。其他的都行)
-
在线的 api 更适合折腾(硬件折腾实现不了。其他的都行)
-
沒用途就不用花錢了 省一點
-
我看京东丽台的 72G 都 59999了

-
@kos-or 而且一个 6W的CPU DDR3 8G 集成显卡小主机就够了。
-
我倒是希望用智慧眼鏡和Apple watch 就夠了 才便利


