回到 Qwen 3.6 27B 或 A3B 可以。
3.8 太新。
让时间解决这个问题。
-
qwen3.8-27b无审查量化有没有比较推荐的社区版本,要能做事聪明的。 -
又下单了一张3090 24G, 但是还是有关于AI硬件的迷惑, 求解… …社会科学发展到现在,情绪价值反而对个人是最重要的。因为它决定了你的寿命。和你的健康完全挂钩。
开心就好。
只要你高兴。 -
無事折騰~單張 RX 7900 XTX(gfx1100 / 24GB)上編 SGLang 跑 Qwen3.8-27B —— 完整實作與踩坑全紀錄此贴不错。总结下 单卡 R9700 32G 貌似有戏。不过48-32=16G 显存的缺口也不小。
-
🎉 恭喜 kos or 晋升「超凡大师」恭喜 神功大成 兄弟
-
需要帮忙在Windows上使用Hermes@Thanaots 年龄够用,就看兴趣值了。
不要用自己套用孩子。试试又没什么损失。 -
SWE 資深軟體工程師 and CTO 技術長 會被AI平替嗎?未来有可能。
现在肯定是不行的。作为执行工作还出错的AI 完全信任是不可能的。 -
离线 AI 开发笔记本求推荐:5090 24G 还是 M5 Pro 64G?笔记本的致命弱点是 高温降频策略
只能学习安装。用来工作几乎没什么效率。
建议上个显卡算力不推荐mac 小主机。
科学的 能量守恒定律还没有被推翻。尊重它就可以。 -
需要帮忙在Windows上使用Hermes教会孩子如何用 AI 然后让他自己学。
不要你搞定。容易扼杀孩子自我成长的兴趣值。
孩子的爷爷的技能你会吗?同理思考下。 -
【经验教训】魔改 48GB 4090D 的血泪教训:花屏、TDR 0x116、卡 VGA 灯完整排查记录@terry 我哥直击痛点。商家集体捂鸟。
-
我的显存是(8G、12G、24G、32G、48G… 512G)的话,到底能做什么?三个静音风扇 的想法 没必要。换个房间放是正解。
有不少测试已经测试了三风扇方案。
1.容易搞废。放在第一条。这是重点。
2.换完一样很吵。具体看别人的测试视频把。
3.小火龙不建议加大投资。并且你越改。贬值越多。跑着吧。玩腻了就脱手。现在这个时间点是回血的好时机。 -
没苦硬吃!!3090带着小弟跑Qwen3.8-Flash-Next IQ4双卡实测换3080是对的。3070这个小弟属实有拖后腿的意思了。
-
M5 Ultra的1.2T/s高带宽有多大用处?其实 苹果如果搞不定 自己的兼容性。时代一样会淘汰他。
还活着说明还是可用的地方大于它弱势的地方。
现在发生的问题依旧是 M1-6系列需要面对的。有利就有弊。脱离了别人对芯片的掌控。这点痛点还是需要面对的。
优点一样突出。功耗的下降是苹果获得最大的回报。
就视频生产这一块。我想mac 早晚会搞定的。等吧。
随着AI 能力的疯狂进化。以后苹果公司自己就能搞一套出来的难度也不会很大。它现在面临的关键问题是拥有第一个自己的 模型。后面很多事就迎刃而解了。 -
2x3090 NVLink 王者配置再度进化——SGLang dev507 + DFLASH2 全面复测,并发 249 t/s 新高峰还真就是王者了。NV显卡价格继续飙升。3090算是守门员了。
-
这个配置,大神帮忙建议一下,本地化部署什么大模型最合适,需要5个人同时并发?补充下。资金问题 用 pro 5000 72G 也可以。但是速度没有现在快了 降级到4090 48G 魔改的速度。
-
这个配置,大神帮忙建议一下,本地化部署什么大模型最合适,需要5个人同时并发?注意火灾防护就行。5090 并不适合7*24工作。卖了换1张 pro 6000 96G是最优解。
-
15 年老平台 + 单张 RX 7900 XTX 跑 Qwen3.8-27B:本地 Coding Agent 实测最终解了。不要在这个平台上升级R 9700 32G。可以看看我的贴子。AMD 显卡最后一档 7900XTX 再升级就拉跨。这个主机比我的还老。
-
【经验教训】魔改 48GB 4090D 的血泪教训:花屏、TDR 0x116、卡 VGA 灯完整排查记录@johnnybegood 再找一家修修把。核心不会坏。换套板子+显存 顶天了。正常换1-2个显存块。
-
MAC Studio M5 Ultra 被延期发货了1万买不到32G 的 M6 .你都有 M4 24G了。搞一台 32G 的M6 提升不大。我刚把自己的M4 32G 发走给京东的爱回收。M6 32G 目前还没有好的购买渠道 需要等等。我买到跑一跑。应该和我预测的差不太多。32G这个内存数依旧是尴尬的。
-
试图通过小爱音箱和本地LLM通话 (未完成)油管有人出了成品。我去找找
-
请教如帖内硬件配置RTX 4090(24 GB GDDR6X),搞日常工作文档表格PPT和编程和运维代码维护需求,部署什么模型合适?DSH 你先让 在线 API deep seek V4 Flash 跑。跑通你工作的插件再把接口连接到 千问 3.8 27B。不要上来就让本地算力干活。任何定制需求都让 deep seek 在线搞定。不要用其他 在线模型是重点。