抡锤者

@johnnybegood 说:

看这一轮轮军备竞赛， 我只想说一句话：

吾生也有涯，而知也无涯。以有涯随无涯，殆已！

没有人会嫌输出快。看到新框架总是想试试的。 当软件成为瓶颈的时候只能折腾硬件了

@fcme 说:

@paul-hou
被这帖子搞的都有点心痒痒想入第二块9700

昨天看到此贴时去京东看了下价，盈通的9700 都 14000了

@paul-hou 说:

@张光璞
STRATA又更新了，單R9700的PREFILL上升19%

Prompt	MMQ（PF_FUSED_NATIVE=0）	Fused int8 kernel	提升
7,118 tok	3,953 ms（1,801 tok/s）	3,309 ms（2,160 tok/s）	+19.5%
14,244 tok	7,567 ms（1,882 tok/s）	6,318 ms（2,256 tok/s）	+19.8%

我的9700 供电没解决，12V会被用电尖峰拉跳闸。 降频降压解决不了。

只能改电源了。

@Jw-Zhang 说:

无头服务器，就这样了

昨天逛街去苹果店看了一下mac studio ，还是很帅的。比想象的大，可能见mini 见多了

Strata 这两天没密集更新 ，刚说可以歇一阵，这又来这么一出。

@kos-or 说:

@fcme

哈哈 這建議讓我思考了一下

AMD R9700 也可以跑ComfyUI嗎？ 我也需要佈置一個ComfyUI 工作流
還是 LLM (R9700) + ComfyUI (5070 Ti) 的佈置？

可以，我今天刚用r9700 跑了视频 ，双9700 还没试

我是双7900XTX 跑了35分钟

@exe127 说:

@kos-or strata 用的125B輸出的結果真的會比 27B更強嗎?

Q3_S 现在日常办公感觉比以前的MXFP4 要强，毕竟模型体量在这里。

@johnnybegood 说:

@tszhoill 玩着玩着就发现消费级CPU和主板根本不够用， 一定要上工作站级别的。

终究还是进入了军备竞赛的怪圈。

双7900XTX 跟我现在跑出来的数据一致。 已经处于可用的状态了。

这种就是乱写价，能骗一个是一个。 这个价不如4卡9700了

@stxpnet 说:

画一个3D的 鹈鹕在海边公路骑自行车动画，用HTML5及必要的技术来展示，要求细节拉满，有美感，比例正确60帧不卡顿，默认从左后方向45度视角，有日夜切换按钮，太阳和月亮会随时间变化 运动（大概是20倍于现实中的时间流逝）,鹈鹕左侧的路面增加一些花花草草，海里增加一些小鱼时不时的跃出水面，沙滩上有螃蟹及海螺，岸边有人散步，海里有些人游泳，远处有一些渔船，海上有一些海鸥随机飞翔。 夜晚天上加一些星星，保存为pelican.html（本机默认下载好three.js，如果没有也可以自动从中国CDN快速加载）。游戏要有server.py，启动后随机寻找一个本机的空闲端口作为服务器，并自动从默认浏览器打开让用户试玩.

可以试试3D鹈鹕提示词，看多久可以完成，效果如何。

双7900XTX 35分钟

昨天刚说完，Mac 的优化也是好起来了，今天就能看到成绩。

看来512G 还是很有价值

这样摆放是不是散热不够好。我看到一个方案是4机直接垂直放在小米空气净化器上的。

@fcme 说:

@张光璞
哦，那使用体验也相当不错了，只不过相比价格，性价比不高。如果看中体积的话，那就没办法了，只有迈克。
我的5070ti现在跑起来应该是在一千四五的pp速度，然后生成是在55~60的样子。

MAC 的并发估计也好不到哪去，适合一个人慢慢干长活。

小团队还是多显卡，或DGX 集群

@stxpnet 说:

推上有人拿strata 说事,埋怨llama.cpp,vllm,sglang的人都在干嘛.

Strata 现在一天两更，太疯狂了。 我整了个计划任务自动抓取跟AMD 相关的性能优化，其他都略过。

这么好的卡只跑27B 吗？ 整整Strata Qwen3.8 Flash Next 让我们开开眼！

@fcme 说:

@张光璞
是啊，这是趋势，AI利好小众硬件。
现在Mac能到啥速度了？求赐教

B站有个哥们跑Qwen flash 能到80T/s

https://www.bilibili.com/video/BV1ZjHi6XEc4/?spm_id_from=333.1387.homepage.video_card.click&vd_source=c7fdfb9d4943df340439e35e09bbaa4e

@Ben-Lee 说:

@farmer-node vLLM这么牛啊，之前了解不够，这个并发都可以给小办公室用了吧

但是他TTFT 很慢

Spark 虽然显存带宽不行，但网络和计算很强
现在看来MAC 更适合个人单任务慢慢跑
Spark 组集群 更适合小团队来用。