跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场 App
xiaopbroX

xiaopbro

@xiaopbro
体面乡绅
取消关注 关注
关于
帖子
44
主题
3
分享
0
群组
1
粉丝
0
关注
0

帖子

最新 最佳 有争议的

  • 本地AI硬件焦虑个锤子!看看好消息吧
    xiaopbroX xiaopbro
    LLM讨论区 本地模型

    现在已经双卡r9700,不出意外三年内不用加卡了


  • 造孽啊!————大家看看我的硬件配置,至于如此token水平吗?
    xiaopbroX xiaopbro
    AI硬件 x99 intel qwen-27b

    正常人都会先用ai帮忙诊断下问题,而不是上来就开喷。


  • 请教一个公司用的配置,希望有高低两种建议
    xiaopbroX xiaopbro
    AI硬件 服务器 本地模型

    洋垃圾配V100 16G*2,DDR3,成本5000一台,配20台只要10万,每人一台,剩下的钱每天喝下午茶


  • 【實測】4× RTX PRO 6000:DeepSeek V4.1 Flash 原版 vs 1017,單人生成提升約 51%
    xiaopbroX xiaopbro
    LLM讨论区 rtxpro6000 deepseek 多卡部署

    膨胀了,这种帖子都敢点进来看


  • 预填快了 1.81 倍:单卡 R9700 32G 升级 Strata 0.1.44 → 0.2.1.1 实测
    xiaopbroX xiaopbro
    LLM讨论区 r9700 strata 本地模型

    更新真效率啊,每天都在提升


  • 把Strata + Paiton 接入 DSH 实测,看看本地模型到底值不值
    xiaopbroX xiaopbro
    LLM讨论区 strata dsharness 本地模型

    这个按整机按6万算的,如果按照便宜点的x99洋垃圾配置,R9700+X99+64G DDR4+电源硬盘机箱散热=17000元以内,这套配置的tok中位数是72,比你的92tok低了20%,那么可以算作效率低20%,
    即回本周期分别为
    35年 × 系数(1+20%)×1.7万元/6万元
    =35×0.34=11.9年,
    其他同理
    7.1年×0.34=2.4年,
    3.5年×0.34=1.19年,
    2.6年×0.34=0.88年,
    不到一年就回本,还是挺不错的,
    如果换成7900xtx,价格少6000,总成本不到1.1W,tok是65左右,系数是 0.24,那么结论分别是 8.4年,1.7年,0.8年,0.6年
    当然这只是数量的比较,严格来说tok的质量肯定是不如在线的


  • 双96GB显存、48GB内存:DeepSeek V4.1 Flash 1017 跑上 Strata,还差哪些 Gap?
    xiaopbroX xiaopbro
    LLM讨论区 rtxpro6000 deepseek strata

    都是大佬,随随便便就是2张pro6000,有没有便宜点的配置上ds flash4.1的


  • 新板块给老特捧场,也跟着大佬们的步伐分享下,洋垃圾x99+R9700
    xiaopbroX xiaopbro
    装备秀 x99 r9700 服务器

    @盗墓贼 说:

    这显示屏多少寸的

    49寸的


  • Strata部署Qwen3.8-Flash-Next更换无审查模型无需重新下载,只需480kb文件
    xiaopbroX xiaopbro
    LLM讨论区 strata qwen-flash

    最近很多大佬在玩Strata部署Qwen3.8-Flash-Next,这两天出来的无审查模型却要重新下载,更换模型得重新下载80G文件,实属麻烦(万兆专线大佬可以略过),其实只需要下载480kb的控制向量文件即可,加上参数运行就能破解。
    不废话,直接上链接:https://huggingface.co/alesha-pro/Qwen3.8-Flash-Next-abliterated-GSQ-RCO-Strata-GGUF/tree/main

    image.jpeg


  • 7900XTX 单卡部署哪家强?llama.cpp 27b vs strata flash next 大比拼!
    xiaopbroX xiaopbro
    LLM讨论区 7900xtx strata qwen

    @flyer666
    那倒是,速度换质量,感觉跟deepseek flash质量差不多了,不知道是不是我幻觉了


  • 7900XTX 单卡部署哪家强?llama.cpp 27b vs strata flash next 大比拼!
    xiaopbroX xiaopbro
    LLM讨论区 7900xtx strata qwen

    IQ3_S用了两天发现很容易过度思考,效率有点低,原来是这么回事


  • 4× RTX PRO 6000 Blackwell Max Q
    xiaopbroX xiaopbro
    装备秀 rtxpro6000 多卡部署

    藏龙卧虎,这是真大佬啊


  • 【踩坑实录】本地 Qwen3.8-Flash-Next 在 agent 循环里"复读死循环":从 311×2 次重复调用到真根因(贪婪采样)
    xiaopbroX xiaopbro
    LLM讨论区 r9700 qwen-flash strata

    原来是这么回事,感谢分享


  • 新无审查版(484K)来了!Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF 完全支持Strata
    xiaopbroX xiaopbro
    LLM讨论区 qwen-flash strata 量化

    感谢分享,一直在等这个


  • 新板块给老特捧场,也跟着大佬们的步伐分享下,洋垃圾x99+R9700
    xiaopbroX xiaopbro
    装备秀 x99 r9700 服务器

    新板块给老特捧场,也跟着大佬们的步伐分享下

    服务PC

    项目 值
    主板 寨板X99-AD4
    CPU Intel Xeon E5-2686 v4 @ 2.30GHz(36 线程)
    内存 128 GB(三星DDR4 2133 * 4)
    GPU AMD Radeon AI PRO R9700
    电源 振华 850W
    系统盘 NVMe 1TB
    数据盘 西数32TB

    游戏

    项目 值
    主板 华硕重炮手 B550M
    CPU AMD Ryzen 7 3700X 8-Core Processor
    内存 48 GB
    GPU AMD Radeon RX 6800 XT (16 GB)
    系统盘 NVMe 1TB
    电源 航嘉 650W
    显示器 49寸 5K

    其他

    项目 值
    1 Macmini M4
    2 MacBookPro

    还一张盈通R9700打算再组一台干活,这几天一直摆烂不想动,一堆零件还没组装。就不发了

    全景
    1.jpg

    正面
    2.jpg
    游戏

    3.jpg
    干活的

    4.jpg


  • R9700单卡 Strata Qwen3.8-Flash-Next 125B 部署与Qwen3.8-27b-MXFP4对比
    xiaopbroX xiaopbro
    LLM讨论区 r9700 strata qwen-flash

    https://github.com/Niko1221/Strata/releases

    v0.1.38 已经发布了,其中对R9700做了优化,

    v0.1.32 的 STRATA_HIP_WMMA=1 — R9700 prefill +36-51%(本人测试提升26%)

    v0.1.36 的 STRATA_PF_FUSED=1 — IQ3_S prefill 有提升(默认关,IQ 系列 "about even",本人测试了没提升)

    v0.1.38 的 prefill 优化 — 通用提速


  • R9700单卡 Strata Qwen3.8-Flash-Next 125B 部署与Qwen3.8-27b-MXFP4对比
    xiaopbroX xiaopbro
    LLM讨论区 r9700 strata qwen-flash

    @Brian 由奢入俭难,用习惯100+的就回不去了


  • R9700单卡 Strata Qwen3.8-Flash-Next 125B 部署与Qwen3.8-27b-MXFP4对比
    xiaopbroX xiaopbro
    LLM讨论区 r9700 strata qwen-flash

    @Brian 是的,经过一天的测试,确实比27b思考的久很多


  • 7900 XTX 的可能性探索|单卡篇(四):魔法打败魔法 - 7900XTX Strata 引擎跑Qwen3.8 Flash-Next 快得让我怀疑人生
    xiaopbroX xiaopbro
    AI Agent 7900xtx strata qwen-flash

    @Ben-Lee 哈哈,主要还是感谢大佬帖子的启发

  • 登录

  • 登录或注册以进行搜索。
  • 第一个帖子
    最后一个帖子
0
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组