跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场
J

jatwu

@jatwu
德高望重
取消关注 关注
关于
帖子
31
主题
3
分享
0
群组
1
粉丝
0
关注
0

帖子

最新 最佳 有争议的

  • 不管你信不信, 单卡 3090 跑 Qwen3.8 Flash Next 可以到 100tok/s 了!
    J jatwu
    LLM讨论区 rtx3090 strata qwen-flash

    @鍾子揚 我已经做了移植,还没做优化单卡


  • Strata v0.1.30 支援 RX7900 XTX / AI Pro R9700 跑 Qwen3.8-Flash-NEXT
    J jatwu
    LLM讨论区 strata 7900xtx qwen-flash
    单流 24 题 1 路 并发总吞吐 预填 专家命中率 暗号
    R9700 单卡(Strata,我们移植) 64.3 70.6 66~82(不涨) 1575 t/s 98~99.8% 4/4
    XTX(Strata) 63.9 68.4 62~77 757 88~97% 4/4

  • 單張R9700 AI PRO 32G + VLLM + amd/Qwen3.8-27B-Quark-AWQ-MXFP4
    J jatwu
    LLM讨论区 r9700 vllm qwen-27b

    我找时间测一下W4A4


  • 單張R9700 AI PRO 32G + VLLM + amd/Qwen3.8-27B-Quark-AWQ-MXFP4
    J jatwu
    LLM讨论区 r9700 vllm qwen-27b

    @David-Chen 移植,Debug,打补丁,W4A8(解码 / 验证)+ W4A16(大批预填),你可以让ai试着帮你,我现在在测试SGLang+EXL3跑qwen3.8-flash-next


  • 單張R9700 AI PRO 32G + VLLM + amd/Qwen3.8-27B-Quark-AWQ-MXFP4
    J jatwu
    LLM讨论区 r9700 vllm qwen-27b

    参考分块 W4 内核,W4A8,RDNA 卡间通信,用 AI 一点一点调,移植,打补丁,搞了 1 个星期的测试,累的跟狗一样。等我测试完下一个,给大家公开一版。


  • 單張R9700 AI PRO 32G + VLLM + amd/Qwen3.8-27B-Quark-AWQ-MXFP4
    J jatwu
    LLM讨论区 r9700 vllm qwen-27b

    @williamlouis 是的,我现在用的双卡转到 SGLang 上,打了 N 多补丁,现在跑单路 116t/s,基本满足 8-10 人并发使用


  • 讯景 (XFX)R9700 再次上涨2000元。
    J jatwu
    AI硬件 r9700

    @xiang-xu 狗东 14499


  • 从 4700 拍胸口画饼到 3000 挂闲鱼收尸:一张 RX 7900 XTX 经历 SMU 暴毙与代理商“代保换新”的取证复盘
    J jatwu
    AI硬件 7900xtx amd 多卡部署

    @terry 明白,不好意思,半夜没看仔细,不过我现在先屏蔽了音频,smu暂时没发作


  • 从 4700 拍胸口画饼到 3000 挂闲鱼收尸:一张 RX 7900 XTX 经历 SMU 暴毙与代理商“代保换新”的取证复盘
    J jatwu
    AI硬件 7900xtx amd 多卡部署

    @terry 你别说,我的蓝宝石已经遇到 3 次了,准备做压力测试,不行也得去换了


  • AMD 官方 MXFP4与社区 INT4,两个量化版本深度评测
    J jatwu
    随便聊聊 ai-pro-r9700 qwen-27b 量化

    @Magic629 Radiance 用独立草稿模型 Qwen3.8-27B-DFlash2-FP8(--speculative-config 里显式指定),根本不碰 checkpoint 内置的 MTP 头,你可以试试。

    项 值
    基座 Qwen3.8-27B-Quark-AWQ-MXFP4(served name Qwen3.8-27B-MXFP4)
    草稿模型 Qwen3.8-27B-DFlash2-FP8(dflash 投机解码,7 token)
    镜像 / 卡 magiccodingman/vllm-radiance:1.0.15,单卡 R9700#2(ROCR_VISIBLE_DEVICES=1,TP=1)
    上下文 / 并发 --max-model-len 190000,--max-num-seqs 4
    KV --kv-cache-dtype fp8,--kv-cache-memory-bytes 8912057139(8.3GB 写死),utilization 0.98
    预填块 --max-num-batched-tokens 4096(09-16 OOM 事故后从 8192 压下来的修复值)
    注意力 R4D + prefix caching + --no-async-scheduling,PIECEWISE cudagraph
    采样默认 temperature 0.7 / top_p 0.95 / top_k 20 / repetition_penalty 1.05(修编程死循环)
    能力开关 --language-model-only(不能看图,带图请求自动转 node2);tools qwen3_xml、reasoning qwen3
    附加 ROCR 1.18 rel-7.2 预加载(修 CPU 空转 84°C);radiance-watchdog.timer 每分钟探活;

  • 台灣技嘉 AI Pro R9700 32GB 自取, 手速要快
    J jatwu
    AI硬件 ai-pro-r9700 r9700

    @Jun 走转运公司


  • 台灣技嘉 AI Pro R9700 32GB 自取, 手速要快
    J jatwu
    AI硬件 ai-pro-r9700 r9700

    @kos-or 本想去24H买点东西,无奈要台湾手机号,没办法注册


  • 【倡议】3090 单/双/多卡联合评测帖(2026年9-10月)—— benchmark与配置/模型对比
    J jatwu
    LLM讨论区 rtx3090 多卡部署

    AMD 显卡飘过


  • 三张卡的烦恼,怎么合理分配
    J jatwu
    AI硬件 多卡部署

    @Xiaote 我现在的做法:卡1:R9700跑27B,卡2+7900XTX跑comfyui,把文本编辑器放在7900XTX


  • Minimax H3 小试牛刀 (7900XTX)
    J jatwu
    AI音视频画图 minimax 7900xtx

    @Junjie-Heng 对哦


  • Minimax H3 小试牛刀 (7900XTX)
    J jatwu
    AI音视频画图 minimax 7900xtx

    cappy_2mb.gif
    ,我用R9700做的,时间:864×480 · 15.1秒/段 · 4步 · 用时 3分52秒


  • 三张卡的烦恼,怎么合理分配
    J jatwu
    AI硬件 多卡部署

    今天把3张卡都用上,牺牲了一个网口,目标是comfyui和qwen,多人使用,如何分配比较合理,大家帮我看看

    卡 能力 實際協商
    R9700 03:00.0 Gen5 x16 Gen5 x16
    R9700 07:00.0 Gen5 x16 Gen5 x16
    7900 XTX 0c:00.0 Gen4 x16 Gen4 x16

    三張全部滿速滿寬,沒有任何降速或降寬度。
    用的主板是B850-creator wifi neo


  • RDNA3 ComfyUI OOM 血泪排障:VAE 显存 17GB → 1.7GB 的修复之旅
    J jatwu
    AI音视频画图 comfyui

    这个值得借鉴,学习了


  • AMD Radeon AI PRO R9700 H3 1080P
    J jatwu
    AI音视频画图 ai-pro-r9700 视频生成

    @liu-big PDD 8步


  • AMD Radeon AI PRO R9700 H3 1080P
    J jatwu
    AI音视频画图 ai-pro-r9700 视频生成

    截屏2026-08-29 23.13.31.png
    本来想发视频,发不来,先来个截图

  • 登录

  • 登录或注册以进行搜索。
  • 第一个帖子
    最后一个帖子
0
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组