跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场 App
I

iamvirus

@iamvirus
体面乡绅 硕果累累
取消关注 关注
关于
帖子
59
主题
0
分享
0
群组
2
粉丝
1
关注
0

帖子

最新 最佳 有争议的

  • Intel 新卡 D270
    I iamvirus
    随便聊聊 intel 服务器

    480G 1W美元来一个


  • 【直播】4卡R9700从采购到调试
    I iamvirus
    AI硬件 r9700 多卡部署

    @terry 我前段时间就是两套(x99+双卡r9700) 跑27b,很爽的。那速度就跟用DeepSeek v4.1 flash api 嗖嗖的!给我完成了好多opus5.5派发的好多任务


  • 请教:双 7900 XTX 有必要出掉一张,换成 32GB 的 R9700 吗?
    I iamvirus
    AI硬件 7900xtx r9700 多卡部署

    @909 说:

    @iamvirus
    预判太牛了,我现在还是不买了把,现在R9700都涨价到1.4 1.5了 太贵了不划算,7900xtx我两张才1.2, 我记得那时候R9700 京东才1.08

    7900xtx 两张1.04买的1.3卖的。R9700现在是国内价格高于国外了,国外还能1600-1700美元拿下!我估计是国内贩子们炒的。他们习惯这样


  • 请教:双 7900 XTX 有必要出掉一张,换成 32GB 的 R9700 吗?
    I iamvirus
    AI硬件 7900xtx r9700 多卡部署

    我两个月前7900xtx 双卡TP玩的飞起来,但是那个时候并发遇到问题,prefill是制约,多个256k上下文是制约。那个时候最好的是双卡3090生态,但是我后面一合计他们两个双卡的fp16 int8算力差不了几毛,那个时候我就判断了双卡7900xtx肯定会达到双卡3090的生态的,后面一个月果然7900xtx涨价了。涨价了后我果断出手了玩了两个月的双卡7900xtx,入了双卡r9700

    为何那个时候果断入R9700呢,因为我把NVIDIA和amd及INTEL所有消费级和专业级显卡都拉出来对比,当时nvdia所有卡都没有漏可捡,然后5090很好,但是显存太小了也炒上天,pro 6000就更不用说了,后面一对比fp16 fp8算力发现两张r9700就和5090差不多了(虽然5090有FP4算力) ,但是价格可以买3-4张r9700了(r9700没有涨价,国外你敢信有人用每个1200美元买了的),双卡r9700 不到20000 ,而且是新卡保修,5090还买不到,而且有64G VRAM。最关键的我判断amd NVIDIA 要到2027年底或者2028才会有消费级和专业级显卡给到我们普通玩家(6090和10090xt)。其实原来还有intel B70的漏可捡的,但是根据玩7900XTX的经验 所以又入了R9700

    后面又陆续入了2张R9700。当时还没有Strata ,但是我玩并发需要上下文卸载内存,所以也入了256的DDR4,现在看阴差阳错了。

    前一阵我的判断现在还是适用

    代码文本
    ```[链接文本](https://lcz.me/post/19690)

  • 4卡r9700应该选择 WRX90E-SAGE 还是 MU72-SU0 主板?
    I iamvirus
    AI硬件 r9700 多卡部署

    @Name-Error 两块9500 两块10000 现在看这价格我都想卖了!再涨涨我又想卖卡了


  • 實測Strata改造雙卡_R9700_本地大模型架構演進與調優實錄
    I iamvirus
    AI硬件 r9700 strata 多卡部署

    目前双卡R9700 pcie4.0x16 QFN 8并发 550token/s 128k prefill 7500token/s 速度确实比27B快一些了,但是我本地代码还是习惯了27B。

    目前又入了9070XT 跑jev
    embedding pdf转换markdown 等小模型作为基础设施

    还是期望qwen4 27b智能再上一个台阶


  • AMD AI Pro R9700 + 洋垃圾CPU + DDR3内存 VS RTX Pro 4000 + 9800 X3D + DDR内存, 学习AI大模型 生成视频选择谁?
    I iamvirus
    AI硬件 ai-pro-r9700 amd 视频生成

    @Matthew-liew 给你真实分享,我用X99-TF X99-AD3 都正在跑两套双卡R9700+128G ddr3 DDR4 的平台,都可以TP=2 满速pcie3.0 x16。一定要买华南新板子,这样的寨板不要买旧的,踩过坑。总体来说这两块用料足一些,供电好些


  • 4卡r9700应该选择 WRX90E-SAGE 还是 MU72-SU0 主板?
    I iamvirus
    AI硬件 r9700 多卡部署

    @applejuice 我现在是跑两套qwen3.8-27b,长时间10-16并发,基本在900-1000token/s 现在研究本地agent团队如何高效完成任务,现在是力大砖飞,猛猛让它往不同路径上去撞南墙,速度快就是这么任性了。
    等新主板和CPU到了上tp=4玩玩,但是目前我感觉27b真牛。估计moe要超过也不会高太多智能,要有opus5.5我才觉得值。


  • 4卡r9700应该选择 WRX90E-SAGE 还是 MU72-SU0 主板?
    I iamvirus
    AI硬件 r9700 多卡部署

    我前两天趁着涨价前又入了两张R9700,现在也四张了,生产力确实拉满了。还有期待Qwen4-27B啊


  • Qwen3.8 27B, 单卡也可以跑191 tok/s : 一套优化到极致的部署与实测
    I iamvirus
    LLM讨论区 rtx3090 qwen-27b vllm

    prefill就这样,生产就当单线程跑还可以


  • 双7900XTX:vLLM Prefix Cache 与 SGLang HiCache 实测对比
    I iamvirus
    LLM讨论区 7900xtx vllm sg-lang

    卧槽,这么绑显卡牛逼


  • 我普通人的算力需求 病态
    I iamvirus
    随便聊聊 rtx3090 本地模型

    3090 是对标7900xtx 的,因为他们算力上限和支持的精度都在同一个层次上。目前双r9700 功耗和速度都远远好于它们的,并发量一上来prefill就很重要了。完成任务就明显多了,我这个是我个人感受!假如后续还想体验那种更多的agent并发干活的场景,就还得升级算力和模型。


  • 小白 硬件 购买推荐
    I iamvirus
    随便聊聊 r9700 rtx4090 本地模型

    现在要入本地ai门槛,就死盯着fp16 fp8 算力和显存大小(速度可以不要死扣那一点点差距) ,谁的算力高 显存大 且价格低就赶紧买,其他的慢慢都会有,就会导致你的显卡升值


  • X99 不能P2P让我很难受 。 买Pcie switch(260926死缓改判无罪,交换机完美实现P2P 9月27:TP2 Qwen3.8 Q8 60t/s)
    I iamvirus
    AI硬件 x99 ai-pro-r9700 多卡部署

    。。。,等我有时间把x99的p2p写一下!何必去弄品牌机器呢?那电源那pcie够折腾的,寨板x99+一个atx3的1200W电源啥都不用太折腾p2p就有了


  • 單R9700 + VLLM(GGZ14/vllm-mxfp4) + unsloth/Qwen3.8-27B-NVFP4 測試
    I iamvirus
    LLM讨论区 r9700 vllm qwen-27b

    Dual AMD R9700 - Real Performance. Local LLM Inference

    版本/环境: Betterbench 0.6.0 | Localhost.localdomain | GGZ14 MXFP4 • vLLM Build

    Decode Performance

    Category Decode T/S (tokens per second)
    chat 144.4
    code 262.0
    file_edit 280.0
    json 290.0
    math 259.8
    prose 124.6
    reasoning 237.9
    summarization 215.1
    combined 237.9

    Prefill Performance

    Depth Tok/s (tokens per second)
    2000 5769.4
    8000 6043.8
    16000 5959.3
    32000 5741.7
    64000 5395.5

    Technical Stack & Features

    • DUAL AMD R9700: Maximum throughput. Real world performance.
    • GGZ14 MXFP4: Our custom vLLM support.
    • vLLM: High performance. Open source.
    • BETTERBENCH 0.6.0: Real benchmarks. Real numbers.

  • 單R9700 + VLLM(GGZ14/vllm-mxfp4) + unsloth/Qwen3.8-27B-NVFP4 測試
    I iamvirus
    LLM讨论区 r9700 vllm qwen-27b

    双r9700 单prefill速度可以上6000token/s 了


  • 两张R9700 32GB和一张4090 48G魔改卡,哪个更适合本地普通消费者。
    I iamvirus
    AI硬件 r9700 rtx4090 本地模型

    你真的是运行大模型你会发现64>48G 上下文多很多,并发就高!生产力就不可同日而语了


  • 新手求助|X99-8D3双路+双7900XTX Z30机箱放不下双卡,外置显卡方案求推荐
    I iamvirus
    AI硬件 x99 7900xtx 多卡部署

    8D3天然不适合双卡方案,弃了吧!就单路才行

  • 登录

  • 登录或注册以进行搜索。
  • 第一个帖子
    最后一个帖子
0
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组