跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场 App
jenaflexJ

jenaflex

@jenaflex
易有太极
取消关注 关注
关于
帖子
89
主题
6
分享
0
群组
1
粉丝
2
关注
0

帖子

最新 最佳 有争议的

  • 本地AI硬件焦虑个锤子!看看好消息吧
    jenaflexJ jenaflex
    LLM讨论区 本地模型

    其实现在AI还是有短期泡沫破裂的风险,但问题不在于网上常说的AI能不能变现、能不能提高生产力。长期来看,AI带来生产力革命基本是确定的)。

    而是眼下整个产业链的建设有些脱节:大量N卡已经生产出来在仓库,却还在等数据中心建好。老黄还是太贪心了。
    像CoreWeave这种靠大量借钱造数据中心的公司,长债收益率一度达到16%。一旦投资者信心变弱,后续融资就可能出问题,甚至资金链断裂。“高利贷”已经借了,数据中心却还没建完,真在这时候爆雷,债权人手里可能只剩一堆难以变现的废铁。
    那时候真的就有大船卡了,但上下游产业链也会完蛋,经济也继续下行,大家一起勒紧裤腰带。
    出处:Moore's Law Is Dead
    Youtube Video


  • (小道消息) RTX5080 16G 停產的節奏? 24G 準備接棒?
    jenaflexJ jenaflex
    随便聊聊 rtx5080 rtx5090 nvidia

    @kos-or Moore's Law Is Dead 已经实锤了,北美5080 16GB最后一批shipment在十月底。然后5080 24GB的SKU已经在大型零售商的系统里了(目前猜测是明年Q1出货)


  • 双11本地AI硬件采购策略:X99板U套装+DDR3/DDR4内存,各种老旧显卡+洋垃圾GPU,入手爽完LLM,但ComfyUI建议慎重投资!
    jenaflexJ jenaflex
    AI硬件 x99 comfyui 本地模型

    个人觉得长期来说DDR4的可用性远大于DDR3。
    毕竟一直到AMD 5xxx、Intel 14xxxx系列(这些CPU也才出来没几年),都是可以用DDR4的,而且日常使用、玩点游戏都有点性能过剩,再战5-10年还真没啥问题。
    另外,大量服务器都还在用DDR4 ECC RDIMM,3-5年前的全新服务器平台也都还在用DDR4。等以后 第三代志强,第三代Epyc变成和E3、E5神教那样的白菜价了,这些DDR4服务器内存就老有实用价值了。
    但DDR3的服务器早就淘汰干净了。消费市场,DDR3对应的CPU,可是10年以上的东西了,再过5年可是没啥人用了。

    我几个月之前就出清了自己的 HP DL380p Gen8 + 128GB内存,因为主板不稳定了,内存有时候也偶尔报错,换个主板都比这整机贵。


  • micro center降价Pro 5000价格,给5500价格留出来空间
    jenaflexJ jenaflex
    AI硬件 rtxpro5000 nvidia

    老黄真是奸商,刀法精湛


  • 请教一个公司用的配置,希望有高低两种建议
    jenaflexJ jenaflex
    AI硬件 服务器 本地模型

    可靠性要到什么程度?是不是每天办公刚需。因为如果是严重依赖的话,那其实不应该只组一台把所有显卡都插在上面,而应该组两台,最好负载均衡和FailOver。另外使用Proxmox,或者Ubuntu系统自带的快照。两台升级时间也要错开。


  • 能不能让Strata Qwen Flash Next 指挥 Qwen 27B?
    jenaflexJ jenaflex
    LLM讨论区 strata qwen 本地模型

    @fcme 我现在就是PVE,唯一的代价是需要预留8-16GB给Proxmox系统,折腾新系统直接从基础款的template克隆,PCiE直通的损失在5%以内。折腾时,随时快照一下,搞坏了可以回滚。


  • 能不能让Strata Qwen Flash Next 指挥 Qwen 27B?
    jenaflexJ jenaflex
    LLM讨论区 strata qwen 本地模型

    @terry 我的是 7900xt 20GB,当时首发时候就买了,当时没遇到哥你的视频啊,特别后悔没一步到位xtx


  • 7900 XTX 的可能性探索|单卡篇(五):与时俱进!hipfire DFlash 实测 Qwen3.8-27B MQ4-XTS:8K Decode 169.4 tok/s,Prefill 2682 tok/s
    jenaflexJ jenaflex
    AI Agent 7900xtx dflash qwen-27b

    @Ben-Lee 说:

    hipfire

    西部牛仔神枪手的标志动作🤣


  • 能不能让Strata Qwen Flash Next 指挥 Qwen 27B?
    jenaflexJ jenaflex
    LLM讨论区 strata qwen 本地模型

    @applejuice
    就是背景知识和总体思路由 Flash Next提供,甚至拆分好可消化的步骤,驱动Qwen 27B(60k上下文)去具体写代码


  • 能不能让Strata Qwen Flash Next 指挥 Qwen 27B?
    jenaflexJ jenaflex
    LLM讨论区 strata qwen 本地模型

    如何最大化手头现有硬件?能不能让Strata Qwen Flash Next 指挥 Qwen 27B?

    DELL T7920工作站
    在北美不方便淘海鲜市场的情况下,DELL T7920工作站还是非常香的。
    我$300在本地拿下了一台 单CPU + 32GB DDR4 2666 + NV P2000亮机卡的配置。由于它自带了1100W电源(在220V电压下输出是1400W)。要知道在北美,一个1000W ATX电源就要$100多。32GB DDR4内存值$120,剩余相当于白送。我本地捡漏又花了$160,增加了64GB内存。

    我现在有台DELL T7920工作站,理论上能插双显卡。
    现在是单CPU,单R9700,96GB内存6通道插满(运行Proxmox,需要预留16GB给几个轻量VM和系统)。
    一块早年买的U.2 960GB Optane 905p PCIE3.0x4(延迟低,随机读写快,但持续传输不如 PCIE 4.0以上的NVME),安放Proxmox的虚拟机。

    以上配置跑Strata Qwen Flash Next 很香了,但看论坛里普遍反馈Flash Next的知识面虽然全,但代码的逻辑四维不如27B。

    ITX PC
    我还有一台ITX PC,平时的主力机(偶尔打打游戏)
    AMD 5900x + 32GB内存 + 7900XT 20GB(塞不进DELL工作站)。这个跑Qwen 27B用llama.cpp的框架 上下文保险只能开60k。

    问题

    1. 能不能让Flash Next做分析,指挥我的7900XT(就是上下文不太够)干活?补足Flash Next逻辑能力不足。不花一分钱。

    2. 有点心痒想给T7920加一张卡,但是军备竞赛也没有意义,够用就好。
      看图:
      a) 5070Ti 16GB没有双槽卡,约$1200,如果装插槽4,确实可以支持2.5slot 5070Ti (但是选择极其有限),并且会给插槽2的R9700喂热风。优点是可以玩一下N卡,万一以后有些50系新特性被优化了。
      b) 5060Ti 16GB有双槽卡,安装位置和R9700对调,这样不给R9700喂热风。但工作在PCIE3.0 x8 可能影响strata性能。相同优点
      c) 第二张R9700,现在很贵了$1600。如果我能用好现在的7900XT的话,好像也没啥必要性。
      d) 基本不可行的是:虽然安装CPU2能让顶部的PCIE插槽可用,但CPU2会占掉150W功耗,双CPU+双显卡,电源有点捉襟见肘了。

    DELL_T7920_PCIE.jpg


  • 雙R9700玩qfn的朋友又有得玩了
    jenaflexJ jenaflex
    LLM讨论区 r9700 qwen-flash 多卡部署

    @fcme 说:

    @张光璞
    是啊,人心不足,现在有了strata以后可以把flash next跑起来以后还是不满足。想跑更快,哈哈

    Strata, 比单卡的话,N卡优势还大吗?5070Ti 16GB也已经$1200了,R9700大约$1600
    已经有一张R9700,跑Qwen 3.8 27b,有点想添一张跑Flash Next


  • 我也来秀一下以前给实验室搭的机房
    jenaflexJ jenaflex
    装备秀 rtx3090 服务器 多卡部署

    @kos-or
    我有自己的穷人版HomeLab
    实验室的比较豪


  • 我也来秀一下以前给实验室搭的机房
    jenaflexJ jenaflex
    装备秀 rtx3090 服务器 多卡部署

    作为大师兄和HomeLab爱好者,读博期间给实验室的学弟学妹们搭好了一个机房。希望他们现在玩agentic项目可以玩得爽,多多产出。
    Lab_Rack_p01sm.png

    最开始是2020年疫情一开始,为了能够在家跑物理仿真,搞了个桌面级的线程撕裂者3970x(32C/64T),256GB内存+双3090。但是这货毕竟不是服务器,能用,但BIOS有些奇怪bug。
    Lab_TRWS1_p01.jpg

    后来逐步能回到办公楼了,适逢系里办公楼翻新,就和导师商量着,配了一间小房间做机房。UPS、PDU、三相208V配电,光纤全是我设计的(当然交给学校委托的承包商施工)。

    Lab_WallPower_p01.jpg

    陆续添置了:

    • 一台2U存储服务器
    • 超微EPYC 4U 8卡机, 高频率的EPYC 24C/48T x 2,1TB DDR4,搭配涡轮3090
    • 整个10人的大办公室里,全部万兆光纤

    Lab_SuperS1_p01.jpg

    另外一台开发机,联想的P620
    Lab_TRWS2_p01.jpg


  • X99 不能P2P让我很难受 。 买Pcie switch(260926死缓改判无罪,交换机完美实现P2P 9月27:TP2 Qwen3.8 Q8 60t/s)
    jenaflexJ jenaflex
    AI硬件 x99 ai-pro-r9700 多卡部署

    我有DELL T7920 (一代、二代Xeon Scalable),它理论上是支持Rebar的,(因为7920 Rack的BIOS里有rebar size选项),但工作站T7920的最新BIOS仍然只有Above4G Decoding,没有Rebar size设置。

    我和你一样,用Linux 命令行看到的bar size是256M

    网上有破解办法:
    https://github.com/xCuri0/ReBarUEFI/discussions/331
    我还没来得及试。


  • 小白请教大神们
    jenaflexJ jenaflex
    AI硬件 r9700 视频生成 多卡部署

    @Matthew-liew

    如果你一定要本地买新硬件,不能从大陆买的话。

    CPU 可以尽可能省点钱。
    尤其AMD CPU的socket,可以一直支持到2027 zen6发布。
    所以你现在买个入门的9600x,或者9700x,甚至买个二手7xxx也可以(CPU几乎不会坏),两三年以后是可以升级的。

    内存可以考虑 24G两条=48GB(问一下ChatGPT,关于24GB内存和主板的兼容性)。有预算就一步到位 32GB x 2。

    Intel下一代又要换socket了,也就意味着以后升级要换主板

    你说“如果是能以后升级成2张显卡最好”,
    主板可以考虑华硕pro art,带两条可以x8+x8的PCIE,双 5G网卡。如果你以后有团队了的话,还有一条x4 PCIE可以安装万兆网卡连接NAS
    https://www.asus.com/us/motherboards-components/motherboards/proart/proart-b850-creator-wifi-neo/techspec/

    X99海外的话,在阿里巴巴和Amazon上也有的(就是和大陆比有些溢价),另外售后自己要研究一下。

    海外还有一个选择就是翻新的二手工作站(有些可能在官方保修以内)。
    Lenovo P620 工作站,用的是DDR4 EEC服务器内存,这个可能每GB单价比DDR5便宜。P620对Resizable BAR的支持也完整。

    Dell T7920 T5820这类 第一代和第二代Xeon Scalable CPU的工作站,往往BIOS没有开放完整的Resizeble BAR选项(只有Above4G decoding),能用,但支持不完善。


  • 美帝良心的P910准系统是否适合来装双R9700
    jenaflexJ jenaflex
    AI硬件 r9700 多卡部署

    @lysen963
    需要核实一下的是,它的电源是多路12V才达到总功率1300W的,还是单路12V就达到1300W了?

    我以前在物色工作站的时候,查过资料(不过是P920工作站),有人遇到过单卡峰值功率过高,超过了多路12V里面的某一路,触发过流保护的。你可能得研究下,能否跨2路12V,负载平衡。

    我是买的二手 戴尔T7920(它的1400W电源,是单路12V达到总功率)


    我以前的笔记

    P920工作站 官方用户手册:
    电源在 1400W 满载工况下,支持 3 组 250W 供电输出。
    4 头供电线包含 4 个接口:

    • 1 个 6-pin + 1 个 8-pin (6+2),用于主板上方 PCIe x16 插槽
    • 2 个 8-pin (6+2),用于主板下方 PCIe x16 插槽

    功率限制:
    单根 8-pin 显卡供电线上限为 150W,加上 PCIe 插槽提供的 75W,总计最高仅能提供 225W。

    针对 ThinkStation P920 渲染断电关机问题,其电源采用 3 路独立的 12V 供电设计,单路功率不足,无法稳定支撑 300W 以上的高功耗显卡。
    https://forums.lenovo.com/t5/ThinkStation-Workstations/P920-Shutting-down-while-rendering/m-p/5061367


  • 这个新发布的RTX Pro 5000感觉是个坑啊
    jenaflexJ jenaflex
    AI硬件 rtxpro5000

    前几天MicroCenter还是$5000,今天一看突然涨价到$6000了

    Screenshot_20260604-234545.png

    Screenshot_20260610-003848.png


  • R9700 Proxmox VE 懶人部署兩週運行心得
    jenaflexJ jenaflex
    AI硬件 r9700

    好贴,和我想法一致。我也是R9700,也是正想把R9700直通给Proxmox的虚拟机使用,这样方便快照,和维持几个不同的测试环境。
    最近太忙,还没来得及搞。

    其实很想知道 baremetal(也就是不搞虚拟机的用法)和proxmox直通,有没有性能损失。
    以前我测过打游戏和blender渲染,大约5%左右的损失。


  • intel 新顯卡~~480GB
    jenaflexJ jenaflex
    随便聊聊 intel

    @pofu-lin
    内容不错,但下次不要拷贝粘贴AI生成的新闻。
    下不为例

    版主jenaflex

  • 登录

  • 登录或注册以进行搜索。
  • 第一个帖子
    最后一个帖子
0
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组