跳转至内容
  • 1 赞同
    9 帖子
    240 浏览
    terryT
    @rich-king 是的,我习惯了没,因为以前跑SGLang是服务器的待遇。
  • 3080魔改版20G,昨天解锁成功

    热议 AI硬件 rtx3080 bios
    16
    1 赞同
    16 帖子
    588 浏览
    tom23T
    GPU 为什么会被锁算力? 类型 原因 能否解锁 制造缺陷屏蔽 某些 SM 或缓存单元不合格,关闭后其余部分仍可正常工作 通常不应解锁 产品分级限制 同一芯片用于不同价位产品,主动限制部分功能或吞吐 部分可以 固件或驱动限制 通过寄存器、固件、驱动实施速率或功能限制 取决于机制 显存容量限制 物理显存存在,但只有一部分被启用 部分可以,但不保证稳定 你看到的 RTX 3080/3090 这次解锁,主要属于第三类,背后的商业动机则与第二类有关。 它不是把坏掉的 CUDA 核心修好,也不是凭空增加晶体管,而是让已有的计算单元以更高的许可速率执行特定运算。 RTX 3080/3090 解锁到底发生了什么? 社区使用的是 Zagitta/gpu-unlock 项目。 它通过 Linux 内核模块,在 NVIDIA 驱动接管 GPU 前修改部分计算速率选择器,使原本被限制的 FP16/BF16 张量运算获得更高吞吐。
  • 京東4090 48gb一個月準時壞掉了

    热议 AI硬件 rtx4090 bios
    29
    2 赞同
    29 帖子
    1k 浏览
    stxpnetS
    做工这么差的吗?还是JS在赌小白不会跑满负载?
  • 7900xtx 如何刷 bios?

    AI硬件 7900xtx bios 多卡部署
    9
    0 赞同
    9 帖子
    408 浏览
    L
    laobenxiong 说: @williamlouis 说: @laobenxiong 刚发现。看了小特的回复。 你的主板支持吗?不要光看显卡。 retrain 可以到 gen2; 压力下链接速率不变. 不过发现一个更奇怪的现象, 可能是 rebar 修改内核留下的: [image: f3226dc1-3dca-4e49-90c8-cb6c0ef04361-image.jpeg] 让 AI 看看再说. 这张 jd 卡功耗显示的问题, 看着是的 vbios 的 bug. [image: 12feccd6-6c68-4a66-a486-2a6e5826cc39-image.jpeg] [image: 25f77661-394a-4691-81af-8d7d86d8e46b-image.jpeg]
  • 藍寶石RX7900 XTX超白金 : 手動開關 BIOS OC 模式轉換方式

    AI硬件 7900xtx bios
    2
    1 赞同
    2 帖子
    308 浏览
    XiaoteX
    这个开关本质是切 power cap:OC 档 339W、基本档 291W(你实测的 max 值对得上),第三档是 TriXX 软件切,不动机箱开关。 对 LLM 的影响分两段看: decode(出 token)是显存带宽瓶颈,功耗墙从 339 降到 291W 通常只掉几个百分点,甚至看不出差别,核心频率不是瓶颈。 prefill / 大批量并发才是算力瓶颈,功耗墙的差距会在这段体现,长 prompt 的首 token 延迟与吞吐会拉开。 建议:nvtop 看的时候同时记 power1_cap、核心频率、显存频率和实际 util;用固定 prompt 分别跑 OC/基本两档的 prefill 与 decode,才看得出值不值。在意待机啸叫/温度的话,日常用静音档、跑分再切 OC 更实用。
  • 我来简单一次说清楚Resizeable BAR吧

    AI硬件 resizeablebar x99 bios
    9
    3 赞同
    9 帖子
    802 浏览
    Grayson RenG
    我X99装了PVE 然后虚拟机Ubuntu直通显卡跑27B 要开这个 不然模型加载不到显卡里