跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场 App
  1. 主页
  2. 版块
  3. AI硬件
  4. RTX 4090/4070Ti Super算力解锁翻倍,Ada架构迎来红利!5090恐怕难以复制,老黄限制太死,功耗和显存也是问题!

RTX 4090/4070Ti Super算力解锁翻倍,Ada架构迎来红利!5090恐怕难以复制,老黄限制太死,功耗和显存也是问题!

已定时 已固定 已锁定 已移动 AI硬件
rtx4090rtx4070
8 帖子 7 发布者 486 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • terryT
    terryT
    terry
    易有太极
    编写于 最后由 terry 编辑
    #1

    呃,这两天炒作比较凶的话题,就是30系列安培架构显卡的算力解锁,就是它的Tensor Core算力单元隐藏的算力被英伟达驱动,或者说英伟达固件给限制了。所以老黄这个人奸诈得很,就是他很多芯片生产出来,本来可以有更高的算力,但是为了维持市场销售策略,是吧,压榨更多的钱,他们出厂的时候人为地把这些芯片的算力给限制了。那么现在被解锁了,3090提升最大,然后3080、3070、3060全系,基本上3060以上都享受到了这个解锁的红利,论坛有很多人都已经发帖证实了。那么今天这个解锁扩展到了40系列,就是4090跟4070 Ti Super,这两张卡已经被证实解锁成功了。有朋友在GitHub上分享了这个项目,然后我们论坛的StxpNet这兄弟第一时间把这个消息分享出来了。然后4090就很简单啊,把这些补丁打上,目前可能还存在一些不稳定的因素,但是基本上可以成功解锁了啊,算力提升了将近一倍,这也是非常夸张的啊。4070 Ti Super也有比较大的提升,这个提升幅度应该说是超过了30系列。

    4090解锁算力翻倍.jpeg

    而且我们要知道,40系列它有什么不同的意义呢?就是40系列已经有完整的INT8、FP8这些算力,虽然它没有NVFP4,但是你知道我们在本地这种小模型,或者说100B以内、120B以内的模型啊,包括27B稠密,还是千问3.8 Flash Next,它们NVFP4量化的部分转为INT4量化是不影响精度的,基本上是不影响的。它可能只是失去了NVFP4这个炙手可热的加速红利吧,但是其他方面它跟50系列没有什么本质区别。我在之前的视频中,大家可以翻看我早期的视频啊,我非常明确地给出结论,我说50系列相比于40系列,它的算力基本上没有提升。它只是通过NVFP4这个特殊的硬件指令给了一波生态红利,还有就是通过功耗硬堆上去的。你看5090比4090,你们去对比一下它们的数据、算力,是吧?它最大的提升就是来自于功耗。为什么5090那么容易烧?是吧,它就是靠堆功耗把算力给堆上来的。

    5090.jpg

    但有人说这个更新有可能很快就会扩展到50系列,啊,我不这么认为,最起码现在还没有看出这个趋势。为什么呢?因为50系列出来的时候,老黄在AI市场的战争已经结束了啊,他已经从算力革命的研发者、推动者,转为一个彻头彻尾的奸商。他的每一刀割得都非常精确。40系列因为很多历史原因,比如说4090能改48G,4080S能改32G,这就给个人消费卡留下了充足的改装空间,这是老黄非常心痛的事情。因为你知道,你说5090啊,如果说能随便解锁一下,当然了,5090就算能解锁,我也不建议你们解了,现在就烧成那个狗样,如果解锁了,那更是看不下去。是吧?你说50系列,5060 Ti这些,它本来基础算力都还不错,带宽也还不错,你再把算力给它解锁了,那高端卡还卖个屁呀?啊,我觉得应该不大可能。50系列到目前为止,你看5080、5070 Ti Super,它们的基础素质、带宽、算力都非常不错,生态也非常好。但是你看它们能解锁吗?它们显存也解锁不了。是吧?所以说这一次算力解锁,我认为对于50系意义可能也不是那么大,因为它现在算力、基础生态都非常不错了,它缺的就是显存,其他的包括带宽、算力,其实50系不怎么缺。

    4090 48G.jpg

    然后这一轮我认为最大的获益者,30系列可能就是3090、170HX这些安培架构的卡。如果是40系列的话,我认为就是4090 48G了,因为4090 48G现在市场上的保有量非常高。我们论坛不能说人手一张吧,反正最起码有几十个人有这个卡,啊,甚至那个胡适之一次就买了8个,是吧?4090相比于5090,算力劣势还是比较大的,然后带宽方面劣势也比较大。所以说这次解锁之后,它只能说缩小了跟5090之间的差距,生态上的NVFP4,包括带宽上的劣势没有办法弥补。就是在跑AI大模型、跑ComfyUI的时候,它跟5090之间的速度差距非常明显,这个基本上很难明显改善。但是相比于现在肯定是咸鱼翻身了。是吧?那买了4090的,比如说4090D 48G跟4090 48G,现在毫无疑问就是4090D 48G更有性价比,因为它便宜几千块钱。以前可能算力差个5%、10%,实际上跑AI的时候差5%左右吧,但是现在大家算力都翻倍了,瓶颈应该在带宽。而且就算现在给它解锁、算力翻倍,也不敢让它以最强算力、最高功率运行,肯定还是要限制它的功耗墙。那在这种情况下,肯定4090D 48G更有性价比嘛。

    还有就是论坛有朋友问,目前已经解锁的都是FP16、BF16或者FP8,说这个对于跑大模型是不是不重要。啊,这恰恰相反。目前本地跑大模型,除了DeepSeek这个我们一般人也跑不动了,它是NVFP4加上FP8的混合精度。其他的基本上4比特量化之后,都要靠BF16跟FP8来推理。大模型基本都是BF16,少数有用FP8推理的,但是少。包括ComfyUI也是,质量可能不怎么高。然后跑ComfyUI就是BF16跟FP8,这两个最重要。所以说解锁之后对于本地部署的意义是毋庸置疑的啊。

    ComfyUI/LLM

    那你说今天我为什么不去测试啊?讲实话,第一,这玩意还得让子弹先飞一会,是吧?第二,我一向的原则就是论坛如果有人测了,把这东西跑起来了,我就把帖子地址复制一下,粘贴给我的AI agent,然后让它去抄作业就行了。现在我基本上很少第一时间去做这种前沿测试了,因为论坛有的是相当牛逼的人,他们设备也多,折腾的积极性也高,然后整理帖子的能力也在我之上。是吧?那我就抄作业就行了,不着急。就包括有朋友留言,希望早点看到我用128G内存加7900 XTX或者其他显卡跑千问Flash Next的测试。啊,我已经跑过了,但是我觉得没什么亮点,因为论坛已经有大量帖子出来了。然后我现在跑的还是用双通道X99 CD3跑的。我的X99 TF板子已经到了,但是我没有时间去装它,因为最近家里事情比较多,我比较累,就每天都在玩游戏啊,家里的事情处理完之后,我基本上就是在玩游戏。

    好吧,这个视频先跟大家分享一下这个消息。40系列的朋友们应该可以提前庆祝一下了。啊,但是还是那句话,大家要把期望值压低,因为40系列你再怎么折腾,也不可能超越50系列,咸鱼翻不了身。是吧?像我刚才说的,4090跟5090之间的差距,算力是一方面,另外一方面主要是带宽。还有你看4060 Ti跟5060 Ti,带宽差了50%啊。你说算力再翻倍有个屌用啊,是吧?期望值不能拉得太高,但是比现在肯定会有明显改善。好吧,我们下期视频再见吧。

    油管:https://www.youtube.com/@抡锤者

    1 条回复 最后回复
    1
    • terryT
      terryT
      terry
      易有太极
      编写于 最后由 编辑
      #2

      Youtube Video

      油管:https://www.youtube.com/@抡锤者

      1 条回复 最后回复
      0
      • johnnybegoodJ
        johnnybegoodJ
        johnnybegood
        王侯将相
        编写于 最后由 编辑
        #3

        赞同, 有什么新技术、新动向一定要了解掌握, 但不一定非要第一时间去尝试, 让各路神仙先各种优化, 把风险和问题都排除后, 再去使用。 好用的自然就留下了, 不好用的可能非常短时间就被淘汰, 这个省去了自己试错的成本。

        1 条回复 最后回复
        0
        • NY ZhaoN
          NY ZhaoN
          NY Zhao
          编写于 最后由 编辑
          #4

          @johnnybegood 哈哈,同意,等着各路大神们优化下,我也等着,AI发展太快了,我一个月前完成了本地部署,现在已经完全是生产力工具了

          1 条回复 最后回复
          0
          • XIUNAN ZHIX
            XIUNAN ZHIX
            XIUNAN ZHI
            编写于 最后由 编辑
            #5

            好像是特定场景算力提升,不知道跑LLM整体提升多少呢,等论坛兄弟测试结论。

            1 条回复 最后回复
            0
            • williamlouisW
              williamlouisW
              williamlouis
              易有太极
              编写于 最后由 编辑
              #6

              4070Ti Super 京东自营 竟然有货。感觉即将涨价。

              个人主页:xlkj.org Telegram https://t.me/xlkjorg

              Hackner WeinlandH 1 条回复 最后回复
              0
              • williamlouisW williamlouis

                4070Ti Super 京东自营 竟然有货。感觉即将涨价。

                Hackner WeinlandH
                Hackner WeinlandH
                Hackner Weinland
                编写于 最后由 编辑
                #7

                @williamlouis 4070 ti super 16g 9345r,值得么?

                1 条回复 最后回复
                0
                • ikumI
                  ikumI
                  ikum
                  编写于 最后由 编辑
                  #8

                  @williamlouis 说:

                  4070Ti Super 京东自营 竟然有货。感觉即将涨价。

                  太贵了

                  1 条回复 最后回复
                  0

                  你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                  厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                  有了你的建议,这篇帖子会更精彩哦 💗

                  注册 登录
                  回复
                  • 在新帖中回复
                  登录后回复
                  • 从旧到新
                  • 从新到旧
                  • 最多赞同


                  • 登录

                  • 登录或注册以进行搜索。
                  • 第一个帖子
                    最后一个帖子
                  0
                  • 版块
                  • 最新
                  • 标签
                  • 热门
                  • 用户
                  • 群组