跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场
  1. 主页
  2. 版块
  3. AI硬件
  4. 5090 24G移动版跑AI怎么样?LLM/ComfyUI其实都不错,全能的显卡,只是功耗墙太低,小主机和魔改显卡/EGPU值得玩玩!

5090 24G移动版跑AI怎么样?LLM/ComfyUI其实都不错,全能的显卡,只是功耗墙太低,小主机和魔改显卡/EGPU值得玩玩!

已定时 已固定 已锁定 已移动 AI硬件
rtx5090comfyui本地模型
4 帖子 3 发布者 292 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • terryT
    terryT
    terry
    超级版主
    编写于 最后由 terry 编辑
    #1

    本期回答一下评论区跟这个网友的提问。就是之前我不是做了一个视频,谈这些7900XTX、3090、4090、4080S这些本地消费级显卡,它们跑AI大模型或者跑ComfyUI时候的表现。那么就有朋友留言问,他自己是这个什么5090 24G,但是是笔记本的这个显卡,它能不能跑AI,跑AI的效率怎么样。就是他是打算去购买这个装了这种显卡的这个小主机,好像是。然后也有朋友手中是有这个5090的这个笔记本。

    呃,首先呢,我想说,就说这个5090 24G,它虽然是移动版,虽然这个功耗被限制在了160瓦,但是这张显卡本身的底子是非常的不错,架构又非常的新,它跑AI的能力毫无疑问是非常顶级的。但是呢,由于这个笔记本的散热设计问题,如果说你不是买的外星人或者什么华硕的这个ROG这些高端的笔记本品牌,那么你普通的消费级笔记本,即便是搭配了这张非常牛逼的显卡,那它可能长期工作时候的稳定性,包括说你的这个体感,可能并不会那么的好。

    5090 24G移动版跑AI如何.jpeg

    就5090 24G移动版这张显卡,它的硬件规格是相当于桌面版的5080,就基本上是一样的啊,基本上差不多。但是呢,由于这个功耗的限制,它的实际表现可能只是比桌面版的5070强一点,是远远不如这个5070 Ti以及5080这个桌面版的,尤其是你玩游戏的时候。但是我们也知道,跑AI跟玩游戏是有本质不同的。跑AI它最重要的是显存,然后是显存带宽,最后可能才是说是这个算力。当然了,算力也非常重要,只不过在木桶效应中,第一个被打爆的往往就是这个显存本身。

    我们以这个ComfyUI AI音视频画图为例,那么当下就是最顶级的需求就是跑MiniMax H3这个视频大模型,也包括LTX 2.3,包括Wan。那么在这样的应用中,你24G显存就决定了你可以跑这个什么720P的MiniMax H3,或者说你拉高一下片长,拉高一下长度,然后降低一下分辨率,那么24G显存都是非常不错的甜点。又有这个英伟达的这个生态加持,这个体验是不会差的。然后才是这个带宽,带宽的话,这个718G吧,还是720G左右的这个带宽,它是比这个4080S 32G略小一点,肯定是小于5080的,但是是比AI Pro R9700,AMD的这张卡,也是非常甜点的啊,很多人在用的、综合表现非常不错的AI神卡,还是要比它高一点呢。所以说它的带宽也没有什么硬伤。能够达到这个桌面版5070的这个算力的话,那它的水平已经是非常强的啊。如果说你再想办法把这个功耗,把功耗墙往上面提一提,那它的上限会高得多。

    ROG笔记本.jpg

    除了这个ComfyUI生态以及AI音视频画图,那么我们最常用的就是跑AI大模型。它24G的显存是非常甜点的,就是能够装下千问3.8 27B这个公认的本地的性价比之王。然后如果说你的这个笔记本内存足够大,比如说是64G,64G的这个内存加上24G的显存,你又能跑这个IQ3版本的,呃,千问3.8 Flash Next,使用Strata这个新的推理框架来运行,它的效率是非常高的。而且目前Strata这个推理框架针对50系列,好像是有人做了优化,它在这个NVFP4这个特殊格式的加持下,50系列的这个运行效率要大大提升。当然了,即便是不优化,呃,因为这个Strata它本身多会话是不行的,它主要是用来这个单会话、长上下文,跑这个agent,这个是它的主要发力的场景。就不优化的情况下,5090 24G也可以跑得非常的流畅,更何况它还有优化,是吧?优化之后不一定能够说给你带来多么明显的这个使用感受上的提升,但是有一点搞不好会降低功耗。

    就是笔记本的散热往往是做不好的。像我有这个两个笔记本,都是3060的这个独显,但是它们只有这个6G的显存。哎,我讲实话,你不要说用它们来跑这个什么音视频画图了,啊,视频就不要想了,就跑音频跟画图,它们都慢得跟狗屎一样,然后发热非常的夸张。你就是平时用它们来玩游戏,玩个英雄联盟,那你只要玩个一两个小时,你这笔记本讲实话,热得一塌糊涂,你手摸到那个键盘上都是烫的。这个Windows笔记本,就是PC了,它相比于Mac,它有一个比较严重的问题,就是它不仅仅是显卡发热,它这个CPU本身发热也比这个苹果的平台要高很多。就哪怕你这个独立显卡不运行,你只要执行稍微重一点的任务,你这个CPU风扇那噪音就吵得你难受。

    4060TI主机大.jpeg

    那像我这样,我本人对于这个噪音容忍度是非常高的,因为我能坐在,因为我能坐在这个4090 48G魔改卡旁边,这个涡轮卡,所以说我对噪音的容忍度是比较强的。但是大多数人用起来是非常的遭罪。这个噪音只是其中一个影响,关键就是它能不能长期稳定地工作,这个要打上一个非常大的问号。就是你这个温度太高之后,显卡会降频,降频了会限制算力。当然了,我们不否认5090 24G移动版这张显卡它本身的基础算力是非常不错的,但是如果说给你频繁降频,呃,限制了它,搞不好就会成为木桶效应中最短的那个短板。这个会影响整个平台的表现,甚至说由于这个温度太高,它这个CPU跟这个显卡同时在发热,这系统内存也会受到影响,然后整个系统都会卡卡的。

    但是呢,我知道有人提这张卡,他并不是说是想在笔记本上去使用这张显卡,是吧?因为并不是所有的人都买得起外星人,都买得起什么ROG的。那么有一些人在这个什么显卡涨价之前,他们囤了大量的移动版的这个5090 24G,囤了很多这个芯片,可能是从渠道商那里弄来的。那以中国目前的这种,呃,硬件生产水平,就很多魔改卡的这个厂商,他们就是给一线品牌、给二线品牌这些显卡厂商做代工的。他们的硬件工程师想要给这个5090 24G的移动版重新画张板子,重新贴片,贴上显存,让它跑起来,这个难度还是相当低的。

    华硕移动版5090 EGPU.jpeg

    就市面上有一段时间,一度是非常流行,就是卖这种非常小的这种移动版的5090 24G或者5080之类的这种移动版的显卡。虽然说它们的功耗设定得很低,就功耗墙很低,它们的性能被大大阉割了一道,但是我们可以参照RTX Pro 6000 Max-Q与标准版的RTX Pro 6000之间的差距。它的功耗被压低了一半,但是性能在大多数场景下仍然可以达到70%左右,甚至达到80%,那它的性价比就来了呀。况且我一向认为啊,当下的硬件,就是如果说你能买到低功耗版本的,你就买低功耗版本,啊,这个是没什么错的。像我这个4090D 48G跟4090 48G,我就直接毫无疑问,我就直接买这个4090D 48G,并不是为了便宜那几千块钱,而是你就算买的是标准版的4090 48G,你买到手之后你也得给它降频,那我为什么不直接买这个什么低功耗版本的呢?

    然后这些魔改的这种,呃,5090 24G移动版,有的人是用在,呃,小主机小盒子上。那小主机你不要看它体积很小,可能说比Mac mini大一点点有限,但是相比于笔记本,它的厚度是要提升不少的。然后由于去掉了一些,呃,不太常用到的一些东西,那么它整个散热条件一般来讲是比笔记本要更好的。而且就像刚才提到的,有很多人发的是这种迷你的这种小的卡,就独立的显卡,你可以把它买回来插到自己的机箱上。就你自己的机箱,它的规格再小,你想比笔记本它的空间要大多少,它的散热压力就要小很多。

    你可以在软件上面通过VBIOS的调校,把它这个功耗墙往上面打一打,是吧?风扇一般出厂的时候,这些厂商给你配的都是比较强力的。在不怎么影响静音的情况下,不影响使用体验的情况下,它的效能释放一定是比笔记本要强非常多的。再加上这张卡本身基础性能就非常的不错,啊,我认为功耗的限制不太会让它的性能等比例下降。就是跑AI,无论是大模型还是这个音视频画图,它首先最重要的就是这个显存,然后是带宽,然后是算力。它在这三个方面都没有硬性的缺陷,它的使用体验一定是非常不错的。而且它还有这个NVFP4这个新的架构、Blackwell架构的这个红利,它未来的生态还很长。

    5090M小主机.webp

    如果说你真的有靠谱的硬件渠道,你买个两张回来,插到你自己的这个什么新一点的这个主板上面,是吧,给它配一个还不错的U,就随便配一个8核心的,啊,8核心16线程的CPU,那你整个机器的生产力,玩游戏也好,还是这个跑这个什么AI音视频画图也好,还是跑这个大模型也好,它的体验都是相当不错的。甚至它单张卡体验就很不错。但是我相信买这种小玩具的,它本身就是为了在小机箱内部去实现AI算力,同时又追求一定的静音效果。那么对于这些高端用户来说,你买两张卡,做一个迷你小主机,它的体验是非常好的,就非常值得你去尝试。

    但是还是那句话,前提是你能买到靠谱的这种硬件厂商。一般来说这种小卡,它的溢价是比较高的,但是现在讲实话,就是市面上你50系列的卡,它本身溢价就非常的夸张。当然了,这个只是我的个人之见,因为很早之前我看到这种小的显卡的时候,我当时就是想买一个回来,或者买两个回来,自己用这个小机箱去组一个还不错的PC。但是因为当时太穷了,啊,其实现在也还比较穷,我就先买了这个什么4090 48G这个魔改卡。如果说当时钱比较多的话,就像以前,呃,我还在做生意的时候,还没破产的时候,我可能这种小主机也会上。

    就这种东西就是买来当个玩具,你就不要指望它说,呃,怎么怎么高强度生产。当然它本身也具备高强度生产的这个能力了啊。就是作为一种个人爱好,它是一个非常不错的选择,但前提是你有足够多的钱,有足够多的闲钱。如果说你一定要去搞定生产,高强度生产,我还是建议去买这种桌面版的显卡。

    油管:https://www.youtube.com/@抡锤者

    1 条回复 最后回复
    1
    • terryT
      terryT
      terry
      超级版主
      编写于 最后由 编辑
      #2

      Youtube Video

      油管:https://www.youtube.com/@抡锤者

      1 条回复 最后回复
      0
      • 田中火田
        田中火田
        田中火
        编写于 最后由 编辑
        #3

        想买雷蛇18 5090版本,听说雷蛇品控很一般,不知道可以入手不

        1 条回复 最后回复
        0
        • hua mengH
          hua mengH
          hua meng
          编写于 最后由 编辑
          #4

          流口水啊,男人梦寐以求的配置

          1 条回复 最后回复
          0

          你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

          厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

          有了你的建议,这篇帖子会更精彩哦 💗

          注册 登录
          回复
          • 在新帖中回复
          登录后回复
          • 从旧到新
          • 从新到旧
          • 最多赞同


          • 登录

          • 登录或注册以进行搜索。
          • 第一个帖子
            最后一个帖子
          0
          • 版块
          • 最新
          • 标签
          • 热门
          • 用户
          • 群组