跳转至内容
  • 首页
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(不使用皮肤)
  • 不使用皮肤
折叠
品牌标识

抡锤者

  1. 主页
  2. 版块
  3. AI硬件
  4. 版主7900XTX 24G 蓝宝石 白金版 折腾日记。折腾过程从入手到成功全过程。部分版主个人开发架构分享。

版主7900XTX 24G 蓝宝石 白金版 折腾日记。折腾过程从入手到成功全过程。部分版主个人开发架构分享。

已定时 已固定 已锁定 已移动 AI硬件
7900xtx
23 帖子 8 发布者 1.4k 浏览 1 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • S 离线
    S 离线
    sospda
    德高望重
    发表于 最后由 编辑
    #13

    用rocm比vulkan聪明一点,7个答案都给出了。计算时间差不多。
    rocm也是q5,但是k q5,v q4

    让我逐步推理:
    五个位置 1-5(从左到右),条件:

    1. A 不在两端 → A ∈ {2,3,4}
    2. B 在 C 左边且不相邻 → B < C,C - B ≥ 2
    3. D 和 E 相邻 → |D - E| = 1
    4. E 不在最右 → E ≠ 5
    5. C 不在最左 → C ≠ 1
      关键推导:
      C 只能在 3 或 5:
      • C=2:B < 2 且 2-B ≥ 2 → B ≤ 0,不可能
      • C=4:B ≤ 2,但无论怎么排,D和E都无法相邻
      • C=5:B ≤ 3,可行
      • C=3:B=1,也可行
      经穷举,共有 7 种满足条件的排列:
      编号 排列
      1 D, E, B, A, C
      2 E, D, B, A, C
      3 B, D, E, A, C
      4 B, E, D, A, C
      5 B, A, D, E, C
      6 B, A, E, D, C
      7 B, A, C, E, D
      结论:题目条件不足以确定唯一顺序。 7 种排列都满足全部 5 个条件。
      如果你确认题目没有遗漏条件,可以告诉我,我帮你再检查一下是否某个条件我理解有误。
    1 条回复 最后回复
    1
    • S 离线
      S 离线
      sospda
      德高望重
      发表于 最后由 编辑
      #14

      同一个模型,rocm的v cache还是q4,结果智力反而更高一点。
      不过日常用rocm的tokens速度是比vulkan慢点。

      1 条回复 最后回复
      0
      • williamlouisW williamlouis

        485d2525-0d9e-422d-9d59-be42b92ce7c8-image.jpeg
        测试:Qwen3.6-27B-Uncensored-HauhauCS-Balanced-MTP-Q4_K_P.gguf 参照论坛水友配置安装成功。
        受限于平台其他硬件性能我只跑了。32-41 token/s 的速度。上下文和预期一样 可以128K。惊喜的是智力10题这个模型都回答正确了。这说明优化策略不是消耗原模型的智力基础上实现的。确实做到提速增智了。
        参数如下
        kp 运行状态

        | 项目         | 详情                                                |
        |--------------|-----------------------------------------------------|
        | 模型         | Qwen3.6-27B-Uncensored-HauhauCS-Balanced-MTP-Q4_K_P |
        | 端口         | 8080                                                |
        | 量化         | Q4_K_P(17.5GB)                                    |
        | 上下文       | 128K (131,072 tokens)                               |
        | 生成速度     | ~33 tok/s                                           |
        | Prompt 处理  | ~48 tok/s                                           |
        | MTP 推测解码 | 18 drafts → 13 accepted(72% 采纳率)               |
        | GPU DPM      | auto(设为 high 可到 ~35 tok/s)                    |
        | 参数         | 27.3B                                               |
        
        与 km 的关键差异:
        - 上下文 128K vs 32K
        - MTP 推测解码加速(--spec-type draft-mtp)
        - --no-mmap(MTP 必需)
        - V-cache q4_0(省显存给 128K 上下文)
        - 端口 8080(km 之前用 8081)
        
        AGIA 离线
        AGIA 离线
        AGI
        技术大牛 劳动模范
        发表于 最后由 AGI 编辑
        #15

        @williamlouis
        和你同一个模型,就是量化不一样,用的q5量化,上下文设置的96000, kv都是q8, 结果是:
        Screenshot From 2026-06-11 18-47-22.png

        还有其他结果, grok expert:
        Screenshot From 2026-06-11 18-46-29.png

        gpt 5.5 thinking web:
        Screenshot From 2026-06-11 18-48-27.png

        Gemini 3.1 Pro:
        Screenshot From 2026-06-11 18-53-11.png

        codex 5.5 xhigh:
        Screenshot From 2026-06-11 18-58-53.png

        Claude web版本一直不给结果...

        显存占用情况:
        Screenshot From 2026-06-11 19-01-07.png

        https://agi.cd/@x

        1 条回复 最后回复
        0
        • williamlouisW 离线
          williamlouisW 离线
          williamlouis
          超级版主
          发表于 最后由 williamlouis 编辑
          #16

          折腾了下 KIMI 2.6 果然拉了。退不了费。过期不续。尝试了科学指导方案。没有效果。KIMI 就是拉缸状态了。

          6bc48c9a-5568-460f-a8af-42c02ed31916-image.jpeg
          这点钱充的毫无价值。

          个人主页:xlkj.org Telegram https://t.me/xlkjorg

          A 1 条回复 最后回复
          0
          • williamlouisW williamlouis

            折腾了下 KIMI 2.6 果然拉了。退不了费。过期不续。尝试了科学指导方案。没有效果。KIMI 就是拉缸状态了。

            6bc48c9a-5568-460f-a8af-42c02ed31916-image.jpeg
            这点钱充的毫无价值。

            A 离线
            A 离线
            abaalei
            超凡大师
            发表于 最后由 编辑
            #17

            @williamlouis k2.6我遇到最大的问题他当时刚可以在nvidia nim白嫖后,我接入了agent然后,会疯狂刷感叹号,telegram连续刷4 5 条感叹号给我。😂 😂

            1 条回复 最后回复
            0
            • 系统 于 取消固定此主题
            • williamlouisW 离线
              williamlouisW 离线
              williamlouis
              超级版主
              发表于 最后由 编辑
              #18

              上几个利民的风扇。原机功耗才350瓦 就CPU 有个扇。7900XTX显存温度飙到97度。。。。
              大家折腾也开着 显卡监控窗。注意下温度。不要硬上。
              方案:radeontop(可视化界面)
              类似 htop 的交互式 AMD GPU 监控工具:
              bash

              安装

              sudo apt install radeontop

              运行(自动刷新,无需额外参数)

              sudo radeontop
              自动实时刷新,彩色界面显示 GPU 利用率、显存带宽、温度等

              到货换上再继续。

              个人主页:xlkj.org Telegram https://t.me/xlkjorg

              1 条回复 最后回复
              0
              • williamlouisW 离线
                williamlouisW 离线
                williamlouis
                超级版主
                发表于 最后由 编辑
                #19

                7b1521b5-f70a-4e3c-8821-707ab414e793-image.jpeg
                测试了下 谷歌的 gemma 4-12B .上下文可以跑256K 。我设置的128K。速度55-62t/s 。随上下文增加 速度会明显下降。智力测试 7/10.主要问题:编码能力不过关。解释不了就会跳过给结果。
                经典测试下八卦网页制作。在我给了参考图片后还是非常的LOW

                a584e4af-3e6c-4235-aa2c-b55c041e4dae-image.jpeg
                1d2a358f-b5cf-4c3d-972c-550854097f58-image.jpeg
                总结:可以识别图片。但是效果可以说是完全不着边。没什么深度探讨价值的模型。

                个人主页:xlkj.org Telegram https://t.me/xlkjorg

                1 条回复 最后回复
                1
                • williamlouisW 离线
                  williamlouisW 离线
                  williamlouis
                  超级版主
                  编写于 最后由 williamlouis 编辑
                  #20

                  折腾了下 windows 11 下 comfly ui。恶补下视频生成技术。直接讲重点。对于系统桌面的需求。单机不能看结果很难受。因为是非工作内容。这台7900XTX 并没接入我的工作网络。状态单身。
                  首先是 Linux mint 22.3 下测试 集显负责桌面显示,视频播放等工作。独立显卡负责算力输出。非常容易。没什么可以讲的。直接让在线AI 全程就可以搞定。
                  之后 切换到 windows 11 场景。十分折腾 和我好久没用过也是直接原因。说结果吧。
                  1.显示器 直连 独立显卡 安装Windows 11
                  2.安装完成进入Windows 下 驱动你的集成显卡。(不放心,或技术一般建议重启一下看看设备管理器。集成驱动是否正常。)
                  3.关机进入bios 将集成显卡设置为主显卡。显示器接到主板的集成显卡接口,从集成显卡进入系统。
                  3步这是我测试后的方案。错误过程直接省略吧。
                  这个布局对 comfly ui 有非常显著的提升。在你需要桌面的情况下。
                  1e5e63aa-4e5b-4912-8373-e2b29049413f-image.jpeg
                  866ea9c5-7aee-4f29-aaaa-7d8be10b78a8-image.jpeg

                  个人主页:xlkj.org Telegram https://t.me/xlkjorg

                  1 条回复 最后回复
                  3
                  • williamlouisW 离线
                    williamlouisW 离线
                    williamlouis
                    超级版主
                    编写于 最后由 编辑
                    #21

                    好多天没来更新了。最近接了很多单子。同时开N个端口操作。
                    主要是我不太相信AI。所以干活自己是主力。跑题。回到7900 XTX。
                    又加了一块硬盘。发现学习 comfil ui Windows 是主力。
                    生产力环境又必须在 Ubuntu 下。
                    简单的单机双系统方法是 esp 分区下做个启动引导。在开机后选择下你用的系统。
                    没选择 pve 虚拟机是。这玩意折腾过。长期跑某个项目是可以的。但是开发没有venv 方便。测试也是。所以很多年没试验用它。
                    总结:需要学习折腾的同志们双系统 选择 双硬盘。每个硬盘上一个系统是最简单的方案。操作很容易。装好后。在 Linux 下 直接告诉 AI 在 esp 写一个就完事。用DeepSeek V4 大约花费 1分钱。当然节俭大能可以手写。赞

                    个人主页:xlkj.org Telegram https://t.me/xlkjorg

                    E 1 条回复 最后回复
                    2
                    • williamlouisW williamlouis

                      好多天没来更新了。最近接了很多单子。同时开N个端口操作。
                      主要是我不太相信AI。所以干活自己是主力。跑题。回到7900 XTX。
                      又加了一块硬盘。发现学习 comfil ui Windows 是主力。
                      生产力环境又必须在 Ubuntu 下。
                      简单的单机双系统方法是 esp 分区下做个启动引导。在开机后选择下你用的系统。
                      没选择 pve 虚拟机是。这玩意折腾过。长期跑某个项目是可以的。但是开发没有venv 方便。测试也是。所以很多年没试验用它。
                      总结:需要学习折腾的同志们双系统 选择 双硬盘。每个硬盘上一个系统是最简单的方案。操作很容易。装好后。在 Linux 下 直接告诉 AI 在 esp 写一个就完事。用DeepSeek V4 大约花费 1分钱。当然节俭大能可以手写。赞

                      E 离线
                      E 离线
                      exe127
                      编写于 最后由 编辑
                      #22

                      @williamlouis ubuntu 的生產力真的比windows 高嗎?

                      williamlouisW 1 条回复 最后回复
                      0
                      • E exe127

                        @williamlouis ubuntu 的生產力真的比windows 高嗎?

                        williamlouisW 离线
                        williamlouisW 离线
                        williamlouis
                        超级版主
                        编写于 最后由 编辑
                        #23

                        @exe127 差距大约是几倍。
                        并不是速度上的问题。
                        主要原因是 Windows 环境下需要 人为干预的部分太多。
                        Windows11 构架 集显显示桌面+独立算力。这个构架在加入个人代码约束后一样可以完美的让7900XTX 全部显存跑模型 但是在实现全程自动化的部分一步一坎。稳定性测试永不停止给你新的问题。简直是折腾爱好者的超级玩具。我并没有为Windows修补系统缺憾的义务。同时我不会用Windows 生产任何东西。完美避让是个很好的选择。
                        反之在 Linux 下开展的就很顺利。

                        个人主页:xlkj.org Telegram https://t.me/xlkjorg

                        1 条回复 最后回复
                        2

                        你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                        厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。

                        有了你的建议,这篇帖子会更精彩哦 💗

                        注册 登录
                        回复
                        • 在新帖中回复
                        登录后回复
                        • 从旧到新
                        • 从新到旧
                        • 最多赞同


                        • 登录

                        • 没有帐号? 注册

                        • 登录或注册以进行搜索。
                        • 第一个帖子
                          最后一个帖子
                        0
                        • 首页
                        • 版块
                        • 最新
                        • 标签
                        • 热门
                        • 用户
                        • 群组