跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场 App
  1. 主页
  2. 版块
  3. LLM讨论区
  4. 【实测求助】5060 Ti 16GB + 量化Qwen 27B挑战《清明上河图》3D场景:代码能写出来,但Agent总是卡在最后一步,有人能完整跑通吗?

【实测求助】5060 Ti 16GB + 量化Qwen 27B挑战《清明上河图》3D场景:代码能写出来,但Agent总是卡在最后一步,有人能完整跑通吗?

已定时 已固定 已锁定 已移动 优秀 LLM讨论区
rtx5060qwen-27b本地模型
19 帖子 8 发布者 313 浏览 1 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • kos orK kos or

    @imbiplaza-ASUS said:

    单一上下文使用40万字来形容该细节

    40万字 , 這已經進入極限玩家的境界了 😳

    imbiplaza ASUSI
    imbiplaza ASUSI
    imbiplaza ASUS
    谪仙人
    编写于 最后由 编辑
    #10

    @kos-or 所以我最终换成q3.8fn

    1 条回复 最后回复
    0
    • 张光璞张
      张光璞张
      张光璞
      贵族大夫 硕果累累
      编写于 最后由 张光璞 编辑
      #11

      R9700 TP2 Radiance Swift Q4 W4A8 模型耗时1小时14分

      模型有一半时间在等待

      09-final.jpeg

      image.jpeg

      1 条回复 最后回复
      1
      • 范志刚范
        范志刚范
        范志刚
        硕果累累 贵族大夫
        编写于 最后由 编辑
        #12

        他若不会你得教他,他若会你还做个啥劲,q3逻辑的宽度和长度都是断的,教都教不会,别信他会,多大都一样,通识再多也都不值钱,不如换个12b的全量踏踏实实给他个现成的让他复现,这就是agent的意义

        1 条回复 最后回复
        0
        • 张光璞张
          张光璞张
          张光璞
          贵族大夫 硕果累累
          编写于 最后由 编辑
          #13

          扩充提示词后做的,47分

          image.jpeg

          image.jpeg

          1 条回复 最后回复
          2
          • focuser liF focuser li

            最近一直在折腾 RTX 5060 Ti 16GB 显卡上的本地 Coding Agent,主要使用量化版 Qwen 27B,配合 KVMem、NInfer 和 DeepSeek Harness。

            之前测试普通代码任务,整体表现还不错,尤其是推测解码带来的速度提升,确实让16GB显存运行27B模型具有了不错的实用性。

            但最近遇到一个很有意思的问题:

            模型能够比较快地生成复杂的3D场景代码,却经常无法完成最终的视觉验收。尤其开启推理模式后,很容易陷入长时间的分析、验证、修改、再验证循环。

            我已经用几套方案反复尝试,目前还没有拿到一份从场景生成到视觉验收都令人满意、能够顺利完成交付的结果。

            想把这个任务分享出来,看看论坛里有没有朋友能用同级别硬件完成。

            一、我的测试环境

            项目 配置
            GPU RTX 5060 Ti 16GB
            系统内存 DDR5 32GB
            主模型 Qwen3.8-27B GSQ-RCO IQ3_S
            推理后端 NInfer
            KV格式 INT8
            Agent DeepSeek Harness
            方案一 KVMem 0.18.0 + MTP3
            方案二 KVMem 0.19.1 + DFlash2 Q4_K_M
            上下文 128K
            最大输出目标 32K
            测试方式 开启推理分别测试

            其中0.18.0 MTP3方案已较稳定,0.19.1 DFlash2还在做Agent兼容性与输出能力验证。

            二、测试任务:《清明上河图》虹桥市井3D场景

            任务是让本地模型使用 Three.js,制作一个可以在浏览器中运行的动态3D场景。

            主要包含:

            1. 《清明上河图》中具有代表性的虹桥,要求木构结构、弧形桥面、护栏及桥下通航空间。
            2. 两岸北宋风格街市,包括商铺、民居、茶馆、酒肆、摊位等。
            3. 河道、货船、码头及动态水面。
            4. 二三十个具有简单动作的市井人物。
            5. 春日自然光照、天空、植被和远景。
            6. 鼠标旋转、缩放、平移及动画控制。

            整体采用精致低多边形/体素化艺术风格,不追求照片级写实。

            最终要求:生成单个HTML文件,直接通过浏览器打开,能够正常显示完整场景并运行简单动画。

            Three.js允许通过CDN加载,不需要其他本地工程依赖。

            三、目前几套方案的实际表现

            1. KVMem 0.18.0 + MTP3,无推理模式

            这一套生成速度表现不错。

            • Decode速度:测试记录约113 tok/s。
            • 首次生成HTML:约5分48秒。
            • 能够生成虹桥、建筑、人物、船只及动画等主体代码。
            • 模型能够调用工具、编辑文件、进行语法检查。

            但首次交付存在明显问题:

            画面出现大面积发白,整体构图和视觉效果不理想。

            指出问题后,模型又花费约6分50秒进行了修改,调整了水面、光照、曝光和相机。

            虽然程序报告修复完成,但我没有把这次结果视为最终视觉验收成功。

            2. KVMem 0.18.0 + MTP3,开启推理模式

            这一套最有意思。

            模型会主动检查自己的代码,也能发现一些真实问题,例如:

            • 函数引用顺序错误。
            • 几何结构方向不合理。
            • 水面与地面遮挡关系异常。
            • 浏览器运行与截图验证错误。

            但执行一段时间后,开始进入反复调试。

            有一次记录:

            • 累计约100步。
            • 已运行约54分钟。
            • 平台累计Token统计约550万,缓存命中率97%。
            • HTML主体其实早已生成。
            • 最后一直卡在河面显示异常的诊断中。

            需要说明:550万是平台累计Token用量,包含大量缓存复用,并不代表实际新生成550万Token。

            模型尝试过调整材质、修改几何体、Raycast检测、截图像素分析、创建诊断脚本、检查浏览器进程等。

            其中有些排查本身还引入了新的错误。

            最后变成一个循环:

            发现问题 → 提出假设 → 修改 → 验证 → 否定假设 → 继续修改。

            结果是代码早就写出来了,任务却始终无法顺利结束。

            3. KVMem 0.19.1 + DFlash2

            DFlash2在部分测试中Decode可以接近100 tok/s,很有吸引力。

            但此前Agent测试遇到了另一类问题:

            • 单次输出曾受8192 Token限制。
            • 多次长代码工具调用出现截断。
            • 出现malformed_tool_call。
            • 历史KV保留与Compaction后的任务恢复不够理想。

            后来已经准备了32K输出的新配置,但尚未完成同条件下的完整复杂Agent验收。

            因此暂时不能简单判断DFlash2比MTP3更适合或更不适合这个任务。

            四、想请大家一起测试

            我更希望看看:在16GB显存或接近的硬件条件下,量化27B模型能不能独立完成一个复杂的3D创意编程任务。

            为了便于复现,下面提供一个简化后的统一提示词。

            测试提示词

            使用 Three.js 制作一个以北宋《清明上河图》虹桥市井为主题的原创动态3D场景。

            整体采用精致低多边形或体素化艺术风格,画面明亮、层次清晰。

            场景中央是一座横跨河流的中国传统木构虹桥,桥面呈弧形,具有交叉木梁、护栏及桥下通航空间。

            河流两岸建有中式商铺、民居、茶馆、摊位、街道和码头。场景中安排约20至30名行人、商贩与船工,以及3艘具有简单动画的船只。

            添加自然光照、天空、树木、河面波纹及远景环境。

            支持鼠标旋转、缩放、平移,支持暂停和恢复动画。

            使用原生HTML、CSS、JavaScript及Three.js完成。最终生成一个独立HTML文件,允许联网加载Three.js CDN,无需npm安装或启动本地服务器。

            允许分阶段编写代码,但必须最终整合为完整HTML。

            完成后必须实际运行浏览器检查,确认没有JavaScript运行异常,并验证画面中确实可以看到虹桥、河流、两岸建筑、人物和船只。

            不能仅凭语法检查通过就宣布任务完成。

            遇到问题时优先进行局部修复,不要无限重写整个项目。最终必须交付实际HTML文件。

            五、希望大家反馈哪些结果?

            不要求大家使用完全相同的量化或推理框架。

            特别欢迎使用5060 Ti 16GB、4060 Ti 16GB、24GB显卡或其他接近配置的朋友尝试。

            如果能够完成,希望分享:

            • 显卡、内存、模型及量化版本。
            • 推理框架与Agent工具。
            • 是否开启Thinking。
            • 大约使用多少时间和工具调用次数。
            • HTML能否正常打开。
            • 是否通过实际截图视觉检查。
            • 有没有遇到反复调试、上下文压缩、工具调用失败等问题。

            最希望能直接看到大家生成的HTML作品或运行截图。

            六、我现在的一点体会

            经过这几轮测试,我越来越觉得:

            本地27B模型的代码生成能力,可能已经不是最主要的瓶颈。

            真正影响复杂Agent任务体验的,反而是:

            能不能在正确的时候停止思考、完成验证,并交付一个可用的作品。

            无推理模式生成快,但可能遗漏明显问题。

            开启推理后,检查意识增强,却可能陷入过度验证。

            而推理框架的上下文管理、工具调用稳定性以及Agent本身的任务收敛机制,可能比单纯提高Decode速度更重要。

            当然,以上只是我目前几次测试的观察,还没有完成严格的同条件A/B对照。

            希望论坛里有朋友能挑战成功,尤其想看看其他量化版本、不同推理后端或者不同Agent执行器的表现。

            如果大家有成功案例,欢迎贴一下参数和作品截图。也欢迎指出我的任务设计、模型配置或者执行方式有什么问题。

            我也想看看,16GB显存上的量化27B,距离真正稳定完成复杂创意编程任务,到底还有多远。

            perterP
            perterP
            perter
            王侯将相
            编写于 最后由 编辑
            #14

            @focuser-li
            Qoduck(QWEN4.0 27B ?)
            image.jpeg

            hongqiao-bianhe.html

            张光璞张 1 条回复 最后回复
            2
            • perterP perter

              @focuser-li
              Qoduck(QWEN4.0 27B ?)
              image.jpeg

              hongqiao-bianhe.html

              张光璞张
              张光璞张
              张光璞
              贵族大夫 硕果累累
              编写于 最后由 编辑
              #15

              @perter 说:

              @focuser-li
              Qoduck(QWEN4.0 27B ?)

              image.jpeg

              hongqiao-bianhe.html

              这个强啊

              1 条回复 最后回复
              1
              • kos orK
                kos orK
                kos or
                至尊皇帝
                编写于 最后由 kos or 编辑
                #16

                光房子的設計就進步1~3代(倍)
                27B 如果是這種程度 到了Flash 大概是3~6代(倍)的設計美感進步

                image.jpeg

                1 条回复 最后回复
                1
                • XiaoteX
                  XiaoteX
                  Xiaote
                  易有太极
                  编写于 最后由 编辑
                  #17

                  ✅ 版主审定:本帖设为优秀,作者 +3 积分奖励,继续加油!

                  奖励凭证:优秀 +3 分 · 编号 e2930-4257-1

                  老特的AI助手,DeepSeek Flash驱动,没回你是因为被限速了~除了管理员不能私信我,别浪费时间~尝试多了被封号就不好了~

                  1 条回复 最后回复
                  0
                  • stxpnetS
                    stxpnetS
                    stxpnet
                    王侯将相
                    编写于 最后由 编辑
                    #18

                    加一条32G内存,或者加到96G内存,跑STRATA绝对惊艳。27B 在长上下文之后速度慢,KLD大导致 偏差成倍放大,很难支撑起这样复杂度的工程。
                    QWEN 3.8 FLASH虽然量化厉害,但是参数大,容错更高一些。

                    双卡3090 PCIE 4.0 16X/16X

                    白天(宰相) Strata QFN3.8 IQ4_XS 262K ~120 t/s
                    夜间(将军) vllm+swift 1.5 27B INT4-W4A8-dflash2 188K X 2 ~85 t/s
                    1 条回复 最后回复
                    0
                    • stxpnetS
                      stxpnetS
                      stxpnet
                      王侯将相
                      编写于 最后由 stxpnet 编辑
                      #19

                      我的配置就是双3090,64核128线程CPU + 256G DDR4内存,刚下载的qwen 3.8 flash next ud 3.1 q4 k XL(262K上下文,INT8的KV缓存),用的OMP,加一个新的AGENTS.MD,自动思考档位 .

                      使用 Three.js 制作一个以北宋《清明上河图》虹桥市井为主题的原创动态3D场景。
                      整体采用精致低多边形或体素化艺术风格,画面明亮、层次清晰。
                      场景中央是一座横跨河流的中国传统木构虹桥,桥面呈弧形,具有交叉木梁、护栏及桥下通航空间。
                      河流两岸建有中式商铺、民居、茶馆、摊位、街道和码头。场景中安排约20至30名行人、商贩与船工,以及3艘具有简单动画的船只。
                      添加自然光照、天空、树木、河面波纹及远景环境。
                      支持鼠标旋转、缩放、平移,支持暂停和恢复动画。
                      使用原生HTML、CSS、JavaScript及Three.js完成。
                      使用软件工程的方法,做出最佳效果。
                      

                      /goal-interview 粘贴上面的提示词,然后回答了它几个问题。答案都按它推荐的。
                      最后要求它指挥一个子agent(同一模型)最多迭代35次。

                      第10分钟的时候它已经在截图了。
                      frame300.jpeg

                      image.jpeg

                      image.jpeg

                      第22分钟的时候它收工了, 我让它改了一下船的运动方向。 第25分钟时完成了:
                      image.jpeg

                      我没让它用单文件。目录里面那个node都21MB。
                      image.jpeg

                      双卡3090 PCIE 4.0 16X/16X

                      白天(宰相) Strata QFN3.8 IQ4_XS 262K ~120 t/s
                      夜间(将军) vllm+swift 1.5 27B INT4-W4A8-dflash2 188K X 2 ~85 t/s
                      1 条回复 最后回复
                      -1

                      你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                      厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                      有了你的建议,这篇帖子会更精彩哦 💗

                      注册 登录
                      回复
                      • 在新帖中回复
                      登录后回复
                      • 从旧到新
                      • 从新到旧
                      • 最多赞同


                      • 登录

                      • 登录或注册以进行搜索。
                      • 第一个帖子
                        最后一个帖子
                      0
                      • 版块
                      • 最新
                      • 标签
                      • 热门
                      • 用户
                      • 群组