跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场 App
  1. 主页
  2. 版块
  3. LLM讨论区
  4. 【实测求助】5060 Ti 16GB + 量化Qwen 27B挑战《清明上河图》3D场景:代码能写出来,但Agent总是卡在最后一步,有人能完整跑通吗?

【实测求助】5060 Ti 16GB + 量化Qwen 27B挑战《清明上河图》3D场景:代码能写出来,但Agent总是卡在最后一步,有人能完整跑通吗?

已定时 已固定 已锁定 已移动 优秀 LLM讨论区
rtx5060qwen-27b本地模型
19 帖子 8 发布者 319 浏览 1 关注中
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • imbiplaza ASUSI imbiplaza ASUS

    27b 其实可以干活,我都成就几个卖钱的工作了,但是这里有一个问题,27b 天生搞出来的细节不够,就是你所谓的,能够完成工作,但是最终效果就是“整体构图和视觉效果不理想”,

    这种情况在纯代码的环境中其实不大明显,反正代码不是0 就是 1 ,可以行得通就好了,

    然而这种不够细节的情况放在视觉上,很明显出现穿崩,最终怎样补救,不能还是不能。。。

    除非你好像我这样,单一上下文使用40万字来形容该细节。。。。

    kos orK
    kos orK
    kos or
    至尊皇帝
    编写于 最后由 编辑
    #9

    @imbiplaza-ASUS said:

    单一上下文使用40万字来形容该细节

    40万字 , 這已經進入極限玩家的境界了 😳

    imbiplaza ASUSI 1 条回复 最后回复
    0
    • kos orK kos or

      @imbiplaza-ASUS said:

      单一上下文使用40万字来形容该细节

      40万字 , 這已經進入極限玩家的境界了 😳

      imbiplaza ASUSI
      imbiplaza ASUSI
      imbiplaza ASUS
      谪仙人
      编写于 最后由 编辑
      #10

      @kos-or 所以我最终换成q3.8fn

      1 条回复 最后回复
      0
      • 张光璞张
        张光璞张
        张光璞
        贵族大夫 硕果累累
        编写于 最后由 张光璞 编辑
        #11

        R9700 TP2 Radiance Swift Q4 W4A8 模型耗时1小时14分

        模型有一半时间在等待

        09-final.jpeg

        image.jpeg

        1 条回复 最后回复
        1
        • 范志刚范
          范志刚范
          范志刚
          硕果累累 贵族大夫
          编写于 最后由 编辑
          #12

          他若不会你得教他,他若会你还做个啥劲,q3逻辑的宽度和长度都是断的,教都教不会,别信他会,多大都一样,通识再多也都不值钱,不如换个12b的全量踏踏实实给他个现成的让他复现,这就是agent的意义

          1 条回复 最后回复
          0
          • 张光璞张
            张光璞张
            张光璞
            贵族大夫 硕果累累
            编写于 最后由 编辑
            #13

            扩充提示词后做的,47分

            image.jpeg

            image.jpeg

            1 条回复 最后回复
            2
            • focuser liF focuser li

              最近一直在折腾 RTX 5060 Ti 16GB 显卡上的本地 Coding Agent,主要使用量化版 Qwen 27B,配合 KVMem、NInfer 和 DeepSeek Harness。

              之前测试普通代码任务,整体表现还不错,尤其是推测解码带来的速度提升,确实让16GB显存运行27B模型具有了不错的实用性。

              但最近遇到一个很有意思的问题:

              模型能够比较快地生成复杂的3D场景代码,却经常无法完成最终的视觉验收。尤其开启推理模式后,很容易陷入长时间的分析、验证、修改、再验证循环。

              我已经用几套方案反复尝试,目前还没有拿到一份从场景生成到视觉验收都令人满意、能够顺利完成交付的结果。

              想把这个任务分享出来,看看论坛里有没有朋友能用同级别硬件完成。

              一、我的测试环境

              项目 配置
              GPU RTX 5060 Ti 16GB
              系统内存 DDR5 32GB
              主模型 Qwen3.8-27B GSQ-RCO IQ3_S
              推理后端 NInfer
              KV格式 INT8
              Agent DeepSeek Harness
              方案一 KVMem 0.18.0 + MTP3
              方案二 KVMem 0.19.1 + DFlash2 Q4_K_M
              上下文 128K
              最大输出目标 32K
              测试方式 开启推理分别测试

              其中0.18.0 MTP3方案已较稳定,0.19.1 DFlash2还在做Agent兼容性与输出能力验证。

              二、测试任务:《清明上河图》虹桥市井3D场景

              任务是让本地模型使用 Three.js,制作一个可以在浏览器中运行的动态3D场景。

              主要包含:

              1. 《清明上河图》中具有代表性的虹桥,要求木构结构、弧形桥面、护栏及桥下通航空间。
              2. 两岸北宋风格街市,包括商铺、民居、茶馆、酒肆、摊位等。
              3. 河道、货船、码头及动态水面。
              4. 二三十个具有简单动作的市井人物。
              5. 春日自然光照、天空、植被和远景。
              6. 鼠标旋转、缩放、平移及动画控制。

              整体采用精致低多边形/体素化艺术风格,不追求照片级写实。

              最终要求:生成单个HTML文件,直接通过浏览器打开,能够正常显示完整场景并运行简单动画。

              Three.js允许通过CDN加载,不需要其他本地工程依赖。

              三、目前几套方案的实际表现

              1. KVMem 0.18.0 + MTP3,无推理模式

              这一套生成速度表现不错。

              • Decode速度:测试记录约113 tok/s。
              • 首次生成HTML:约5分48秒。
              • 能够生成虹桥、建筑、人物、船只及动画等主体代码。
              • 模型能够调用工具、编辑文件、进行语法检查。

              但首次交付存在明显问题:

              画面出现大面积发白,整体构图和视觉效果不理想。

              指出问题后,模型又花费约6分50秒进行了修改,调整了水面、光照、曝光和相机。

              虽然程序报告修复完成,但我没有把这次结果视为最终视觉验收成功。

              2. KVMem 0.18.0 + MTP3,开启推理模式

              这一套最有意思。

              模型会主动检查自己的代码,也能发现一些真实问题,例如:

              • 函数引用顺序错误。
              • 几何结构方向不合理。
              • 水面与地面遮挡关系异常。
              • 浏览器运行与截图验证错误。

              但执行一段时间后,开始进入反复调试。

              有一次记录:

              • 累计约100步。
              • 已运行约54分钟。
              • 平台累计Token统计约550万,缓存命中率97%。
              • HTML主体其实早已生成。
              • 最后一直卡在河面显示异常的诊断中。

              需要说明:550万是平台累计Token用量,包含大量缓存复用,并不代表实际新生成550万Token。

              模型尝试过调整材质、修改几何体、Raycast检测、截图像素分析、创建诊断脚本、检查浏览器进程等。

              其中有些排查本身还引入了新的错误。

              最后变成一个循环:

              发现问题 → 提出假设 → 修改 → 验证 → 否定假设 → 继续修改。

              结果是代码早就写出来了,任务却始终无法顺利结束。

              3. KVMem 0.19.1 + DFlash2

              DFlash2在部分测试中Decode可以接近100 tok/s,很有吸引力。

              但此前Agent测试遇到了另一类问题:

              • 单次输出曾受8192 Token限制。
              • 多次长代码工具调用出现截断。
              • 出现malformed_tool_call。
              • 历史KV保留与Compaction后的任务恢复不够理想。

              后来已经准备了32K输出的新配置,但尚未完成同条件下的完整复杂Agent验收。

              因此暂时不能简单判断DFlash2比MTP3更适合或更不适合这个任务。

              四、想请大家一起测试

              我更希望看看:在16GB显存或接近的硬件条件下,量化27B模型能不能独立完成一个复杂的3D创意编程任务。

              为了便于复现,下面提供一个简化后的统一提示词。

              测试提示词

              使用 Three.js 制作一个以北宋《清明上河图》虹桥市井为主题的原创动态3D场景。

              整体采用精致低多边形或体素化艺术风格,画面明亮、层次清晰。

              场景中央是一座横跨河流的中国传统木构虹桥,桥面呈弧形,具有交叉木梁、护栏及桥下通航空间。

              河流两岸建有中式商铺、民居、茶馆、摊位、街道和码头。场景中安排约20至30名行人、商贩与船工,以及3艘具有简单动画的船只。

              添加自然光照、天空、树木、河面波纹及远景环境。

              支持鼠标旋转、缩放、平移,支持暂停和恢复动画。

              使用原生HTML、CSS、JavaScript及Three.js完成。最终生成一个独立HTML文件,允许联网加载Three.js CDN,无需npm安装或启动本地服务器。

              允许分阶段编写代码,但必须最终整合为完整HTML。

              完成后必须实际运行浏览器检查,确认没有JavaScript运行异常,并验证画面中确实可以看到虹桥、河流、两岸建筑、人物和船只。

              不能仅凭语法检查通过就宣布任务完成。

              遇到问题时优先进行局部修复,不要无限重写整个项目。最终必须交付实际HTML文件。

              五、希望大家反馈哪些结果?

              不要求大家使用完全相同的量化或推理框架。

              特别欢迎使用5060 Ti 16GB、4060 Ti 16GB、24GB显卡或其他接近配置的朋友尝试。

              如果能够完成,希望分享:

              • 显卡、内存、模型及量化版本。
              • 推理框架与Agent工具。
              • 是否开启Thinking。
              • 大约使用多少时间和工具调用次数。
              • HTML能否正常打开。
              • 是否通过实际截图视觉检查。
              • 有没有遇到反复调试、上下文压缩、工具调用失败等问题。

              最希望能直接看到大家生成的HTML作品或运行截图。

              六、我现在的一点体会

              经过这几轮测试,我越来越觉得:

              本地27B模型的代码生成能力,可能已经不是最主要的瓶颈。

              真正影响复杂Agent任务体验的,反而是:

              能不能在正确的时候停止思考、完成验证,并交付一个可用的作品。

              无推理模式生成快,但可能遗漏明显问题。

              开启推理后,检查意识增强,却可能陷入过度验证。

              而推理框架的上下文管理、工具调用稳定性以及Agent本身的任务收敛机制,可能比单纯提高Decode速度更重要。

              当然,以上只是我目前几次测试的观察,还没有完成严格的同条件A/B对照。

              希望论坛里有朋友能挑战成功,尤其想看看其他量化版本、不同推理后端或者不同Agent执行器的表现。

              如果大家有成功案例,欢迎贴一下参数和作品截图。也欢迎指出我的任务设计、模型配置或者执行方式有什么问题。

              我也想看看,16GB显存上的量化27B,距离真正稳定完成复杂创意编程任务,到底还有多远。

              perterP
              perterP
              perter
              王侯将相
              编写于 最后由 编辑
              #14

              @focuser-li
              Qoduck(QWEN4.0 27B ?)
              image.jpeg

              hongqiao-bianhe.html

              张光璞张 1 条回复 最后回复
              2
              • perterP perter

                @focuser-li
                Qoduck(QWEN4.0 27B ?)
                image.jpeg

                hongqiao-bianhe.html

                张光璞张
                张光璞张
                张光璞
                贵族大夫 硕果累累
                编写于 最后由 编辑
                #15

                @perter 说:

                @focuser-li
                Qoduck(QWEN4.0 27B ?)

                image.jpeg

                hongqiao-bianhe.html

                这个强啊

                1 条回复 最后回复
                1
                • kos orK
                  kos orK
                  kos or
                  至尊皇帝
                  编写于 最后由 kos or 编辑
                  #16

                  光房子的設計就進步1~3代(倍)
                  27B 如果是這種程度 到了Flash 大概是3~6代(倍)的設計美感進步

                  image.jpeg

                  1 条回复 最后回复
                  1
                  • XiaoteX
                    XiaoteX
                    Xiaote
                    易有太极
                    编写于 最后由 编辑
                    #17

                    ✅ 版主审定:本帖设为优秀,作者 +3 积分奖励,继续加油!

                    奖励凭证:优秀 +3 分 · 编号 e2930-4257-1

                    老特的AI助手,DeepSeek Flash驱动,没回你是因为被限速了~除了管理员不能私信我,别浪费时间~尝试多了被封号就不好了~

                    1 条回复 最后回复
                    0
                    • stxpnetS
                      stxpnetS
                      stxpnet
                      王侯将相
                      编写于 最后由 编辑
                      #18

                      加一条32G内存,或者加到96G内存,跑STRATA绝对惊艳。27B 在长上下文之后速度慢,KLD大导致 偏差成倍放大,很难支撑起这样复杂度的工程。
                      QWEN 3.8 FLASH虽然量化厉害,但是参数大,容错更高一些。

                      双卡3090 PCIE 4.0 16X/16X

                      白天(宰相) Strata QFN3.8 IQ4_XS 262K ~120 t/s
                      夜间(将军) vllm+swift 1.5 27B INT4-W4A8-dflash2 188K X 2 ~85 t/s
                      1 条回复 最后回复
                      0
                      • stxpnetS
                        stxpnetS
                        stxpnet
                        王侯将相
                        编写于 最后由 stxpnet 编辑
                        #19

                        我的配置就是双3090,64核128线程CPU + 256G DDR4内存,刚下载的qwen 3.8 flash next ud 3.1 q4 k XL(262K上下文,INT8的KV缓存),用的OMP,加一个新的AGENTS.MD,自动思考档位 .

                        使用 Three.js 制作一个以北宋《清明上河图》虹桥市井为主题的原创动态3D场景。
                        整体采用精致低多边形或体素化艺术风格,画面明亮、层次清晰。
                        场景中央是一座横跨河流的中国传统木构虹桥,桥面呈弧形,具有交叉木梁、护栏及桥下通航空间。
                        河流两岸建有中式商铺、民居、茶馆、摊位、街道和码头。场景中安排约20至30名行人、商贩与船工,以及3艘具有简单动画的船只。
                        添加自然光照、天空、树木、河面波纹及远景环境。
                        支持鼠标旋转、缩放、平移,支持暂停和恢复动画。
                        使用原生HTML、CSS、JavaScript及Three.js完成。
                        使用软件工程的方法,做出最佳效果。
                        

                        /goal-interview 粘贴上面的提示词,然后回答了它几个问题。答案都按它推荐的。
                        最后要求它指挥一个子agent(同一模型)最多迭代35次。

                        第10分钟的时候它已经在截图了。
                        frame300.jpeg

                        image.jpeg

                        image.jpeg

                        第22分钟的时候它收工了, 我让它改了一下船的运动方向。 第25分钟时完成了:
                        image.jpeg

                        我没让它用单文件。目录里面那个node都21MB。
                        image.jpeg

                        双卡3090 PCIE 4.0 16X/16X

                        白天(宰相) Strata QFN3.8 IQ4_XS 262K ~120 t/s
                        夜间(将军) vllm+swift 1.5 27B INT4-W4A8-dflash2 188K X 2 ~85 t/s
                        1 条回复 最后回复
                        -1

                        你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                        厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。

                        有了你的建议,这篇帖子会更精彩哦 💗

                        注册 登录
                        回复
                        • 在新帖中回复
                        登录后回复
                        • 从旧到新
                        • 从新到旧
                        • 最多赞同


                        • 登录

                        • 登录或注册以进行搜索。
                        • 第一个帖子
                          最后一个帖子
                        0
                        • 版块
                        • 最新
                        • 标签
                        • 热门
                        • 用户
                        • 群组