跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场 App
像素盒子像

像素盒子

@像素盒子
体面乡绅
取消关注 关注
关于
帖子
42
主题
6
分享
0
群组
1
粉丝
0
关注
0

帖子

最新 最佳 有争议的

  • 显卡去维修了,用8G显存笔记本跑strata
    像素盒子像 像素盒子
    AI硬件 rtx4070 本地模型 strata

    笔记本去张哥那里了,于是用我的笔记本跑一下strata试一试, 结论:如果你有8G显存的显卡笔记本,内存够的话,30~50 tok/s的速度,已经能做简单的工作了。

    项目 信息
    笔记本 机械革命-极光X
    CPU 12th Gen Intel Core i7-12800HX (16+8) @ 4.80 GHz
    内存 48G DDR5,标称 5600 MT/s / 实际运行 4800 MT/s(系统显示 46.77 GiB,已用 44.28 GiB / 95%)
    显卡 NVIDIA GeForce RTX 4070 Laptop (Max-Q / Mobile),8G 显存
    核显 Intel UHD Graphics 770 @ 1.45 GHz
    模型 Qwen3.8-Flash-Next swift-1.5-iq2_xs
    上下文 131072(128K)
    速度 30 ~ 50 tok/s 之间波动
    OS Arch Linux x86_64
    Kernel Linux 7.2.11-arch1-1

    2026-10-31_21_27_53.png

    提示词:设计一个Comfyui的版本封面的SVG

    ---
    id: 001_svg_test
    name: SVG release cover for ComfyUI
    type: visual / svg-generation
    canvas: 1200x675 (16:9)
    ---
    
    Design a release cover image for the software ComfyUI. Output SVG only (1200×675, 16:9).
    
    Requirements:
    
    1. The main visual must replicate ComfyUI's real product UI — a dark node
       editor window containing a title bar, a queue toolbar, and 3 colored
       nodes (Checkpoint Loader / CLIP Text Encode / KSampler) with their
       bezier connection wires.
    2. Right-hand typography: software name "comfyui" at 86px + version
       number "0.30.0" at 58px, both in white.
    3. Background: purple → pink brand gradient
       (#6366f1 → #a855f7 → #ec4899), with a 120px dark information bar at
       the bottom reading "Release Notes · COMFYUI" and the subtitle
       「节点式 AI 图像工作流引擎」.
    4. White text must stay readable on any background (AAA contrast).
    5. No elements unrelated to ComfyUI.
    
    

    result.png


  • Qwen3.8-27B 测试Nvidia RTX 3090 llama.cpp MTP TurboQuant
    像素盒子像 像素盒子
    LLM讨论区 qwen-27b rtx3090 llama.cpp

    222.png

    简单测试一下,供大家参考

    配置项 具体信息
    硬件 NVIDIA GeForce RTX 3090 24GB
    推理框架 llama.cpp
    加速技术 MTP (Multi-Token Prediction)
    显存优化 TurboQuant
    模型文件 Qwen3.8-27B-Q3_K_M.gguf

    启动脚本

    ./llama-cpp-turboquant-mtp/build/bin/llama-server \
      -m ./models/Qwen3.8-27B-Q3_K_M.gguf \
      --mmproj ./models/mmproj-BF16.gguf \
      -c 131072 \
      -n 512 \
      -t 12 \
      -ngl 99 \
      --parallel 1 \
      --cache-type-k turbo3 \
      --cache-type-v turbo3 \
      --flash-attn on \
      --mlock \
      --batch-size 512 \
      --ubatch-size 512 \
      --reasoning-budget 0 \
      --spec-type draft-mtp \
      --spec-draft-n-max 3 \
      --spec-draft-p-min 0.75 \
      --host 0.0.0.0 \
      --port 8080 \
      --log-disable
    

    贪吃蛇简单测速

    PixPin_2026-08-16_05-36-34.png

    3D小球测试

    请制作一个网页 3D 小球物理实验,要求同时存在 10 个不同颜色的球,它们受到重力影响并发生碰撞,用户可以拖动球,右侧可以调整重力和弹性,并提供开始、暂停、重置按钮。
    

    a79cfecf-6fa7-413b-8b5c-13cc9289b7ae-image.jpeg


  • 显卡装不下我的机箱
    像素盒子像 像素盒子
    AI硬件 服务器

    我的服务器机箱装不下我买的显卡,一直就是不盖盖子用的,最近看老特分享ddr3方案,所以也有准备买个大机箱,再整一套玩具装进去,128g ddr3方案
    之前买这个机箱花了800大洋,成色还是很好的
    有没有看b站”未命名”老哥的?一个机箱传三代。超微743,八个硬盘位热插拔。
    但机箱太窄了。
    267.jpeg

    268.jpeg

    269.jpeg


  • 显卡很荣幸去见张哥了
    像素盒子像 像素盒子
    随便聊聊 rtx3090 nvidia

    现在我心里也没谱了,今天我发现我的主板可能也坏了?一直19然后重启,19然后重启。我怀疑电源坏了,换个电源也不行,cpu坏了,换了cpu也不行,内存坏了,只插一根也不行。最近怎么这么点背,要坏一起坏。主板是Ausu Z10pau8-10-2s,这已经是我第二块这个主板了。之前被我搞坏一块。
    这个板子有着无敌的扩展性,

    • 双万兆光口,
    • 6个PCIE插槽
    • 8个DDR4内存插槽
    • X99主板
    • 9个SATA插口
    • 还有更重要的,这个主板有板载显卡,这你敢信?亮机卡都省了。
      无敌的存在。喜欢研究硬件的可以研究下这个主板。就是二手服务器拆机,可能说坏就坏,毕竟垃圾佬。

    de2dee54e9b1d085.jpg


  • DeepSeek最近使用感受
    像素盒子像 像素盒子
    LLM讨论区 本地模型 deepseek

    @terry 你误解了,我的意思是说,听你视频里说:很多人说DeepSeek最近变笨了。


  • Qwen3.8-27B 引入froggeric/Qwen-Fixed-Chat-Templates Fix: 思考深度控制,恢复快速模式,修复空思考污染,通用工具参数
    像素盒子像 像素盒子
    LLM讨论区 qwen-27b

    33333.png

    Qwen-Fixed-Chat-Templates

    看了B站一个视频,引入 jinja chat templates 可以改善一些问题。
    我没有深度使用测试,发个帖子,给不知道引入的同学做个参考。

    🎯参考
    【分享】改善Qwen3.8雷霆大思考

    🎯 通过 froggeric/Qwen-Fixed-Chat-Templates 仓库的 v22 模板,设定不同思考模式来解决核心问题。

    📦 仓库内容介绍

    这是一个为 Qwen 3.5 / 3.6 / 3.8 打造的通用修复版聊天模板(chat template(聊天模板)= 提示词包装器,Jinja 格式,负责把对话历史 + 工具定义组织成模型能理解的格式)。

    解决官方模板的 5 大问题(官方模板 = 模型发布时自带的原版模板):

    # 修复项 官方模板的问题 → v22 的修复
    1 🎚️ 思考深度控制 · Reasoning Effort Steering 官方 3.8 支持思考预算(xhigh 极深 / high 深 / medium 中 / low 浅),v22 默认注入 xhigh 指令,关思考时自动抑制
    2 ⚡ 恢复快速模式 · Fast Mode 官方 3.8 传 enable_thinking=false(关闭思考)会直接崩溃!v22 解除此限制,可自由开关思考
    3 🧹 修复空思考污染 · Empty Think Bug 官方 3.8 多轮对话会插入空 </think> 块,v22 干净提取思考内容不重复
    4 🔧 通用工具参数 · Universal Tool Arguments 官方 3.8 收到标准 OpenAI(接口规范)字符串参数会 TypeError 崩溃!v22 兼容字典和 JSON 字符串两种格式
    5 🦙 llama.cpp 原生支持 支持 --reasoning-preserve 参数(保留思考、保证前缀缓存 100% 生效)

    🖥️ 支持平台:LM Studio / llama.cpp / vLLM / MLX / KoboldCPP 等一切支持 Hugging Face 模板的引擎。仓库根目录只需一个 chat_template.jinja 文件,适用于所有 Qwen 3.5 / 3.6 / 3.8 模型。

    引入示例

    git clone https://huggingface.co/froggeric/Qwen-Fixed-Chat-Templates
    

    启动参数:

    #!/bin/bash
    # Qwen3.8-27B 启动脚本 - TurboQuant MTP 版 (200K 上下文, 视觉 + 投机解码)
    # 使用 llama-cpp-turboquant-mtp/ (最新 fork fca3093, 支持 draft-mtp)
    # 不依赖旧 b9082 build (无法加载 MTP 版 GGUF)
    
    SERVER="./llama-cpp-turboquant-mtp/build/bin/llama-server"
    MODEL="./models/Qwen3.8-27B-Q3_K_M.gguf"
    MMPROJ="./models/mmproj-BF16.gguf"
    PORT=8080
    
    export LD_LIBRARY_PATH="$(cd "$(dirname "$SERVER")" && pwd):/opt/cuda/lib64:$LD_LIBRARY_PATH"
    
    CPU_THREADS=12
    GPU_LAYERS=99
    # CONTEXT_SIZE=131072
    CONTEXT_SIZE=200000
    BATCH_SIZE=512
    
    echo "Starting Qwen3.8-27B (TurboQuant MTP) with 200K context..."
    ${SERVER} \
      -m "${MODEL}" \
      --mmproj "${MMPROJ}" \
      --chat-template-file ./Qwen-Fixed-Chat-Templates/chat_template.jinja \
      --reasoning-format deepseek \
      --reasoning-preserve \
      -c ${CONTEXT_SIZE} \
      -n -1 \
      -t ${CPU_THREADS} \
      -ngl ${GPU_LAYERS} \
      --parallel 1 \
      --cache-type-k turbo3 \
      --cache-type-v turbo3 \
      --flash-attn on \
      --load-mode mlock \
      --batch-size ${BATCH_SIZE} \
      --ubatch-size 512 \
      --reasoning-budget -1 \
      --spec-type draft-mtp \
      --spec-draft-n-max 3 \
      --spec-draft-p-min 0.75 \
      --host 0.0.0.0 \
      --port ${PORT} \
      --log-disable \
      &
    echo "Server started on http://localhost:${PORT}"
    echo "MMPROJ vision enabled, MTP speculative decoding enabled"
    

    简单测试结果:

    PixPin_2026-08-17_03-48-17.png


  • 显卡很荣幸去见张哥了
    像素盒子像 像素盒子
    随便聊聊 rtx3090 nvidia

    @terry 试了试了,最近不是买了那个华南金牌BD3和128G DDR3 REG ECC嘛,装新的机器上仍然不行,所以我果断送到张哥那里去了,自己瞎折腾反而可能越折腾越糟,不断的断电,上电。
    IMG_3482.jpeg

  • 登录

  • 登录或注册以进行搜索。
  • 第一个帖子
    最后一个帖子
0
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组