跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签
硬件
装备秀
AI 广场 App
JamesPhlaoJ

JamesPhlao

@JamesPhlao
取消关注 关注
关于
帖子
9
主题
1
分享
0
群组
0
粉丝
0
关注
0

帖子

最新 最佳 有争议的

  • 新手想問Qwen3.8-27B搭配opencode的問題
    JamesPhlaoJ JamesPhlao
    AI Agent qwen-27b open-code

    既然版本比较新,无需设置--chat-template-file,会自动提取,去掉 --jinja ^
    --chat-template-file chat_template.jinja ^
    --reasoning-format deepseek ^ 这三个参数试试, 尤其最后一个。


  • 新手想問Qwen3.8-27B搭配opencode的問題
    JamesPhlaoJ JamesPhlao
    AI Agent qwen-27b open-code

    你的llama-server是什么版本? 我一直用opencode + 最新的 llama-server 搭配3.6 3.8的27B来干活,没有出现你说的问题。
    注意配置文件opencode.json中,设置你的模型 provider -> llama.cpp -> models 配置qwen3.8 模型时加上
    "limit": {
    "context": 204800, <==这里用你的llama-server的上下文长度,不然干长时间任务可能超出
    "output": 65535
    },
    至于其它的设置按照qwen3.8的说明来配置就行。qwen3.8的能力很强的,花点时间用起来值得的。
    3.8对比3.6 给我最大的惊喜是,开发完之后,会按照需求进行详细测试。全栈应用上开发完成之后,会自动的调用浏览器进行端到端的测试,有兴趣的坛友可以给opencode提供playwright-cli技能。


  • 请问有没有人可以帮助提供 AMD AI MAX 395 跑Qwen3.6-27B的速度情况?
    JamesPhlaoJ JamesPhlao
    随便聊聊 amd

    我想购买一个128G的

    1. 主要是看中他满载功耗低,
    2. 统一内存又没有显存焦虑
      就是不知道跑Q4_K_M 或者 Q8 ,搭配opencode或者harmes在真实环境下,一般的速度分别是多少?

    多谢各位大佬!


  • 【Uncencored】Sulphur-2免审查图生视频模型一窥
    JamesPhlaoJ JamesPhlao
    LLM讨论区 本地模型 llama.cpp 视频生成 图片生成

    楼主,请问ai max+ 395 跑 qwen3.6-27b Q4_K_M 或者 Q8 的通常速度是多少? 带和不带mtp 速度有多少提升?


  • VLLM和SGlang和llama.cpp选择
    JamesPhlaoJ JamesPhlao
    LLM讨论区 llama.cpp vllm sg-lang

    楼上说的不错。 24G单卡发挥不出那两个的优势。llama.cpp默认够用


  • 【RTX4060】【8G显存】运行Qwen3.6 35B A3B APEX-MTP包含两种方式及测试结果
    JamesPhlaoJ JamesPhlao
    AI硬件 llama.cpp rtx4060 nvidia

    I-mini用起来效果如何? 用这个提示词,看看能不能一次写出来: 编写一个网页版的贪吃蛇游戏,需求如下:
    1, 普通食物:紫色球形,加10分,游戏启动时放置1个,被吃后立即刷新,没被吃这一直存在;
    2, 特殊食物:金色星形,加30分,游戏启动后每间隔 10~30 秒随机出现1个,带脉冲动画和倒计时条,存在8秒
    3, 缩小食物:绿色菱形,不加分,游戏启动后每间隔 20~40 秒随机出现1个,吃到后身体缩短3格(最少保留2节身体),带脉冲动画和倒计时条,存在8秒
    4, 变长食物:红色正方形,加20分, 游戏启动后每间隔 40~80 秒随机出现1个,吃到后身体变长3格, 永久存在(被吃才消失),最多20个
    5, 游戏画布30x30网格, 背景色蓝色,格子间有浅色分割线,中画布600x600
    6, 蛇身绿色,椭圆形,蛇头球形,有眼睛,白底黑眼珠,看向前进方向
    7, 空格键暂停/继续游戏
    8, 仅用方向控制蛇走向,禁止 180° 掉头
    9, 页面首次加载和游戏结束时,按回车键可开始新游戏
    10, 页面布局:中间为画布,
    10.1 画布上方显示当前得分, 蛇的长度, 几秒后将出现的特殊食物。
    10.2 画布下方显示累积吃到的食物。 比如: 累积吃到 紫色10 金色 2 绿色 1 红色 1
    10.3 画布下方增加一行,显示最近一次事件: 比如吃到金色食物 +30
    10.4 游戏结束时在画布上显示结束原因,并提示按Enter键重新开始


  • 技术分享:双卡 RTX 5060Ti Blackwell 运行 vLLM 与 LM Studio 性能实测报告
    JamesPhlaoJ JamesPhlao
    AI硬件 vllm 多卡部署 rtx5060

    楼主这个效果非常不错。看来买新不买旧非常有道理的。


  • Qwen3.6 27b FP8 260K CTX - 准备放弃了
    JamesPhlaoJ JamesPhlao
    LLM讨论区 本地模型 qwen-27b 量化

    难道是魔改的L40S吗?


  • 交作业, 7900XTX + Hermes Agent + Qwen3.6-27B 调优过程分享
    JamesPhlaoJ JamesPhlao
    AI硬件 7900xtx hermes

    看了你的7900xtx,如果纯跑27B,我还是不入坑了。保持两张16G的羊垃圾,27B-IQ4_NL(理论上比Q4_K_M小一些,智力稳一些), q8_0的kv-cache 256k可以跑,保险一些224k 240k 加mtp一次吐出8k左右能稳定40-50 t/s。 楼主的单卡24可以考虑折腾dflash,据说速度最高可以10倍。

  • 登录

  • 登录或注册以进行搜索。
  • 第一个帖子
    最后一个帖子
0
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组