既然版本比较新,无需设置--chat-template-file,会自动提取,去掉 --jinja ^
--chat-template-file chat_template.jinja ^
--reasoning-format deepseek ^ 这三个参数试试, 尤其最后一个。
JamesPhlao
-
新手想問Qwen3.8-27B搭配opencode的問題 -
新手想問Qwen3.8-27B搭配opencode的問題你的llama-server是什么版本? 我一直用opencode + 最新的 llama-server 搭配3.6 3.8的27B来干活,没有出现你说的问题。
注意配置文件opencode.json中,设置你的模型 provider -> llama.cpp -> models 配置qwen3.8 模型时加上
"limit": {
"context": 204800, <==这里用你的llama-server的上下文长度,不然干长时间任务可能超出
"output": 65535
},
至于其它的设置按照qwen3.8的说明来配置就行。qwen3.8的能力很强的,花点时间用起来值得的。
3.8对比3.6 给我最大的惊喜是,开发完之后,会按照需求进行详细测试。全栈应用上开发完成之后,会自动的调用浏览器进行端到端的测试,有兴趣的坛友可以给opencode提供playwright-cli技能。 -
请问有没有人可以帮助提供 AMD AI MAX 395 跑Qwen3.6-27B的速度情况?我想购买一个128G的
- 主要是看中他满载功耗低,
- 统一内存又没有显存焦虑
就是不知道跑Q4_K_M 或者 Q8 ,搭配opencode或者harmes在真实环境下,一般的速度分别是多少?
多谢各位大佬!
-
【Uncencored】Sulphur-2免审查图生视频模型一窥楼主,请问ai max+ 395 跑 qwen3.6-27b Q4_K_M 或者 Q8 的通常速度是多少? 带和不带mtp 速度有多少提升?
-
VLLM和SGlang和llama.cpp选择楼上说的不错。 24G单卡发挥不出那两个的优势。llama.cpp默认够用
-
【RTX4060】【8G显存】运行Qwen3.6 35B A3B APEX-MTP包含两种方式及测试结果I-mini用起来效果如何? 用这个提示词,看看能不能一次写出来: 编写一个网页版的贪吃蛇游戏,需求如下:
1, 普通食物:紫色球形,加10分,游戏启动时放置1个,被吃后立即刷新,没被吃这一直存在;
2, 特殊食物:金色星形,加30分,游戏启动后每间隔 10~30 秒随机出现1个,带脉冲动画和倒计时条,存在8秒
3, 缩小食物:绿色菱形,不加分,游戏启动后每间隔 20~40 秒随机出现1个,吃到后身体缩短3格(最少保留2节身体),带脉冲动画和倒计时条,存在8秒
4, 变长食物:红色正方形,加20分, 游戏启动后每间隔 40~80 秒随机出现1个,吃到后身体变长3格, 永久存在(被吃才消失),最多20个
5, 游戏画布30x30网格, 背景色蓝色,格子间有浅色分割线,中画布600x600
6, 蛇身绿色,椭圆形,蛇头球形,有眼睛,白底黑眼珠,看向前进方向
7, 空格键暂停/继续游戏
8, 仅用方向控制蛇走向,禁止 180° 掉头
9, 页面首次加载和游戏结束时,按回车键可开始新游戏
10, 页面布局:中间为画布,
10.1 画布上方显示当前得分, 蛇的长度, 几秒后将出现的特殊食物。
10.2 画布下方显示累积吃到的食物。 比如: 累积吃到 紫色10 金色 2 绿色 1 红色 1
10.3 画布下方增加一行,显示最近一次事件: 比如吃到金色食物 +30
10.4 游戏结束时在画布上显示结束原因,并提示按Enter键重新开始 -
技术分享:双卡 RTX 5060Ti Blackwell 运行 vLLM 与 LM Studio 性能实测报告楼主这个效果非常不错。看来买新不买旧非常有道理的。
-
Qwen3.6 27b FP8 260K CTX - 准备放弃了难道是魔改的L40S吗?
-
交作业, 7900XTX + Hermes Agent + Qwen3.6-27B 调优过程分享看了你的7900xtx,如果纯跑27B,我还是不入坑了。保持两张16G的羊垃圾,27B-IQ4_NL(理论上比Q4_K_M小一些,智力稳一些), q8_0的kv-cache 256k可以跑,保险一些224k 240k 加mtp一次吐出8k左右能稳定40-50 t/s。 楼主的单卡24可以考虑折腾dflash,据说速度最高可以10倍。