跳转至内容
  • 首页
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(不使用皮肤)
  • 不使用皮肤
折叠
品牌标识

抡锤者

JamesPhlaoJ

JamesPhlao

@JamesPhlao
取消关注 关注
关于
帖子
7
主题
1
分享
0
群组
0
粉丝
0
关注
0

帖子

最新 最佳 有争议的

  • 请问有没有人可以帮助提供 AMD AI MAX 395 跑Qwen3.6-27B的速度情况?
    JamesPhlaoJ JamesPhlao

    我想购买一个128G的

    1. 主要是看中他满载功耗低,
    2. 统一内存又没有显存焦虑
      就是不知道跑Q4_K_M 或者 Q8 ,搭配opencode或者harmes在真实环境下,一般的速度分别是多少?

    多谢各位大佬!

    随便聊聊 amd

  • 【Uncencored】Sulphur-2免审查图生视频模型一窥
    JamesPhlaoJ JamesPhlao

    楼主,请问ai max+ 395 跑 qwen3.6-27b Q4_K_M 或者 Q8 的通常速度是多少? 带和不带mtp 速度有多少提升?

    LLM讨论区

  • VLLM和SGlang和llama.cpp选择
    JamesPhlaoJ JamesPhlao

    楼上说的不错。 24G单卡发挥不出那两个的优势。llama.cpp默认够用

    LLM讨论区 llama.cpp vllm sg-lang

  • 【RTX4060】【8G显存】运行Qwen3.6 35B A3B APEX-MTP包含两种方式及测试结果
    JamesPhlaoJ JamesPhlao

    I-mini用起来效果如何? 用这个提示词,看看能不能一次写出来: 编写一个网页版的贪吃蛇游戏,需求如下:
    1, 普通食物:紫色球形,加10分,游戏启动时放置1个,被吃后立即刷新,没被吃这一直存在;
    2, 特殊食物:金色星形,加30分,游戏启动后每间隔 10~30 秒随机出现1个,带脉冲动画和倒计时条,存在8秒
    3, 缩小食物:绿色菱形,不加分,游戏启动后每间隔 20~40 秒随机出现1个,吃到后身体缩短3格(最少保留2节身体),带脉冲动画和倒计时条,存在8秒
    4, 变长食物:红色正方形,加20分, 游戏启动后每间隔 40~80 秒随机出现1个,吃到后身体变长3格, 永久存在(被吃才消失),最多20个
    5, 游戏画布30x30网格, 背景色蓝色,格子间有浅色分割线,中画布600x600
    6, 蛇身绿色,椭圆形,蛇头球形,有眼睛,白底黑眼珠,看向前进方向
    7, 空格键暂停/继续游戏
    8, 仅用方向控制蛇走向,禁止 180° 掉头
    9, 页面首次加载和游戏结束时,按回车键可开始新游戏
    10, 页面布局:中间为画布,
    10.1 画布上方显示当前得分, 蛇的长度, 几秒后将出现的特殊食物。
    10.2 画布下方显示累积吃到的食物。 比如: 累积吃到 紫色10 金色 2 绿色 1 红色 1
    10.3 画布下方增加一行,显示最近一次事件: 比如吃到金色食物 +30
    10.4 游戏结束时在画布上显示结束原因,并提示按Enter键重新开始

    AI硬件 llama.cpp rtx4060 nvidia

  • 技术分享:双卡 RTX 5060Ti Blackwell 运行 vLLM 与 LM Studio 性能实测报告
    JamesPhlaoJ JamesPhlao

    楼主这个效果非常不错。看来买新不买旧非常有道理的。

    AI硬件 vllm 多卡部署

  • Qwen3.6 27b FP8 260K CTX - 准备放弃了
    JamesPhlaoJ JamesPhlao

    难道是魔改的L40S吗?

    LLM讨论区

  • 交作业, 7900XTX + Hermes Agent + Qwen3.6-27B 调优过程分享
    JamesPhlaoJ JamesPhlao

    看了你的7900xtx,如果纯跑27B,我还是不入坑了。保持两张16G的羊垃圾,27B-IQ4_NL(理论上比Q4_K_M小一些,智力稳一些), q8_0的kv-cache 256k可以跑,保险一些224k 240k 加mtp一次吐出8k左右能稳定40-50 t/s。 楼主的单卡24可以考虑折腾dflash,据说速度最高可以10倍。

    AI硬件 7900xtx hermes
  • 登录

  • 没有帐号? 注册

  • 登录或注册以进行搜索。
  • 第一个帖子
    最后一个帖子
0
  • 首页
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组