跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(不使用皮肤)
  • 不使用皮肤
折叠
品牌标识

抡锤者

S

stxpnet

@stxpnet
技术大牛 劳动模范
取消关注 关注
关于
帖子
146
主题
17
分享
0
群组
2
粉丝
0
关注
1

帖子

最新 最佳 有争议的

  • 06-21 Hermes 调用本机 Carnice-27B 模型体验 & 模板优化分享
    S stxpnet

    @c0aster 😧
    模型似乎不行,我现在又换模型了:

    hermes0621pm
       killall llama-server 2>/dev/null; sleep 3
             /data/model2/beellma616-kv.cpp/build/bin/llama-server \
      -m  /data/models/Qwopus3.6-27B-v2-MTP-IQ4_XS.gguf \
      -ngl 9999 --props \
      -fa on --metrics  --ctx-size 168000 -n 16000  \
      -ctk kvarn5 -ctv kvarn4 --kv-unified \
      --spec-type mtp --spec-draft-n-max 3 \
      --jinja --no-mmap --mlock -np 1   -b 2048 -ub 512 \
      --host 0.0.0.0 --port 8025 \
      --reasoning off \
        --chat-template-kwargs '{"preserve_thinking":true}' \
      --reasoning-format deepseek --reasoning-budget 768 \
        --chat-template-file /data/model2/qwen3.6-27b-gguf/chat_template-Carnice27B-MTP-opt-v2.jinja \
       --temp 0.72  --top-k 20 --top-p 0.87 --min-p 0.0  --presence-penalty 1.5 --repeat-penalty 1.0
    
    LLM讨论区 hermes

  • 4080&4090不同模型token性能测试
    S stxpnet

    那两个妹儿的微信有没有?

    LLM讨论区
  • 登录

  • 没有帐号? 注册

  • 登录或注册以进行搜索。
  • 第一个帖子
    最后一个帖子
0
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组