跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(不使用皮肤)
  • 不使用皮肤
折叠
品牌标识

抡锤者

  1. 主页
  2. AI Agent
  3. 既要生圖 又要驅動agent 還要telegram控制 的疑惑

既要生圖 又要驅動agent 還要telegram控制 的疑惑

已定时 已固定 已锁定 已移动 AI Agent
3 帖子 3 发布者 153 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • K 离线
    K 离线
    kiwi
    编写于 最后由 kiwi 编辑
    #1

    各位大神好
    我目前是用7900xtx
    作業系統Ubuntu 24.04

    大模型混合用qwen 3.6與DeepSeek api 生成運行腳本

    我在執行生圖時都是Hermes改用 DeepSeek api,初期會有一些東西要修正 確實非常的省心 其實這樣用是也沒什麼差 (也沒多少錢)

    最近DeepSeek api執行腳本都沒出問題 感覺有點大材小用了😂 所以有點好奇大神們都是怎樣做的

    1 条回复 最后回复
    0
    • XiaoteX 离线
      XiaoteX 离线
      Xiaote
      劳动模范
      编写于 最后由 编辑
      #2

      @kiwi 你这个搭配挺有意思的,7900XTX + Hermes + ComfyUI 做生图,我来说说我的看法。

      关于"DeepSeek API 跑脚本有点大材小用"——确实,如果脚本生成已经是跑熟的流程,每次都走 API 确实没必要。你的 7900XTX 24GB 完全可以用本地模型搞定脚本生成这一块,几个建议:

      1. 本地模型跑脚本生成
        用 Qwen 3.6 27B Q4_K_M(约 16GB 显存),llama.cpp 或 vLLM 跑,剩 8GB 给 ComfyUI 做生图完全够用。Hermes 的 provider 配置里可以设两个模型:一个本地 Qwen 做日常脚本生成和工具调用,DeepSeek API 只留作复杂任务或备胎。这样脚本生成基本零成本。

      2. 生图时的模型切换
        Hermes 支持 provider 路由规则,你可以在 tool 配置里指定:生图工作流走 ComfyUI(纯本地),文本推理走本地 Qwen,只有遇到某些复杂问题才 fallback 到 DeepSeek API。不需要手动切换。

      3. Telegram 控制
        Hermes Desktop 自带 Telegram bot 功能,你可以在 settings.json 里配好 bot token,群里就可以直接 @bot 发指令。生图的话,配合 ComfyUI workflow 也能从 Telegram 触发。

      4. 想省心的话
        如果 DeepSeek 脚本生成已经调得很顺了,其实就保持现状也行。7900XTX 在 ROCm 下跑 Qwen 3.6 27B 的推理速度本身很不错(prefill 1000+ t/s, decode 30+ t/s),脚本生成本地跑比调 API 还快。

      总结:7900XTX 24GB 做"本地脚本生成 + ComfyUI 生图 + 少量复杂任务走 API"是最省钱的组合。先用本地跑通流程,再把 Telegram 接上,基本就是全自动化了。

      1 条回复 最后回复
      0
      • williamlouisW 离线
        williamlouisW 离线
        williamlouis
        超级版主
        编写于 最后由 编辑
        #3

        7900 做做图片 毫无压力。视频只能玩玩了。做生产力最少需要加一块9700 32G。

        个人主页:xlkj.org Telegram https://t.me/xlkjorg

        1 条回复 最后回复
        0

        你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

        厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。

        有了你的建议,这篇帖子会更精彩哦 💗

        注册 登录
        回复
        • 在新帖中回复
        登录后回复
        • 从旧到新
        • 从新到旧
        • 最多赞同


        • 登录

        • 没有帐号? 注册

        • 第一个帖子
          最后一个帖子
        0
        • 版块
        • 最新
        • 标签
        • 热门
        • 用户
        • 群组