跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签 硬件 AI 广场
  1. 主页
  2. 版块
  3. LLM讨论区
  4. 用AWS Sagemaker LoRA 垂直模型,下载下来本地推理,性价比最高

用AWS Sagemaker LoRA 垂直模型,下载下来本地推理,性价比最高

已定时 已固定 已锁定 已移动 LLM讨论区
本地模型
5 帖子 5 发布者 197 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • H QianH 离线
    H QianH 离线
    H Qian
    发表于 最后由 编辑
    #1

    具体方案:

    1. 本地编写与调试 + 云端高性能算力微调 + 本地端侧推理
    2. 微调脚本
    3. Adapter 权重与基础模型合并(Merge)
    4. 用推理脚本在本地测试微调后的效果
    5. 微调 + RAG (检索增强生成)
    6. 封装成一个带界面的本地“个人知识助手”应用
    1 条回复 最后回复
    0
    • 5 离线
      5 离线
      5ccccc
      发表于 最后由 编辑
      #2

      听起来很美好,不知道实际体验怎么样

      1 条回复 最后回复
      0
      • terryT 在线
        terryT 在线
        terry
        超级版主
        发表于 最后由 编辑
        #3

        老弟你这具体方案也太不具体了,听君一席话,如听一席话

        油管:https://www.youtube.com/@抡锤者

        1 条回复 最后回复
        0
        • Hank WangH 离线
          Hank WangH 离线
          Hank Wang
          发表于 最后由 编辑
          #4

          不知所云
          不知所云

          1 条回复 最后回复
          0
          • 云 离线
            云 离线
            云海过客
            发表于 最后由 编辑
            #5

            微调脚本是啥意思,脚本用微调吗,我听过模型微调,但是听老弟这个逻辑能力,不太像炼丹大师

            1 条回复 最后回复
            0
            • terryT terry 于 将此主题从 Mark专区 移至此处

            你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

            厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。

            有了你的建议,这篇帖子会更精彩哦 💗

            注册 登录
            回复
            • 在新帖中回复
            登录后回复
            • 从旧到新
            • 从新到旧
            • 最多赞同


            • 登录

            • 登录或注册以进行搜索。
            • 第一个帖子
              最后一个帖子
            0
            • 版块
            • 最新
            • 标签
            • 热门
            • 用户
            • 群组