跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签 硬件 AI 广场
  1. 主页
  2. 版块
  3. LLM讨论区
  4. 假如我自己组建Qwen3.8 27b 服务器, 160 tps

假如我自己组建Qwen3.8 27b 服务器, 160 tps

已定时 已固定 已锁定 已移动 LLM讨论区
qwen-27b服务器
23 帖子 11 发布者 526 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • Quanta MagicQ 离线
    Quanta MagicQ 离线
    Quanta Magic
    编写于 最后由 编辑
    #1

    我目前想做小型提供商,两种计费方案

    • 按token 算
    • 包日无限token

    这两种哪种大家会接受哪种比较多?
    多少钱会接受如果包日的话?

    MK CHAOM 1 条回复 最后回复
    0
    • Quanta MagicQ Quanta Magic

      我目前想做小型提供商,两种计费方案

      • 按token 算
      • 包日无限token

      这两种哪种大家会接受哪种比较多?
      多少钱会接受如果包日的话?

      MK CHAOM 离线
      MK CHAOM 离线
      MK CHAO
      德高望重
      编写于 最后由 编辑
      #2

      @Quanta-Magic 我覺得你問錯地方了,這邊都是愛折騰的,你問10個可能9個已經有本地的Qwen3.8了,哈哈哈。

      1 条回复 最后回复
      4
      • terryT 离线
        terryT 离线
        terry
        超级版主
        编写于 最后由 terry 编辑
        #3

        要买你这种方案的人不在这个论坛。我们可以一个月花几百一千给在线API,但都是给DeepSeek这样的大厂的,要用Qwen3.8 27b,自己就动手了。就光跑路这一条,你们就打不开市场。

        油管:https://www.youtube.com/@抡锤者

        1 条回复 最后回复
        2
        • imbiplaza ASUSI 离线
          imbiplaza ASUSI 离线
          imbiplaza ASUS
          至尊王者
          编写于 最后由 imbiplaza ASUS 编辑
          #4

          我连手搓seedance 都做一整套了。。。。给钱?呵呵呵。。。

          https://lcz.me/project/dcs

          1 条回复 最后回复
          1
          • A 离线
            A 离线
            applejuice
            技术大牛 劳动模范
            编写于 最后由 编辑
            #5

            最重要的是 你的服务能便宜过ds flash 吗?

            1 条回复 最后回复
            1
            • Quanta MagicQ 离线
              Quanta MagicQ 离线
              Quanta Magic
              编写于 最后由 编辑
              #6

              哈哈 感谢🙏大家,省了我钻牛角尖的时间!
              我其实可能要去看看东南亚那边市场,毕竟并不是每个国家都有ds

              Tony WangT imbiplaza ASUSI 2 条回复 最后回复
              0
              • Quanta MagicQ Quanta Magic

                哈哈 感谢🙏大家,省了我钻牛角尖的时间!
                我其实可能要去看看东南亚那边市场,毕竟并不是每个国家都有ds

                Tony WangT 在线
                Tony WangT 在线
                Tony Wang
                超级版主
                编写于 最后由 编辑
                #7

                @Quanta-Magic

                去审查是个思路, 不过要确保你提供的服务合法.

                1 条回复 最后回复
                0
                • Quanta MagicQ 离线
                  Quanta MagicQ 离线
                  Quanta Magic
                  编写于 最后由 编辑
                  #8

                  @tony-wang 对写代码没什么影响吧?为什么要去审查?

                  CS6C 1 条回复 最后回复
                  0
                  • Tony WangT 在线
                    Tony WangT 在线
                    Tony Wang
                    超级版主
                    编写于 最后由 编辑
                    #9

                    我的意思是, 你要做生意, 就要分析:
                    1, 有哪些需求没有被很好地满足.
                    2,有什么样的解决方案.
                    3,你有什么样的能力.

                    在此基础上, 你再去做你的用户画像, 服务设计, 商业模式.

                    有coding技能的人群, 哪怕是能够vibe coding的人群, 你单纯提供算力, 无法与大型AI运营商竞争, 你的电费, 运维, 折旧 核算下来, 一定比它们高.

                    就算你没有研发费用, 而且是MIT/Apache许可证. 那么你这个生意的核心是拼规模, 拼成本. 你没有优势.

                    这群人也是对AI拥抱程度最高的人, 你也无法用信息差, 能力差来收割他们.

                    至于去审查.
                    1, 这是普遍的强需求
                    2, 有大量AI低端人口
                    3, 服务的二次开发相对比较明确
                    ......

                    当然我不是说只有去审查这一条路. 我的意思是你要满足特定用户的特定需求, 并且你还要有一定的竞争力.

                    单纯提供算力, 你需要找到特定场景, 服务给特定人群, 而且最好能够二次开发, 提供特定的服务.

                    在此基础上, 再研究收费和计费.

                    1 条回复 最后回复
                    0
                    • Tony WangT 在线
                      Tony WangT 在线
                      Tony Wang
                      超级版主
                      编写于 最后由 编辑
                      #10

                      再比如, 你提供强审查的产品, 给学校, 政府机关, 也是一条思路.

                      1 条回复 最后回复
                      0
                      • Quanta MagicQ Quanta Magic

                        @tony-wang 对写代码没什么影响吧?为什么要去审查?

                        CS6C 离线
                        CS6C 离线
                        CS6
                        技术大牛 劳动模范
                        编写于 最后由 编辑
                        #11

                        網路服務需要工信部牌照吧...我之前公司弄過超麻煩,而且你這個算是電信雲端計算服務?我記得不只一張牌照要申請吧....
                        東南亞當然不需要這些牌照,但問題是你機房設在哪邊?有沒有符合當地國家的法規?
                        那還有連線速度跟封包延遲....
                        包日无限token 比較香,但要看你能給啥 gateway

                        1 条回复 最后回复
                        0
                        • Quanta MagicQ Quanta Magic

                          哈哈 感谢🙏大家,省了我钻牛角尖的时间!
                          我其实可能要去看看东南亚那边市场,毕竟并不是每个国家都有ds

                          imbiplaza ASUSI 离线
                          imbiplaza ASUSI 离线
                          imbiplaza ASUS
                          至尊王者
                          编写于 最后由 编辑
                          #12

                          @Quanta-Magic
                          南洋。。。我正在开源给他们免费用,教他们用 xd。。。

                          https://lcz.me/project/dcs

                          1 条回复 最后回复
                          1
                          • Quanta MagicQ 离线
                            Quanta MagicQ 离线
                            Quanta Magic
                            编写于 最后由 编辑
                            #13

                            @imbiplaza-asus 开源什么啊? 不是没有显卡,开源也没用吧?

                            imbiplaza ASUSI 1 条回复 最后回复
                            0
                            • Leon YL 离线
                              Leon YL 离线
                              Leon Y
                              德高望重
                              编写于 最后由 编辑
                              #14

                              我们南洋。。。也没那么落后吧

                              imbiplaza ASUSI 1 条回复 最后回复
                              2
                              • Leon YL Leon Y

                                我们南洋。。。也没那么落后吧

                                imbiplaza ASUSI 离线
                                imbiplaza ASUSI 离线
                                imbiplaza ASUS
                                至尊王者
                                编写于 最后由 编辑
                                #15

                                @Leon-Y
                                教课骗吃的很多。。。。比如:交了学费,教你用即梦,我调侃倒不如直接把学费的钱交给即梦

                                https://lcz.me/project/dcs

                                Leon YL 1 条回复 最后回复
                                0
                                • Quanta MagicQ Quanta Magic

                                  @imbiplaza-asus 开源什么啊? 不是没有显卡,开源也没用吧?

                                  imbiplaza ASUSI 离线
                                  imbiplaza ASUSI 离线
                                  imbiplaza ASUS
                                  至尊王者
                                  编写于 最后由 编辑
                                  #16

                                  @Quanta-Magic
                                  没显卡斋吹水,会快乐点吗

                                  https://lcz.me/project/dcs

                                  1 条回复 最后回复
                                  0
                                  • imbiplaza ASUSI imbiplaza ASUS

                                    @Leon-Y
                                    教课骗吃的很多。。。。比如:交了学费,教你用即梦,我调侃倒不如直接把学费的钱交给即梦

                                    Leon YL 离线
                                    Leon YL 离线
                                    Leon Y
                                    德高望重
                                    编写于 最后由 编辑
                                    #17

                                    @imbiplaza-ASUS 即梦是什么?

                                    1 条回复 最后回复
                                    0
                                    • Leon YL 离线
                                      Leon YL 离线
                                      Leon Y
                                      德高望重
                                      编写于 最后由 编辑
                                      #18

                                      哦,Seedance, 第一次听说“即梦“这个名字

                                      terryT 1 条回复 最后回复
                                      0
                                      • BunseiB 离线
                                        BunseiB 离线
                                        Bunsei
                                        德高望重
                                        编写于 最后由 编辑
                                        #19

                                        这个Qwen3.8-27B就很纠结,要用的基本都是本地场景,因为种种原因不能用云服务。如果要用到云服务可能会直接考虑DeepSeek-V4-Flash、GLM5.3等。而且他推理成本很高,你如果提供的是满血无审查的Qwen3.8-Flash-Next会好很多。

                                        1 条回复 最后回复
                                        0
                                        • Leon YL Leon Y

                                          哦,Seedance, 第一次听说“即梦“这个名字

                                          terryT 离线
                                          terryT 离线
                                          terry
                                          超级版主
                                          编写于 最后由 terry 编辑
                                          #20

                                          @Leon-Y 完了,暴露了,刚通网?字节的另一个割韭菜产品,能快速出产品,底层还是seed家族

                                          油管:https://www.youtube.com/@抡锤者

                                          Leon YL 1 条回复 最后回复
                                          0

                                          你好!看起来您对这段对话很感兴趣,但您还没有一个账号。

                                          厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。

                                          有了你的建议,这篇帖子会更精彩哦 💗

                                          注册 登录
                                          回复
                                          • 在新帖中回复
                                          登录后回复
                                          • 从旧到新
                                          • 从新到旧
                                          • 最多赞同


                                          • 登录

                                          • 登录或注册以进行搜索。
                                          • 第一个帖子
                                            最后一个帖子
                                          0
                                          • 版块
                                          • 最新
                                          • 标签
                                          • 热门
                                          • 用户
                                          • 群组