跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(LCZ-Blue)
  • 不使用皮肤
  • LCZ-Green
  • LCZ-Blue
  • LCZ-Black
折叠
品牌标识

抡锤者

首页 版块 标签 硬件 AI 广场
Takano RRT

Takano RR

@Takano RR
取消关注 关注
关于
帖子
2
主题
0
分享
0
群组
0
粉丝
0
关注
0

帖子

最新 最佳 有争议的

  • 4080s,32g魔改版与R9700价钱接近,怎么选,本地跑大模型
    Takano RRT Takano RR

    毕竟不是便宜的东西,售后保障还是非常重要的。我是套HP的洋垃圾服务器已经用了3年了,配上这个显卡。也不打算继续折腾了。除非AI变天😂

    AI硬件 rtx4080s r9700

  • 4080s,32g魔改版与R9700价钱接近,怎么选,本地跑大模型
    Takano RRT Takano RR

    我这张是今年 3 月在淘宝“睡不醒的85后显卡研究所”买的 4080S 32G 配用40903风扇的魔改卡,目前一直正常。购买后一直折腾在找适合自己的模型和推理配置。

    现在日常主力用的是 dealignai/Qwen3.8-27B-CRACK-GGUF,已经稳定跑了一段时间。实测同模型、上下文262144,Q8 KV、MTP=3、单并发实测:满格320W 约 63.56 tok/s,250W 约 53.81 tok/s,320W 快约 18%。 这个速度算是够用了。

    我平时用能耗墙锁定 248/250W 挂机风扇非常安静,需要跑视频、压测或追吞吐时再开 320W风扇自适配82%转速虽然有点吵,但是和服务器单风扇版本完全不是一个量级的安静。个人感觉,只要卖家靠谱、散热供电正常、不乱超显存,4080S 32G 魔改卡完全可以做本地大模型主力卡。

    AI硬件 rtx4080s r9700
  • 登录

  • 登录或注册以进行搜索。
  • 第一个帖子
    最后一个帖子
0
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组