Your browser does not seem to support JavaScript. As a result, your viewing experience will be diminished, and you have been placed in read-only mode.
Please download a browser that supports JavaScript, or enable it if it's disabled (i.e. NoScript).
https://vramcalculator.com/strata-calculator/ 输入你的配置,查看可以跑哪些QFN 3.8模型,GPU上能放多少个专家 (总共24600个)
有些显卡下面还有网友的速度,(有些比较旧.几天前的跑分) :
专家 总共24600个 不知道怎麼分的, 可能細分到很小的知識體系了
不错,新手可以来测试下。
我的机器是Ubuntu配32G RAM还有单卡AMD 7900xtx 24GB,使用IQ2_XS模型,测试过程硬盘的灯几乎是恒亮一直拼命跑,2-3小时左右我看了一下我的硬盘读取已经2T了,感觉很费硬盘寿命呀,果断换回27B,跟我一样只有32G内存的慎用啊
@艷陽天 SSD,幾乎都是讀取的話,壽命不會掉多少。HDD的話也不適合當N-GRAM用,SEEKTIME太久了。
27B进化也是很猛的,现在都是11-12G权重的跑得就很好了。
你好!看起来您对这段对话很感兴趣,但您还没有一个账号。
厌倦了每次访问都刷到同样的帖子?您注册账号后,您下次访问时都将自动回到上次浏览的位置,并可选择接收新回复的通知(通过电子邮件或推送通知)。您还可以收藏帖子、为帖子点赞,以此向其他社区成员表达您的感谢。
有了你的建议,这篇帖子会更精彩哦 💗