跳转至内容
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(不使用皮肤)
  • 不使用皮肤
折叠
品牌标识

抡锤者

书

书呆子

@书呆子
关于
帖子
8
主题
1
分享
0
群组
0
粉丝
0
关注
0

帖子

最新 最佳 有争议的

  • 为什么我的256G内存+24G显存无法让LM Studio跑deepseek-v4-flash?
    书 书呆子

    @kos-or 我怕显存不够,已经尽量降低显存占用了,但还是根本无法加载模型。速度快慢是一回事,能不能运行是另外一回事。实在不行也只有尝试其它模型了。

    LLM讨论区

  • 为什么我的256G内存+24G显存无法让LM Studio跑deepseek-v4-flash?
    书 书呆子

    LTX、WAN、Z Image这三个模型对显存或者内存的要求都不高,我的设备肯定是可以运行的,但貌似只能用在comfyUI中(我对这个不了解,虽然下载了但还没正儿八经用过),从来没听说谁在LM Studio或者Ollama、LAMMA.CPP上面用过。

    LLM讨论区

  • 为什么我的256G内存+24G显存无法让LM Studio跑deepseek-v4-flash?
    书 书呆子

    我只是觉得很难理解,为什么LM Studio官方提供的下载链接,费了好大力气下载下来,最后居然不能运行。另外像LTX、WAN、Z Image这些图像生成模型也都无法在LM Studio中加载,出错信息与上面deepseek是相同的。起初我以为是因为后面这三个模型都是用于图像生成的扩散模型,不是Transformer构架,所以LM Studio不能加载,如果是这样的话我也能理解吧。但是现在连deepseek都不能加载,这ds不可能不是transformer构架吧!所以我实在非常迷惑,不知道这其中的原因。是LM Studio太拉垮?还是他们上传的deepseek-v4-flash量化版本有问题?

    LLM讨论区

  • 为什么我的256G内存+24G显存无法让LM Studio跑deepseek-v4-flash?
    书 书呆子

    @Xiaote 好吧,我去试试看,谢谢了!

    LLM讨论区

  • 为什么我的256G内存+24G显存无法让LM Studio跑deepseek-v4-flash?
    书 书呆子

    @terry 我的主板4个插槽,64G*4。现在顾不上带宽问题,暂时只想让deepseek先跑起来,但是好像不行。Fast LLM是另外一个跟Ollama类似的大模型平台是吗?

    LLM讨论区

  • 为什么我的256G内存+24G显存无法让LM Studio跑deepseek-v4-flash?
    书 书呆子

    @johnnybegood 速度极慢,我不知道怎么看速度,目测的话Kimi-K2.6大约2-5Token/s,MiniMax M2.5 UD可能要快一些。

    LLM讨论区

  • 为什么我的256G内存+24G显存无法让LM Studio跑deepseek-v4-flash?
    书 书呆子

    @johnnybegood 是的,8T硬盘

    LLM讨论区

  • 为什么我的256G内存+24G显存无法让LM Studio跑deepseek-v4-flash?
    书 书呆子

    b0ab758b-6c3f-466d-8d72-f95a0007f901-image.jpeg
    3edc093e-5bf5-480e-8e6f-b7bd4cbf0424-image.jpeg
    08acdaf3-270e-4b7e-a377-4c42c7b617ab-image.jpeg
    bfe78d50-1840-4d3d-b21e-6abf9b63a63e-image.jpeg

    我下载了4个不同版本的deepseek v4 flash,尺寸在160G-180G之间。全部都无法加载。每次加载都提示最后那个图片。我的电脑能加载体积更大的Kimi-K2.6,MiniMax M2.5 UD(180G)也可以正常问答,但却无法加载deepseek,这是为什么?我已经尽量在参数设置中把对显存的要求降得很低了。望各位大神赐教一下,谢谢!我的电脑配置是Ryzen 5 7600X+256G内存+3090显卡24G显存。

    LLM讨论区
  • 登录

  • 没有帐号? 注册

  • 登录或注册以进行搜索。
  • 第一个帖子
    最后一个帖子
0
  • 版块
  • 最新
  • 标签
  • 热门
  • 用户
  • 群组