150B模型很奇怪，这个尺寸就是特么的蛋疼尺寸，卡128G小主机不舒服的尺寸。希望有点来头，这分数看了老夫睡不着，但很困，是真的吗？

小米对标HW久了。可信度低的一批。
也希望它能真的争气一次。别一卡就卡脸。

现在中美大模型，不管是哪家。不会有什么全能型碾压级的优势的。 各家都差不太多只是风味不同。 有人逻辑强，有人发散好。 有人速度快但智力稍低。

@williamlouis 说:

小米对标HW久了。可信度低的一批。
也希望它能真的争气一次。别一卡就卡脸。

小米营销最大的成功就是 大家觉得他跟华为一个量级

我感觉本地部署ai 快成hifi圈子了。
一套系统折腾很久，刚用上没几天。就有新的东西出来，怎么怎么好怎么提升 ，就想去折腾试试。

@Bunsei 我现在真觉得写代码还是得用线上模型，本地哪怕是能用，但是速度也是天差地别。

@Bunsei 说:

@张光璞 说:

现在中美大模型，不管是哪家。不会有什么全能型碾压级的优势的。 各家都差不太多只是风味不同。 有人逻辑强，有人发散好。 有人速度快但智力稍低。

编码上都大差不差，现在越来越注重模型的性价比，性能够用的基础上吞吐量越快，价格越便宜就越收到青睐。 我倒是真的希望能有一款侧重文学的大模型，可惜现在的环境根本不现实，都是卯着劲冲Agent 和code 能力。

古早deepseek R1 可以满足你

@Bunsei 得等等Q4量化版

@Bunsei 我看了一下它现在FLash 178G , 我显存+内存 176G， 只要他能再压缩个 20G, 我估计勉强能用起来看看。

@johnnybegood 说:

@Bunsei 我看了一下它现在FLash 178G , 我显存+内存 176G， 只要他能再压缩个 20G, 我估计勉强能用起来看看。

这边建议直接加内存哟~~~

XiaomiMiMo/MiMo-V2.6-Flash-RL 约 159B 這個4bit 本地的機器大概勉強可以推得動

ProCreations/MiMo-V2.6-Flash-RL-NVFP4
若要下載完整模型，至少預留約 194 GB，實際整包空間需再加 auxiliary files。

我的機器推的話大概只有10-13 TPS , 無法產生足夠的生產力