又下单了一张3090 24G， 但是还是有关于AI硬件的迷惑， 求解… …
-
这两天一系列的事情，让我继3070，3080，3090之后又下单了一个3090， 具体情况，我慢慢道来， 想当年……..
我本人不是学计算机专业的，吃饭的家伙也不是人工智能相关，甚至都不是智能相关，平时一行代码都不用编，只是因为以前父亲的生意跟IT有关，他从小就给我玩Apple II, 286,386 ,486一路玩上来， 但后来因为跟家庭关系的原因，没有走这条路， 只是还保留着对这个东西的兴趣，男人一辈子是少年么。
前几年个人PC上用的 3070 8G， 其实比较早就关注本地跑大模型的事了， 记得很久前就在电脑上跑过机器学习， 用猫猫狗狗的图片进行训练， 然后让电脑识别图片， 判断是猫概率大， 还是狗概率大， 那个时候非常初级， 也是好奇玩玩， 看看什么叫机器学习。
后来GPT大模型火爆，当时只知道需要在线跑，完全不知道本地还能跑模型，直到有一次想在本地弄TTS， 下载了一个整合包， 才知道本地模型的部署和用法。
后来也玩了玩本地RAG，觉得都比较笨，不好用，因为那时候模型都比较小
再后来知道本地跑真正的“大”模型的概念，但是心想我才8G显存，有什么好跑的，所以一直没有在意。
直到有一个关键转折点，某天我用lm studio，把Qwen3.5 35B A3B 跑起来了， 8G显存， 居然也有 1X t/s 的速度， 我突然看到了点希望， 于是下载了一大堆模型试验一下， 但是结果有点失望， 也就是这种专家模型能跑起来， 密集模型都直接装载到 CPU 内存了， 直接干到 0.5-1 t/s 。但是让我看到了可以玩的希望。
于是当时在老特的视频加上一众up主的“忽悠“下， 直接去中关村实地考察，在科贸大厦转了好几家显卡店，最终找到一家门店很大，自己还开维修店的，经营了15年以上的店铺，买了一张3090， 当时价格谈到 5100+50元 ， 50 是一年店保的保费， 既然连保费都单算， 说明价格确实打到底了。。。那一阵还纠结过 7900XTX很多天，最中意的一个是 4900的全新未拆封蓝宝石 7900XTX!! 但后来还是觉得CUDA比较重要， 尤其对入门选手来说， 还是n卡生态更有用一些。
就这样把第一张3090带回家，顶着涡轮卡巨大的噪音，很兴奋地测了之前没跑通或者跑的费劲的模型， 一一成功， 甚至 122B A10B 的模型也跑了起来，在20 t/s 左右晃悠，居然能用了！ 当时的兴奋溢于言表。
后来就玩各种龙虾，hermes， 各种 xxxxcode , 各种 llama, vllm ， 各种新名词 promtp , harness ,loop 新出了什么东西就试试， 玩玩， 跑跑， 看看， 直到前两周觉得24G显存不够了， “我要打更多”， 但3090已经涨价到离谱（相对我当初的购买价）， 心理上还是不能接受的， 于是又上了块 3080 20G， sglang跑非对称的张量并行 TP=2， 又看到了新的希望， 尤其是看论坛里几位大神用 3090 nvlink 跑的结果， 照抄作业很成功， 让我蠢蠢欲动， 因为我计算下来， 3080+3090 比 3090 nvlink 要差出去30% ， 且这块3090只能当3080用。
正好这两天老特在讲京东自营3090的事， 不管老特实际上说没说过这句话： 但是我听到耳朵里“这是千载难逢的好时机” ， 于是又跟之前的显卡店订了一块 3090 。。。 真是头脑一热。 3080也不打算卖了， 准备插到我另外一台电脑去， 弄个远程24小时服务器。
啰哩啰唆说到这， 我的迷思才来到
我到底在做什么？
想当年玩自行车也是， 从2000块的车，被忽悠到8000， 然后20000， 然后 10W+ ， 最后一年也骑不了几回，强身健体没看到，却是看到了“贵圈真乱”，到今年二手价格比腰斩还惨，甚至是膝盖斩。
那我现在在做什么？
我不像论坛里面一些大神， 用AI硬件创造价值、产生利润，甚至养家糊口，只是纯爱好，纯好玩， 那会不会最后又像玩其他东西一样， 玩了个寂寞？ 可能会有人说，刚玩到3090， 还早着呢， 其实当初玩了3090一阵后，我6w块定了一个哥们的 rtxpro6000, 但是因为种种外部原因卡住了，没有到手，现在并没有因为没有到手而懊悔，而是想起那一刻我反而冷静了。
现在看这AI硬件疯狂的样子， 会不会有点像当初家里积攒食盐一样？ 其实并不缺， 全是心理作用呢？
思维越来越混乱了， 也越来越混沌， 就好像跟女骑友在野外深入交流后大脑的空虚。
当你凝视深渊时，深渊也在凝视你。
求解，求叫醒。
-
所以每个领域都有“装备党”、“器材党”，所谓差生文具多。
这并不是一种贬义的说法，对于一个事物，每个人有每个人的理解和解读，我认为只要你问心无愧就是对的。但核心就是要认清自己的实际目的，不要披着实用之名，行装备党之实，就好。
我个人挑工具的习惯是从需求出发的。即我想达到目的A：
1、有哪些方案。
2、这些方案的价格如何，哪些我能承受。
3、买我能承受的最好的方案（90%的情境下也是最贵的）。 -
@kop-wang 人没有需求，只是纯玩，就真的跟咸鱼一样么？
-
您其实不缺钱。。。。然而现在的风气，容不得我们再拿钱出去ktv, 泡妞，乱78糟。。。。
唯有正正经经干一些事情。。。 -
您其实不缺钱。。。。然而现在的风气，容不得我们再拿钱出去ktv, 泡妞，乱78糟。。。。
唯有正正经经干一些事情。。。@imbiplaza-ASUS 哈哈哈，看到正经事情也是笑出声了。不过确实道出心声
-
社会科学发展到现在，情绪价值反而对个人是最重要的。因为它决定了你的寿命。和你的健康完全挂钩。
开心就好。
只要你高兴。
