好尴尬，清一色的基座优化讨论

[范志刚]

所以锤哥让发东西的时候其实我都在跑这个模块流程，一个人思维能力有限，机器算力也有限，正在做的是影厂的模块树，挺他妈复杂的，天天啪啪的胶水往上糊模块，琐碎死了，虽然是自动流，也得挨个琢磨具体赋能方向，之后就是一个模块连轴推几天规范化这些接口，你弟累你弟苦你弟不说，等你来拯救整个屎堆哈，总倒腾基座有啥意思呢

[范志刚]

赋能包括管线赋能和产线赋能两块，逻辑管线赋能用rag，产线赋能用逻辑丹，不烧丹他们真给你跳门控，这就是我说的国产生态之恶，坑了我一整年，还集体讲故事说这是谁谁和你不够精致的问题，实际根本是在撒谎，太恶了，占位符，生跳，自动关门控，忘了在干啥了，还说这是llm与生俱来的问题，槽纯纯的集体撒谎，这都是他们打造的舆论生态，然而事实不是，随便找个命令遵循度高的模型都不这样，之后就好玩了，这里卡住了国内90%以上的开发者

[范志刚]

锤哥的主题来了哈，产线构架 大模型生态原罪，目前没人说这些

[J Z 0]

呃，每个字都认识，连一起就看不懂了

[johnnybegood]

能一口气说完么。

[范志刚]

嘴笨。。。手也新，不大敢大声说话，这不在等兄弟们的斧正

[范志刚]

就是发现llm板块里不应该都是测试吧。。。想学点各村高招，这锤哥，也不知道打啥破游戏呢，出来玩玩多好

[dardeaw feng]

現在還在玩skill.....這玩意不就是背景注入提示詞而已....
很容易被模型稀疏注意力唬弄
直接做出API 再包成MCP Server
API讓CPU能硬調用 MCP讓GPU能靈活調用 才是能完整的服務

[范志刚]

终于引来高手，我盯上你了@dardeaw feng

[dardeaw feng]

拜託不要盯上我 我渾身不對勁

[范志刚]

发些指点小弟入门的引路文吧，真心求教@dardeaw-feng

[dardeaw feng]

你還在用ollama 還在用muse glimmer 我認為朽木不可雕也

[范志刚]

把我说乐了，好吧，我继续努力，大神加油@dardeaw-feng

[dardeaw feng]

你問的東西都很單純軟體工程解藕的工作呀
你就請AI幫你規劃模塊串接跟方案 多問幾家不就好了 然後丟給信的過的模型去實作呀

[范志刚]

我这基本解耦还没做完，还没做到标准对外服务化设计步骤，感觉我这进度正经还得折腾一番，很多细节赋能没做完，没到mcp阶段，就是看这边都是测试向觉得多少有点伤，盼着锤哥能多给点。上面没问什么，都是已经实施完的步骤，深水区不是要有志同道合的兄弟一起搭伙，自动影线哪是一个人的活呢，目前没真正实现的。所以我也很讨厌moe，框架用muse的30b让他吹牛逼，细节在用ibm跑肉@dardeaw-feng

[dardeaw feng]

..........muse glimmer連垃圾MOE都打不贏.....我用他實作過項目後嚇到就砍了

[范志刚]

还好吧，至少长推指令遵循度比27b系强太多，不追破鞋，就是你说的注意力问题，qwen和ds系连think出来的带否定词的话都会压掉否定词作为条件，你就不被吓到了？@dardeaw-feng

[范志刚]

说，strata专用的两三个模型的这种状况你怎么处理，这个我要学，哈哈不强迫，毕竟这是精华，如果不介意透露就教我一手@dardeaw-feng

[范志刚]

单纯模型解耦要他细节知识储备本身会吓到我，不要刮削整理新鲜的工程设计经验用它们蒸馏来的小印巴几年前灌进去的知识储备吗？@dardeaw-feng

[范志刚]

我这朽木被这些特征缺陷折磨了一整年，一直以为还需要努力，直到换了这种能够框架级完成全部“对话问答”的吓人模型才解决问题，复杂长推中追破鞋的狗都一样会死在天亮复核，从q4到全量，从free到flash再到pro，直到换成ibm，一推一周算是暂时能对付用，求教高手，我的问题出在了哪里@dardeaw-feng