求助 win11系統下如何實現瀏覽器實時託管

[williamlouis]

@陳瑋 学习下，对你有好处。不要看别人跑什么，你就跑什么。所有人都推荐的东西。对你未必有用。新的组合，更多的组合 往往才能给你惊喜。

[陳瑋]

@williamlouis 好 謝謝大佬，我稍微看了一下你的llama.cpp 我正在研究你的配置，思考怎麼轉移到我公司的電腦上

[陳瑋]

@williamlouis 目前我發現大哥你這個GPU思考層、CPU跑專家層的做法，我手邊沒有合適的環境可以測試，因為我的電腦全是只有32G DDR4的，這樣好像裝不下a35b模型，不過這個思路好像可以用在其他MOE模型上。我想得到的使用場景是在公司，用我不要的tesla p4，結合公司電腦的16Gddr5 ultra5 225 搭建一個間單的moe server給公司員工使用，不過還有幾個想得到的已知問題我需要自己去測試下。
當然如果長輩願意幫我簽核經費去升級到64G是最好的了

[williamlouis]

@陳瑋 配置什么的都不重要。 大模型 就像个积木。如何搭建需要 动脑和动手能力。 还有那个8G 我也是借鉴来的。没空折腾个Windows。搞测试。再有就是8G 连学习机都不配。浪费时间。重点是那个混合模式。很有测试的必要。