求助 win11系統下如何實現瀏覽器實時託管

[williamlouis]

补充下。你得花16刀 购买现在活动的 终身窗口一个。

[陳瑋]

@williamlouis 謝謝老闆，那個終身窗口是在哪裡買

[陳瑋]

謝謝大哥的回覆，我今天解決了這個問題腳本可以運行了，又爭取到一筆預算買顯卡

[williamlouis]

@陳瑋 有什么好项目也分润我些。有很多成品。需要可以先看。

浏览器我开发是谷歌有机搜索流量。控制 adspower 实现完美指纹隔离。socks5 隔离地址。自动化仿真人 访问。有需要联系。

[williamlouis]

@陳瑋 还是补充下。就是你可以非常省心的干个外包。开发经验23年。有执照。

[陳瑋]

@williamlouis

@williamlouis 我下回跟老闆提一嘴，肯定是沒問題，agent時代很多行當有大展身手的地方，只不過有些產業不太適合在牆內做，手腳限制太多

[williamlouis]

@陳瑋 你在台湾？那边的行业形势怎么样？

[陳瑋]

@williamlouis 我不是行業內的從業者，主業是室內空氣品控設備，搞無塵室無菌室相關的。
純粹是因為懂點電腦自己瞎玩的，純小白一枚，正好在一些圈子有點人脈跟人聊聊天會發現，很多你認為理所當然簡單的東西其實很多人都不會，並且都有需求

[terry]

@陳瑋 不会你多发帖，大家多少都会回复你，不过你问题要描述清楚，有些基本的东西，你要自己多摸索，比如你问的那个LM Studio的问题，那是很基础的，和AI都无关，就是你自己多点几下就能找到。

[williamlouis]

@陳瑋 ....无关行业的。你那主要使用的是工业小主机比较多。软路由也可以。前端都是com 类感应设备。

[陳瑋]

@terry 老大，那個CUDA的問題，其實我的問題是我家四台電腦只要是win CUDA驅動永遠裝不好重灌win也沒有用，應用程序裡面也都顯示已經安裝cudatoolkit，不過我在ubuntu裡面測試過llama.cpp都是可以識別的。但是在win裡面 ollama、lmstudio永遠找不到顯卡的驅動

只不過平時工作的時候需要用win，才會偶而把lmstudio拿出來用。但每次都覺得找不到這個cuda的問題很刺眼，目前家裡的1650 2050 3080 4070 RX6600XT的VULKAN，全都會碰到這個問題

[williamlouis]

@陳瑋 llama.cpp +Qwen2.5-VL-7B-Instruct-GGUF+mmproj-BF16.gguf. 有Windows 一件包了。你可以试试。做图片没问题。

[terry]

@williamlouis 讲实话他这个问题我真没遇到过，或许这是唯一解决方法了。

[陳瑋]

@terry

@williamlouis

謝謝兩位大哥，其實我也知道我這個問題好像只有我遇到過，但我今天上班的時候有個靈感
如果把cuda_visible_device 從指定數字改成指定顯卡名稱會怎樣，結果回家一試就成功了

[williamlouis]

@陳瑋 发个新帖。正好你可以救救你。

[陳瑋]

@williamlouis 啊哈!我已經自救成功了~~ 謝謝大老

[williamlouis]

@陳瑋 学习下，对你有好处。不要看别人跑什么，你就跑什么。所有人都推荐的东西。对你未必有用。新的组合，更多的组合 往往才能给你惊喜。

[陳瑋]

@williamlouis 好 謝謝大佬，我稍微看了一下你的llama.cpp 我正在研究你的配置，思考怎麼轉移到我公司的電腦上

[陳瑋]

@williamlouis 目前我發現大哥你這個GPU思考層、CPU跑專家層的做法，我手邊沒有合適的環境可以測試，因為我的電腦全是只有32G DDR4的，這樣好像裝不下a35b模型，不過這個思路好像可以用在其他MOE模型上。我想得到的使用場景是在公司，用我不要的tesla p4，結合公司電腦的16Gddr5 ultra5 225 搭建一個間單的moe server給公司員工使用，不過還有幾個想得到的已知問題我需要自己去測試下。
當然如果長輩願意幫我簽核經費去升級到64G是最好的了

[williamlouis]

@陳瑋 配置什么的都不重要。 大模型 就像个积木。如何搭建需要 动脑和动手能力。 还有那个8G 我也是借鉴来的。没空折腾个Windows。搞测试。再有就是8G 连学习机都不配。浪费时间。重点是那个混合模式。很有测试的必要。