@kukudelaodie 静态IP的速度不如vps.你运营视频频道最好还是vps吧。静态IP的速度都不会很happy。20-50M是快的。我用的都是5M多点。我不需要大流量。美国静态 18元一个月。不限流量，限制速度小于50M。
https://ping0.cc/ip/204.1.88.0
https://ping0.cc/
目前最精准的IP测试工具。分享给大家。
你在开玩笑吗？这个就是个玩具，ipdata.co很准确，我用美帝家宽，第一天评判100%家宽，一个月后，骑的人多了，分数一直下降。
@566656661 claude完全政治化了，希望国产模型能给力。我05年本科毕业的，专业CS，毕业论文是自己写一个操作系统OS从启动到进入16位模式，我当时对操作系统非常痴迷。阅读了毛德操老师的linux kernel 2.4内核的著作，受益匪浅，还有同济大学一位老师的linux kernel 0.01源码分析。物是人非，孩子明年都该高考了。现在从事完全不相干的工作，对AI仅仅是自己的爱好。98年我就开始用VB写程序了，感觉像是昨天。
作者名字刚才写错了，然后翻了下书柜，居然还在
这个claude模型，一个用的超了，所有claude模型都需要冷却！我去年白嫖了15个月pro，上个月月初让我续订，给我的价格是1.99美元一个月，能用一年，再送三个月。感觉不错，就续订了。
但是gemini模型实在太拉！有急事用claude，但额度少的可怜。
我订阅的有X 普通 premium ，现在用的最多的是grok cli，效果很好。
@CHIA-AN-YANG 千万别这样用，违反谷歌TOS的。谷歌对反代api是0容忍，我的所有模型使用权限被谷歌封了半个月，后来超多的用户都抱怨，因为当时tos没有写，所以特赦了一批。后来再反代的，都直接封杀。
https://x.com/i/status/2067181377028538431
OpenAI也在逐渐的open
折腾硬件很是麻烦。两年前买的Dell T5810，没有买华南散件，因为dell的质量的确很牛，二是因为放到家里当homelab的，不需要显卡。没想到两年后，显卡和电源成了制约因素。所以前几天买了蓝宝石7900xtx和1000w电源套装，电源专供显卡供电，还需要买一个同步启动器，拼多多10块钱，只能这样凑合着，想入第二块7900xtx，还放不下了，不想外置。
机箱盖子无法正常盖好，也挺好，llm满载的时候，把盖子挪走，温度降低10度...
/usr/local/bin/llama-server \
-m ./models/Qwen3.6-27B-Uncensored-HauhauCS-Balanced-MTP-Q5_K_P.gguf \
--mmproj ./models/mmproj-Qwen3.6-27B-Uncensored-HauhauCS-Aggressive-f16.gguf \
-c 131072 \
--parallel 1 \
-b 2048 \
-ub 512 \
-fa 1 \
-ngl 99 \
-t 16 \
--spec-type draft-mtp \
--cache-type-k q5_0 \
--cache-type-v q4_1 \
--no-mmap \
--temp 0.4 \
--spec-draft-n-max 3 \
--top-p 0.95 \
--top-k 20 \
--host 0.0.0.0 \
--port 8080 \
--tools all
root@ailab:~# llama-server --version
version: 236 (d5376cf5d)
built with GNU 13.3.0 for Linux x86_64
@kop-wang 这个帖子质量很高！感谢
命令参数如下：
llama-server \
-m ./models/Qwen3.6-27B-Uncensored-HauhauCS-Balanced-MTP-Q5_K_P.gguf \
--mmproj ./models/mmproj-Qwen3.6-27B-Uncensored-HauhauCS-Aggressive-f16.gguf \
-c 131072 \
--parallel 1 \
-b 2048 \
-ub 512 \
-fa 1 \
-ngl 99 \
-t 16 \
--cache-type-k q5_0 \
--cache-type-v q4_1 \
--no-mmap \
--temp 0.4 \
--spec-draft-n-max 3 \
--top-p 0.95 \
--top-k 20 \
--host 0.0.0.0 \
--port 8080
精度提高，默认显存占用降低，上下文提高到了128k，通过了https://lcz.me/post/4295 的测试，答案都正确，上下文还剩余不到点一半。
甜点级别的参数了相当于，后续还会测试。
按照下面这个顺序测试：
@kop-wang 这个帖子质量很高！感谢
命令参数如下：
llama-server \
-m ./models/Qwen3.6-27B-Uncensored-HauhauCS-Balanced-MTP-Q5_K_P.gguf \
--mmproj ./models/mmproj-Qwen3.6-27B-Uncensored-HauhauCS-Aggressive-f16.gguf \
-c 131072 \
--parallel 1 \
-b 2048 \
-ub 512 \
-fa 1 \
-ngl 99 \
-t 16 \
--spec-type draft-mtp
--cache-type-k q5_0 \
--cache-type-v q4_1 \
--no-mmap \
--temp 0.4 \
--top-p 0.95 \
--top-k 20 \
--host 0.0.0.0 \
--port 8080
精度提高，默认显存占用降低，上下文提高到了128k，通过了https://lcz.me/post/4295 的测试，答案都正确，上下文还剩余不到点一半。
甜点级别的参数了相当于，后续还会测试。
按照下面这个顺序测试：
gpt根本用不起了，用的最低档，20分钟后提示我还有8%额度，把对话发给gemini 3.8, 让它继续，我还是心里没底。但是这个gemini 3.8 flash的用量好像几乎是无限的，随便用。
我理解的你说的他们互相沟通，就是两个的上下文，必须要给第三个，然后第三个的上下文必须能装得下，然后由第三个给出结论？我去年正价同时订阅了chatgpt和claude，用github上的项目这么做过，效果很好，相当于左右互搏。有两个repo你参考下，都是基于mcp协议的，但是都好久没有更新了：
https://github.com/RaiAnsar/claude_code-multi-AI-MCP
https://github.com/BeehiveInnovations/pal-mcp-server
应该有更好的，两个不同ai左右互搏，这种想法很好。
/opt/llama.cpp/b10451/llama-b10451/llama-server \
-m ./models/Qwen3.8-27B-Q5_K_M.gguf \
--mmproj ./models/mmproj-F16.gguf \
--ctx-size 131072 \
--parallel 1 \
--device Vulkan0 \
--gpu-layers all \
--flash-attn on \
--threads 16 \
--batch-size 512 \
--ubatch-size 512 \
--cache-type-k q5_0 \
--cache-type-v q5_0 \
--fit off \
--load-mode none \
--warmup \
--spec-type draft-mtp \
--spec-draft-ngl all \
--spec-draft-n-max 3 \
--spec-draft-p-min 0.1 \
--spec-draft-type-k q8_0 \
--spec-draft-type-v q8_0 \
--temperature 1.0 \
--top-p 0.95 \
--top-k 20 \
--min-p 0 \
--presence-penalty 0 \
--repeat-penalty 1 \
--reasoning on \
--reasoning-effort xhigh \
--reasoning-preserve \
--image-min-tokens 1024 \
--host 0.0.0.0 \
--port 8080 \
--metrics \
--log-timestamps
抛砖引玉，希望大家也测试下，有哪些地方还能继续优化的。
7900xtx待机时候功耗不到20w，一般15w以下。环境 proxmox + Ubuntu 26.04 server VM。还跑着其他VMs，总体待机功耗70左右。
其他配置: 2696 V4 + 4x64G DDR4 + 1T SATA SSD+ 18T HDD.
这几天北方降温，我机箱盖子因为各种原因，盖不住，温度满负载不到70度，显卡功耗最高300w。平时待机就是30多度的温度
这个会oom? 上下文是不是太长了点？128k一般够用了。
mtp设置为2也可以。
kv缓存用--cache-type-k q5_0
--cache-type-v q4_1 \ 试试看呢？这样应该能跑q5精度的模型
@566656661 结果如下，让codex替我跑的：
Vulkan 版在 Linux 上 MTP 幾乎無效（GitHub issue #22842）
有效果啊，接受率70%+
