抡锤者

其实AI agent很适合部署在NAS，软路由这些24小时长期运行的设备上。

随便玩玩什么配置都可以尝试，真正想挣钱的话，还是推荐要5090 32G，4090 48G。

@R-simi-Kangtao
你的5090显卡肯定要跑NVFP4模型，性能接近Q8比你的Q3强多了。
你的参数-ngl 99太小了，建议新手改成-ngl auto，修改以后肯定超过100t/s

首先通过应用中心安装，不过版本较低

最新版本也可以自己下载fpk手动安装

目前最新版本0.19.0

然后手动设置本地模型，或者在线模型

最后启动Gateway

就可以愉快的聊天了

共享一个完整版的页面
taiji.html

minimax_m3生成的，也不知道八卦搞对了没有。