【直播】4卡R9700从采购到调试
-
-
@fan-jun 当然linux了,效能高很多
@johnnybegood 我刚才问了一下grokbot, 他说:你这台机器完全满足 Strata 0.2.2 的要求:它要求内存加显存合计至少 32G,你有 128G 加 16G;4060Ti 在支持列表里,以后换的 R9700 也在。整套安装流程如下:
-
装 Windows 11
用
Rufus 做启动盘(勾选移除 TPM 要求),系统装在 990 PRO 上。 -
装 NVIDIA 驱动
到
NVIDIA 驱动下载页 装最新的 Game Ready 驱动,版本号要在 580 以上。 -
下载 Strata 安装包
在
Strata 下载页 下载 Strata-0.2.2-windows-cuda13.exe(N 卡加 580 以上驱动就选这个)。双击运行就行,不需要管理员权限。如果弹出"Windows 已保护你的电脑",点"更多信息",再点"仍要运行"(这个安装包暂时还没有数字签名)。 -
选模型并下载
打开 Strata 后它会按你的配置推荐模型,直接接受推荐就行。模型文件有 40 到 70G,存放位置记得选 2T 那块 S70B,首次启动要预留约 80G 空间。 -
开始用
装好后浏览器打开 http://127.0.0.1:8080 就能聊天。它也兼容 OpenAI 的接口,以后可以接 Claude Code 之类的编程工具。 看上去很方便。我到时候,系统安装好,安装chapgpt,让他帮我安装,这样可能更方便。
-
-
@johnnybegood 我刚才问了一下grokbot, 他说:你这台机器完全满足 Strata 0.2.2 的要求:它要求内存加显存合计至少 32G,你有 128G 加 16G;4060Ti 在支持列表里,以后换的 R9700 也在。整套安装流程如下:
-
装 Windows 11
用
Rufus 做启动盘(勾选移除 TPM 要求),系统装在 990 PRO 上。 -
装 NVIDIA 驱动
到
NVIDIA 驱动下载页 装最新的 Game Ready 驱动,版本号要在 580 以上。 -
下载 Strata 安装包
在
Strata 下载页 下载 Strata-0.2.2-windows-cuda13.exe(N 卡加 580 以上驱动就选这个)。双击运行就行,不需要管理员权限。如果弹出"Windows 已保护你的电脑",点"更多信息",再点"仍要运行"(这个安装包暂时还没有数字签名)。 -
选模型并下载
打开 Strata 后它会按你的配置推荐模型,直接接受推荐就行。模型文件有 40 到 70G,存放位置记得选 2T 那块 S70B,首次启动要预留约 80G 空间。 -
开始用
装好后浏览器打开 http://127.0.0.1:8080 就能聊天。它也兼容 OpenAI 的接口,以后可以接 Claude Code 之类的编程工具。 看上去很方便。我到时候,系统安装好,安装chapgpt,让他帮我安装,这样可能更方便。
-
-
ubuntu 主要是现在机器是给 ai agent 用
我们都不需要理了 界面完全不需要
而且llm主要都先支持ubuntu -
ubuntu 主要是现在机器是给 ai agent 用
我们都不需要理了 界面完全不需要
而且llm主要都先支持ubuntu@applejuice 装 Ubuntu Server 24.04,不装桌面,只用命令行,最适合给 agent 当后台服务。整套流程如下:
-
装系统
从
Ubuntu Server 下载页 下载 24.04 LTS,用
Rufus 写进 U 盘,装到 990 PRO 上。安装时勾选 OpenSSH server,之后就能用别的电脑远程操作,这台机器不接显示器也行。 -
装 NVIDIA 驱动(580 以上)
sudo apt update && sudo apt upgrade -y
sudo ubuntu-drivers install
sudo reboot
重启后运行 nvidia-smi,能看到 4060Ti 并且驱动版本大于等于 580 就对了。-
把 2T 盘挂成模型盘
把 S70B 格式化后挂到 /data,并写进 /etc/fstab 开机自动挂载。模型有 40 到 70G,放这块盘上。 -
装 Strata 命令行版(不需要 root 权限)
curl -fsSL https://github.com/Niko1221/Strata/releases/latest/download/install.sh | sh
想先看看脚本内容的话,可以先用 curl -fsSL -o install.sh 下载下来,看完再运行 sh install.sh。- 首次启动
strata launch
它会一次问一个问题:选哪个模型、上下文多长、要不要开图片识别、允许谁连接。最后一项要选允许局域网访问,不然别的机器上的 agent 连不进来。确认后它会自动下载对应显卡的引擎和模型,然后开始服务。- 给 agent 用
接口地址是 http://<这台机器的IP>:8080/v1,兼容 OpenAI 和 Anthropic 两种格式,Claude Code、Codex CLI、OpenCode 都能直接接。以后做脚本或开机自启,可以用无交互的写法:strata launch --model <模型名> --yes --no-tui。
以后换 R9700:Ubuntu 上装 AMD 的 ROCm 驱动,再运行 strata update,它会自动换成 AMD 版引擎。
需要的话,我可以接着帮你写好开机自启的配置,这样机器一通电就自动开始服务。 大模型指导,动手安装也很方便。
-
-
@applejuice 装 Ubuntu Server 24.04,不装桌面,只用命令行,最适合给 agent 当后台服务。整套流程如下:
-
装系统
从
Ubuntu Server 下载页 下载 24.04 LTS,用
Rufus 写进 U 盘,装到 990 PRO 上。安装时勾选 OpenSSH server,之后就能用别的电脑远程操作,这台机器不接显示器也行。 -
装 NVIDIA 驱动(580 以上)
sudo apt update && sudo apt upgrade -y
sudo ubuntu-drivers install
sudo reboot
重启后运行 nvidia-smi,能看到 4060Ti 并且驱动版本大于等于 580 就对了。-
把 2T 盘挂成模型盘
把 S70B 格式化后挂到 /data,并写进 /etc/fstab 开机自动挂载。模型有 40 到 70G,放这块盘上。 -
装 Strata 命令行版(不需要 root 权限)
curl -fsSL https://github.com/Niko1221/Strata/releases/latest/download/install.sh | sh
想先看看脚本内容的话,可以先用 curl -fsSL -o install.sh 下载下来,看完再运行 sh install.sh。- 首次启动
strata launch
它会一次问一个问题:选哪个模型、上下文多长、要不要开图片识别、允许谁连接。最后一项要选允许局域网访问,不然别的机器上的 agent 连不进来。确认后它会自动下载对应显卡的引擎和模型,然后开始服务。- 给 agent 用
接口地址是 http://<这台机器的IP>:8080/v1,兼容 OpenAI 和 Anthropic 两种格式,Claude Code、Codex CLI、OpenCode 都能直接接。以后做脚本或开机自启,可以用无交互的写法:strata launch --model <模型名> --yes --no-tui。
以后换 R9700:Ubuntu 上装 AMD 的 ROCm 驱动,再运行 strata update,它会自动换成 AMD 版引擎。
需要的话,我可以接着帮你写好开机自启的配置,这样机器一通电就自动开始服务。 大模型指导,动手安装也很方便。
-
-
@fan-jun 基本上我也看不懂 我之前就是做前面的两步 把机器装ubuntu 然后连线
然后就没有任何了 全都是agent@applejuice ok,我还没有让大模型给我在另外一台电脑上重度干活,给他权限,他不肯要。我是小白。
-
-
-
马来更便宜,我去倒马来到货去了!
