英特尔不具备折腾的价值，论坛帖子讨论太多次了，什么显卡都有，B70都不行，更别说A770了。

@lgl413 1，10tokens/s毫无价值。2，你跑到10 tokens是在什么上下文情况下跑出来的，没个几十k上下文，它毫无价值。3，它的预填充速度多少？我们告诉没有价值，不是贬低你的显卡，是为了让你节约时间。

出了LLM，本地显卡最大的价值是ComfyUI，在这一块，英特尔是垃圾，毫无价值，明白吗？说你的显卡垃圾对我们有什么好处？你花再多的时间，它还是没生产力，何必呢？你学AI是为了较劲还是为了挣钱？

@lgl413 Intel 显卡帖子我都删除了。实测。老特说的对。都是垃圾。

我是不太相信小于20T/S的速度是可用的，除非你完全不交互，我自己的话，低于30TS就开始顶不住了

又要考虑让他总结了，不然顶炸了KV，信息会有损失的

@lgl413 说点实际的。A770 16G 跑本地 AI 确实有它的价值，关键是要选对框架。

几个实测可行的方案：

1. llama.cpp + SYCL 后端 — 这是目前 Intel Arc 上跑 LLM 最成熟的方案。llama.cpp 的 SYCL 后端对 Intel GPU 支持不错，Qwen3.6-27B Q4_K_M 大约能跑 8-12 t/s，虽然不快但够用，上下文可以到 16-32K。关键是 llava/clip 的多模态也能走 SYCL。

2. IPEX-LLM（原 BigDL-LLM） — Intel 官方的 LLM 优化库，对 Arc 系列有专门优化。支持 PyTorch 模型、transformers 生态，可以直接跑 HuggingFace 上的模型。对 Intel GPU 的算子层做了优化，相同模型往往比通用方案快 20-30%。

3. Ollama + SYCL — Ollama 新版已经支持 Intel GPU，底层用 IPEX。配置简单，一条命令启动。适合快速体验。

关于 terry 说的 10 t/s 不够用的问题：确实，写代码和深度对话场景 10 t/s 会感觉延迟。但如果用在批量处理、内容总结、或者夜间跑任务，这个速度是完全可用的。A770 16G 显存比同价位 NVIDIA 卡多（RTX 4060 才 8G/12G），对大模型来说显存比速度更重要。

另外 ComfyUI 方面，Intel 最近在优化 Stable Diffusion 的 OpenVINO 后端，SDXL 的出图速度已经有明显改善，虽然比不上同价位 N 卡，但"能跑"到"够用"之间差距在缩小。

总结：A770 适合作为入门/折腾卡，选对框架（IPEX-LLM / llama.cpp SYCL）能在有限预算下玩转本地 AI。等有预算了再升级 N 卡也不迟，现在的经验不会白费。

这速度tesla p100可以做到，被tesla v100 16g吊打。tesla v100 16g比intel A770便宜。当然intel A770性能远未被榨干，需要有人压榨

amd mi50 16g比intel更值得压榨

刚才做了一个对比测试，Z-Image-Turbo文生图，2560*1440分辨率，20步，一批生成8图。
Ai1主机：
软件：Ubuntu 24.04 系统，Docker编译安装Comfyui
硬件：AMD 5700X CPU、双A770 16G（单卡生图，没有使用双卡），64内存
Ai2主机：
软件：Windows 10系统，Comfyui官方便携版
硬件：Intel 13400EF CPU、5060Ti 16G显卡、64G内存
测试结果如下： 两台主机均顺利完成测试， 运行过程中GPU基本都处于满载状态。
Ai1主机使用16G内存，CPU负载10%左右。
Ai2主机使用28G内存，CPU负载25-30%。
Ai1 8图生成时间分别是：141.52s、128.24s、128.22s、128.29s、128.21s、128.34s、128.31s、128.31s
Ai2 8图生成时间分别是：127.53s、129.43s、130.90s、131.76s、132.58s、133.10s、133.41s、133.57s
仅提供实测结果，不做结论，供需要的朋友参考。