Microsoft AI Agent - Copilot Cowrk 瞄準企業用戶都在雲端幫你燒Token 錢錢

kos or

Microsoft AI Agent - Copilot Cowrk 瞄準企業用戶
Cloud API 都在雲端幫你燒Token 錢錢
我們Local LLM 不怕燒 Token ; 就怕燒....真金白銀好貴的硬體記憶體顯示卡

pic-generator : Gemini Flash - Nano Banana

Copilot Cowork 策略與報價

以下文字由Gemini生成

定位：由輔助工具升級為「代理人工作平台(Agentic Work Platform)」，精準瞄準企業用戶，專門處理跨應用、長流程的複雜端到端(End-to-End)任務。
策略：主打「任務委派(Delegation)」而非逐次提問；並採取彈性多模型策略（可切換 Anthropic、OpenAI 及微軟自家 Cowork 1 模型）以降低企業燒 Token 的成本，同時嚴格整合企業級安全架構。

項目 (Item)	費用模式 (Pricing Model)
基本授權	企業須先具備 M365 Copilot 訂閱（約 NT$965 / 月 / 人）
Cowork 計費	採額外「按量計費(Usage-based)」，依模型、上下文、工具與執行時間消耗點數(Copilot Credits)，支援隨用隨付(PayGo)或預購折扣。

為了支撐 Copilot Cowork 這種長流程、跨工具且需要頻繁呼叫大模型的智慧代理(Agentic)系統，微軟在後端建構了一套從晶片、虛擬化到分散式資料庫的完整硬體工作流。整個系統不再只是單純的單次推理解決方案，而是演進為工程級的雲端協同運算架構。

多模型動態路由晶片叢集 (Multi-Model Dynamic Routing Clusters)：Copilot Cowork 運作於 微軟方舟平台(Microsoft Foundry) 上。為了控制企業用戶燒 Token 的硬體成本，後端工作流會根據任務的複雜度（Light、Medium、Heavy），動態將請求調度至不同等級的晶片叢集。
高密度 GPU 伺服器 (High-Density GPU Servers)：核心推理由 Azure AI 基礎架構(Azure AI Infrastructure) 驅動，主要部署於 Azure NDv5 系列伺服器叢集。這些伺服器大量搭載了 NVIDIA H100、H200 以及最新的 Blackwell 架構晶片，並透過高頻寬的 InfiniBand 網路互連，以應對 Agent 長文本上下文字窗(Context Window)的極速記憶檢索與推理。

虛擬化雲端電腦執行緒 (Windows 365 for Agents)：因為 Cowork 需要代替使用者在背景執行真實世界的工作（如自動修改試算表、發送郵件、調度行事曆），微軟在雲端配置了 Windows 365 for Agents（雲端 PC 基礎架構）。這為每個 Agent 的工作流提供了安全、相互隔離的沙盒環境(Sandbox Environment)，防止跨租戶的越權操作或安全風險。
微服務編排與容器化 (Containerization)：密集的外部工具呼叫(Tool Calls)與非同步流程控制，則由 Azure Kubernetes Service (AKS) 與 Azure Container Apps 提供硬體資源的動態彈性橫向擴展。

Agent 的靈魂在於對企業內部的認知脈絡（由 Work IQ / Fabric IQ 驅動），其硬體存取由以下關鍵元件支撐：

高吞吐量向量資料庫 (Azure HorizonDB)：微軟在 2026 Build 大會最新推出的 AI 優化資料庫技術，硬體規模可動態擴展至高達 3,072 核虛擬核心(vCores) 與 128 TB 儲存空間，專門承載 Agent 在進行大規模任務時的高併發向量搜尋(Vector Search)與交易處理。
持久化記憶與大數據底座 (Azure Cosmos DB & Microsoft Fabric)：利用 Azure Cosmos DB 搭配內存記憶體快取（透過 Agent Memory Toolkit）提供 Agent 跨工作階段的記憶；底層則由 Microsoft Fabric OneLake 提供 GPU 加速的數據分析與企業知識檢索。

基礎架構層級 (Infrastructure Layer)	核心硬體與服務元件 (Core Hardware & Service Components)	負責工作流角色 (Workflow Role)
推理運算層	Azure NDv5 伺服器 (NVIDIA H100 / H200 / Blackwell 系列)	大模型 Token 推理、生成與多模型路由調度
執行安全層	Windows 365 for Agents (Cloud PCs), AKS	提供獨立沙盒，安全執行端到端工具呼叫與腳本
資料儲存層	Azure HorizonDB (最高 3,072 vCores), Cosmos DB	長期記憶儲存、工作脈絡(Work IQ)的即時向量檢索
數據分析層	Microsoft Fabric OneLake (GPU 加速分析)	企業異質資料打通、自動化大數據處理與語義建模