微软希望企业利用 Azure 上的工具及其合作伙伴 OpenAI 的机器学习模型,构建专属 AI 驱动“Copilot”(副驾驶)应用。
在年度 Build 大会上,微软推出了 Azure AI Studio。作为 Azure OpenAI Service 的新功能,它允许客户将 ChatGPT 或 GPT-4 等模型与自有数据(文本或图像)结合,构建能“推理”私有数据的聊天助手或其他应用。(注:Azure OpenAI Service 是微软完全托管、面向企业的产品,旨在让企业以增强的治理功能访问 OpenAI 技术。)
微软将“Copilot”定义为利用 AI(如文本或图像生成)协助完成任务(如撰写销售话术、生成演示图片)的聊天机器人应用。该公司已开发多款此类应用(如 Bing Chat),但基于 AI 的 Copilot 不一定能利用公司专有数据执行任务——这与通过 Azure AI Studio 创建的 Copilot 不同。
微软 AI 平台高级副总裁 John Montgomery 表示:“在 Azure AI Studio 中,开发者可轻松将 Azure OpenAI Service 模型基于自身数据进行 grounding……并在不接触数据或无需训练的情况下实现安全操作。这为客户构建自己的 Copilot 提供了巨大加速动力。”
在 Azure AI Studio 中,构建 Copilot 始于选择生成式 AI 模型(如 GPT-4),随后提供“元提示”(meta-prompt),即对 Copilot 角色及运作方式的基础描述。
用户可为 AI 助手添加云存储,以跟踪对话并以适当上下文响应;插件则可扩展助手功能,使其访问第三方数据和服务。
Azure AI Studio 的核心价值在于:让客户在遵守组织政策和权限的前提下,利用自身数据安全使用 OpenAI 模型,且在安全性、数据策略或文档排名等方面无妥协。客户可集成拥有或有权访问的内外部数据(包括结构化、非结构化或半结构化数据)。
借助 Azure AI Studio,微软正大力推动使用其云托管工具构建定制化模型。随着 Azure OpenAI Service 持续增长,这将成为极具盈利潜力的收入线——目前该服务已支持 Coursera、Grammarly、Volvo 和 IKEA 等超 4,500 家企业。
Azure OpenAI Service 升级
为激励用户采用 Azure OpenAI Service,微软推出提升高容量客户处理能力的更新。
新增“预留吞吐量 SKU”(Provisioned Throughput SKU)功能,允许客户按月或按年预留并部署模型处理能力。客户可购买“预留吞吐量单位”(PTUs),在承诺期内部署具有预留处理能力的 OpenAI 模型(包括 GPT-3.5-Turbo 或 GPT-4)。
OpenAI 此前曾通过 API 为 ChatGPT 提供专用容量,而预留吞吐量 SKU 在此基础上大幅扩展,更侧重企业级应用。
微软发言人表示:“凭借预留处理能力,客户在处理具有稳定特征的工作负载(如提示词大小、完成内容大小及并发 API 请求数量)时,可获得一致的延迟和吞吐量。”

