去年年底，微软宣布推出Azure OpenAI服务。这是一款完全托管、面向企业的产品，旨在让企业访问OpenAI技术并增加治理功能。该服务最初作为Azure认知服务的一部分以邀请制提供，允许通过Azure平台访问OpenAI API，用于语言翻译和文本自动补全等应用。
如今恰逢Build大会，在OpenAI新创新的推动下，微软正扩展Azure OpenAI Service以支持更多用例。该服务目前处于有限访问预览阶段，希望使用的客户可申请按量付费权限。此前，该服务仅限受邀用户使用。
微软AI平台企业副总裁Eric Boyd在接受TechCrunch电话采访时表示：“我们希望帮助客户从实验阶段过渡到将这项技术作为业务核心部分，从而实现真正的增长。”
完全托管模型
驱动Azure OpenAI服务的模型由OpenAI构建（包括GPT-3），可定制执行各种任务，如自然语言转代码或生成问题答案。GPT-3自2020年中起已通过OpenAI API公开可用。但Azure OpenAI服务在API基础上增加了企业定制层，包括更强的扩展能力、私有网络和管理访问权限。
例如，出于合规原因，公司可使用Azure OpenAI Service在特定地理区域运行模型，或集中管理API端点并使用客户提供的密钥加密。此外，该服务为现有Azure客户提供了更便捷的计费方式，即通过单一账单对模型使用收费，而非像OpenAI API那样单独计费。
Boyd表示，虽然客户之前可使用自有数据示例微调模型，但随着服务更新，微调功能正在扩大。“你可以使用标准的OpenAI获得更高的效率和效果，”他补充道，“我们正在引入全系列模型……这样公司不必从头开始就能获得准确结果。”
这些改进部分归功于InstructGPT。这是OpenAI最近开发的一系列基于GPT-3的模型，不太可能生成有问题文本，且更紧密符合用户意图。由于AI系统的开发方式，早期模型版本曾被发现会产生有毒文本。虽然InstructGPT并不完美，但在内部测试中表现强劲，因此被设为OpenAI API默认的语言生成模型。
Azure OpenAI Service中的另一组新模型称为嵌入模型（embedding models），在文本相似度、文本搜索和代码搜索等任务上表现出色。文本相似度捕捉片段间的语义相似性，而文本和代码搜索则根据标准在文件中查找信息。
与此同时，总部位于新西兰的农村供应合作社Farmlands利用Azure OpenAI Service对客户互动进行摘要，将其分类为“中性”、“负面”或“正面”，并提取关键词。Farmlands还在为其电商商店测试聊天机器人及由该服务支持的AI生成产品描述。
除增强微调和新增模型外，Azure OpenAI服务现还提供对Codex的访问，可根据自然语言提示生成代码。（Codex于去年8月在OpenAI API中推出。）Codex可用于编程任务，包括跨语言编译、解释代码以及在Python、JavaScript、Go、Perl、PHP、Ruby、Swift和TypeScript等语言中重构代码。
Boyd表示，已看到客户使用Codex直接与Minecraft API对话及其他应用的示例。
最后，Azure OpenAI服务新增了“负责任AI”系统，旨在过滤与性、暴力、仇恨和自我伤害相关的内容。该系统试图检测用户对模型的滥用或有害模式，一旦发现会提示专门团队与客户合作调查并在必要时阻止滥用。该团队还负责随着新型仇恨言论和侮辱用语的出现更新内容过滤器。
微软发言人通过电子邮件澄清：“Azure OpenAI Services中的新负责任AI系统包括自动内容过滤功能，旨在为客户提供更高质量内容。对于存在生成有害内容风险的API，该功能默认开启且无法选择退出。内容过滤与规范Azure OpenAI Service使用的微软内容政策保持一致。目前，过滤器屏蔽四类内容：色情/成人、暴力、仇恨和自残。每种过滤器均基于专门开发的机器学习模型。为确保服务被用于预期目的，负责任AI系统还会检查可能与滥用相关的内容（如虚假信息生成）。这些过滤器基于Bing Threat Intelligence信息开发，生成的警报会发送给人工审核团队调查。”
有限访问
据Boyd称，Azure OpenAI Service采用情况强劲，一些未具名的《财富》500强企业正在使用。当被问及更广泛可用性时，他表示该服务在可预见的未来仍将保持有限访问状态。
Boyd表示，只有计划实施“定义明确”用例的公司才能注册，且需证明将以“可靠”方式使用模型。微软提供了用户体验设计指南和模式，以及一份描述服务限制、预期用途和特性的“透明度说明”。
发言人继续说道：“设计指南基于我们的HAX工具包，但经过定制以为生成式AI应用提供更具体指导。Azure OpenAI服务的透明度说明即将发布，将类似于其他Azure认知服务的透明度说明。这是微软将AI原则付诸实践的更广泛努力的一部分。”
展望未来，Boyd表示微软将继续与OpenAI密切合作，探索将该实验室技术商业化的方法。微软与OpenAI保持密切关系，已于2020年投资10亿美元注资并独家许可GPT-3。微软在Azure中维护一个“AI超级计算机”供OpenAI训练模型，并将GPT-3和Codex集成到Power Apps和GitHub Copilot等服务中。
“我们确实与OpenAI沟通，OpenAI也与客户保持联系，”Boyd说。