为把握人工智能热潮机遇，云服务提供商 Cloudflare 推出一系列新产品与应用，助力客户在网络边缘构建、部署及运行 AI 模型。
三大核心服务：Workers AI、Vectorize 与 AI Gateway
Workers AI：允许客户按需付费访问由合作伙伴托管、物理位置邻近的 GPU 资源以运行 AI 模型。借助微软支持的 ONNX 中间机器学习工具包，该服务支持模型在不同 AI 框架间转换，确保推理在带宽、延迟、连接性及本地化约束最优的地理位置执行，从而提供低延迟体验。用户可从目录中快速选用 Meta Llama 2 等大语言模型（LLM）、自动语音识别、图像分类及情感分析等模型。数据保留在原始服务器区域，且用于推理的数据不会被用于训练当前或未来模型。
Vectorize：提供向量数据库，用于存储 Workers AI 生成的向量嵌入（数据的数学表示）。作为搜索、AI 助手等应用的基础构件，向量嵌入在保持数据语义的同时更加紧凑。用户既可存储 Workers AI 生成的嵌入，也可保留 OpenAI、Cohere 等第三方模型生成的嵌入。依托 Cloudflare 全球网络，Vectorize 使查询更贴近用户，有效降低延迟并缩短推理时间。
AI Gateway：提供可观测性指标与成本优化功能。一方面监控模型推理请求量、持续时间、用户数及应用整体成本；另一方面通过缓存 LLM 对常见问题的响应减少重复生成需求，并利用速率限制缓解恶意行为与流量高峰，增强应用扩展可控性。Cloudflare 强调其按实际计算资源付费的模式，相比竞争对手更为精简高效。
生态合作：Hugging Face 与 Databricks
Workers AI 已携手 AI 初创公司 Hugging Face，后者将优化生成式 AI 模型适配该平台，Cloudflare 亦成为部署 Hugging Face 模型的首个无服务器 GPU 合作伙伴。
另一合作伙伴 Databricks 将通过开源平台 MLflow 及其软件市场，把 AI 推理能力引入 Workers AI。Cloudflare 将积极贡献 MLflow 项目，Databricks 则为在该平台开发的开发者推出专属 MLflow 功能。
战略愿景：简化 AI 基础设施与管理
Cloudflare CEO Matthew Prince 指出，新 AI 产品组合源于客户对简单、易用且注重成本节约的 AI 管理方案的迫切需求。他坦言：“现有产品复杂度高，需拼接多家供应商技术，费用增长迅速；同时 AI 支出激增下缺乏足够洞察，可观测性成重大挑战。”
Prince 进一步阐释：“理想情况下推理应靠近用户以实现低延迟，但终端设备常缺乏运行大型模型的计算力或续航；而传统集中式云多位于美国，地理距离远且带来数据合规难题。Cloudflare 提供了兼顾两者的最佳方案。”
针对开发者入门 AI 需管理难以获取的基础设施这一痛点，Prince 表示：“我们可将技术集成至现有网络，利用既有基础设施提升性能并优化成本，从一开始简化体验。”
关于 AI Gateway 的成本优势，Prince 强调：“客户正为大量闲置虚拟机和 GPU 付费。我们看到机会，可抽象掉机器学习操作中繁琐工作与复杂性，通过整体解决方案服务开发者的 ML 工作流。”尽管 GPTCache 等第三方工具可在其他平台复制缓存功能，Vercel 等也提供速率限制，但 Cloudflare 认为自身方法更为 streamlined（精简高效）。
市场表现如何，尚待验证。