近日,Akamai 宣布推出两款 AI 基础产品——Akamai Inference 和 Akamai Agent Sandbox,把托管模型服务与AI智能体的隔离执行能力引入 Akamai Cloud。企业由此可在同一个 AI 优化云平台上,完成自有或托管开放权重模型的构建与调优、结合自有数据、在强制隔离边界内运行智能体,并保护应用、智能体与基础设施。这也让企业在离用户和数据更近的位置,就能完成 AI 应用与智能体的部署、运行和保护。
企业把 AI 用进生产,需要的不只是模型:服务基础设施、内部数据访问通道、流量路由与治理缺一不可;智能体开始自主编写并执行代码后,还得为这段代码划清隔离边界。过去多数团队只能从不同供应商拼凑这些能力,再自行守住每个交互点。
Akamai Cloud 给出的是互联互通的 AI 环境:从核心区域高密度 GPU、CPU 集群,到 4000 多个边缘位置的连续算力体系,由守护全球头部在线企业的同一套安全产品组合提供保护。底层是 Akamai 在全球网络架构上协同 CPU 与 GPU、统一调度云存储、网络和边缘函数的能力——这套基础设施已赢得总价值超 140 亿美元的多年期合同,新增推理与执行层后,成为客户大规模构建、部署和运营 AI 工作负载的可靠基础。
• 兼容 OpenAI 的 API:托管访问开放权重模型与自定义模型,现有应用无需重写代码即可无缝迁移部署;
• 两种用法随选:无服务器、按使用量付费的推理服务,或专用部署方案;
• 12 种开放权重模型上线即备齐,参数规模从80亿到2.8万亿,包括NVIDIA™ Nemotron 3 Ultra、OpenAI™ gpt-oss-120b、Google™ Gemma 4,并提供面向检索增强生成的嵌入式模型。
数据侧,Akamai Cloud 提供托管数据库和对象存储的访问,可无缝连接私有云与公有云,让模型高效调取企业数据;Akamai Inference 负责编排协调、模型执行与身份验证。所有请求均跑在 Akamai 全球网络上,降低延迟,确保高可用性与稳定性能,维持可预期的服务级别。
从代用户执行操作,到自主编写并运行自己生成的代码,AI 智能体正越来越多地参与实际工作,Akamai Agent Sandbox 同时支持这两类任务:智能体跑在 Akamai Functions 上,它写的代码在独立隔离环境中运行,与智能体运行时完全隔开。产品作为 Spin 框架的开源组件交付,采用 WebAssembly 隔离机制,为计算、内存、出站连接和系统功能设下明确限制,开发人员完全掌控运行位置与可访问范围。
隔离技术正朝多模型融合演进,覆盖支持快照与分叉的 microVM、策略强制管控容器、WebAssembly 隔离函数等形态。开发人员可按工作负载选架构:NVIDIA 加速算力和专用 CPU 基础设施、托管 Kubernetes,以及覆盖边缘和核心的 Akamai Functions 无服务器执行环境。后续还将新增能力,对智能体可访问范围、外部主体可触达智能体做双向管控。
Akamai 扩展专用 GPU 机群,纳入 NVIDIA Blackwell Ultra GPU 集群,并稳步推进适配,将于 2027 年正式支持 NVIDIA Vera Rubin 平台。机群覆盖两类产品:面向低延迟推理的 NVIDIA RTX PRO™ 6000 Blackwell Server Edition® GPU,以及供企业在自主可控基础设施上完成模型构建、调优与自托管的 Blackwell Ultra GPU 集群。
每个 8 GPU 规格节点,单 GPU 搭载 288 GB HBM3e 内存,总存储容量达 2.3 TB,足以承载前沿级模型;架构针对测试时扩展、思维链推理和长上下文智能体工作优化。企业可控制模型版本与下线时间,运行时无速率限制、无多租户共享队列排队,并与 Akamai Cloud 其余服务共用同一套数据、网络和安全服务体系。
Akamai Agent Sandbox(通过Spin SDK接入)与 Akamai Inference 已开放 Beta 测试,其中 Inference Beta 版包括无服务器部署选项。有关 NVIDIA B300 GPU 集群的可用情况,欢迎您联系 Akamai 销售团队。
点击此处或【阅读原文】,了解 Akamai Cloud;您也可以拨打 400-609-1609,了解更多产品信息。
【推荐阅读】
Akamai 宣布与Anthropic达成 116 亿美元多年期协议,以支持其日益增长的需求
亿级日活App的“算力生死劫”:推理成本倒挂,他们靠跨云架构砍掉75% GPU集群
Akamai Cloud
客户案例
游戏出海
电商出海
点击关注 Akamai 双号矩阵
让云计算成本减半,安全威胁归零
👇👇

