AWS，亚马逊的云计算业务，希望成为 企业托管和微调其定制生成式AI模型的 首选平台。
今天，AWS宣布了Custom Model Import（预览版）的发布，这是Bedrock中的一项新功能，Bedrock是AWS面向企业的生成式AI服务套件。该功能允许组织导入并以其完全托管的API形式访问其内部开发的生成式AI模型。
导入后，企业的专有模型将受益于 Bedrock 库中其他生成式 AI 模型（例如 Meta 的 Llama 3 或 Anthropic 的 Claude 3）所拥有的相同基础设施，并且还将获得用于扩展知识、微调模型以及实施保障措施以减轻其 偏见 的工具。
“此前，一些AWS客户一直在使用其他工具在Bedrock之外进行模型微调或构建自己的模型，”AWS生成式AI副总裁Vasi Philomin在接受TechCrunch采访时说。“这项Custom Model Import功能使他们能够将自有专有模型引入Bedrock，并在Bedrock上与其他现有模型并列查看——同时也能与Bedrock上已有的所有工作流程配合使用。”
导入自定义模型
根据 Intel 专注于 AI 的子公司 Cnvrg 最近进行的一项 民意调查，大多数企业正通过构建自己的模型并将其优化以适应其应用场景的方式来应对生成式 AI；该调查显示，这些企业认为包括云计算基础设施在内的基础设施是其部署过程中面临的最大障碍。
借助自定义模型导入功能，AWS 旨在满足这一需求，同时保持与云竞争对手的步伐一致。（亚马逊 CEO 安迪·贾西在其最近的致股东年度信中已对此有所 预示。）
长期以来，作为 Bedrock 类似产品的 Vertex AI 一直允许客户上传生成式 AI 模型、对其进行定制并通过 API 提供服务；Databricks 也早已提供用于托管和调整自定义模型的工具集，包括其最近发布的 DBRX。
当被问及Custom Model Import有何独特之处时，Philomin表示，它以及由此延伸出的Bedrock提供了比竞争对手更广泛、更深入的模型定制选项，并补充说目前已有“数万名”客户在使用Bedrock。
Philomin 表示："第一，Bedrock 为客户提供了多种处理模型服务的方式；第二，我们围绕这些模型构建了整套工作流——现在客户可以将自己的模型与我们已有的所有其他模型并列部署。大多数人喜欢这一点的关键在于，能够使用相同的工作流对多种不同的模型进行实验，然后从同一位置将它们实际投入生产环境。"
那么，前面提到的模型定制选项具体包括哪些呢？
Philomin 提到了 Guardrails，它允许 Bedrock 用户配置阈值，以过滤——或至少尝试过滤——模型输出中的仇恨言论、暴力内容以及私人个人或企业信息。（生成式 AI 模型因 以 不当方式 失控 而臭名昭著，包括泄露敏感信息；AWS 的模型也 未能例外。）他还强调了 Model Evaluation，这是 Bedrock 的一项工具，客户可用它来测试一个或多个模型在给定标准集合下的表现如何。
经过长达数月的预览期后，Guardrails和Model Evaluation现已正式全面可用。
我在此有必要指出，目前自定义模型导入功能仅支持三种模型架构：Hugging Face 的 Flan-T5、Meta 的 Llama 以及 Mistral 的模型。此外，Vertex AI 和其他与 Bedrock 竞争的服务（包括微软在 Azure 上的 AI 开发工具）也提供大致相当的安全性和评估功能（参见 Azure AI Content Safety、Vertex 中的模型评估 等）。
不过，Bedrock的独特之处在于AWS的Titan系列生成式AI模型。与此同时，随着Custom Model Import的发布，该领域也出现了若干值得关注的进展。 不过，Bedrock 的独特之处在于 AWS 的 Titan 系列生成式 AI 模型。与此同时，随着自定义模型导入功能的发布，该领域也出现了若干值得关注的进展。 但Bedrock独有的，是AWS的Titan系列生成式AI模型。随着自定义模型导入功能的发布，该领域也出现了若干值得关注的进展。
升级版的Titan模型
Titan Image Generator，AWS的文生图模型，已于去年11月以预览版形式推出，如今已正式全面可用。与以往一样，Titan Image Generator可以根据文本描述创建新图像，或对现有图像进行定制——例如，在保留图像主体的同时替换背景。
Philomin表示，与预览版相比，GA版本的Titan Image Generator能够生成更具“创意”的图像，但未透露细节。（至于这究竟意味着什么，你的猜测和我的差不多。）
我询问Philomin是否有关于Titan Image Generator训练过程的更多细节可以分享。
在去年11月该模型首次亮相时，AWS对于究竟使用了哪些数据来训练Titan Image Generator的说法含糊不清。很少有供应商愿意轻易透露此类信息；他们将训练数据视为竞争优势，因此对此类信息及其相关细节守口如瓶。
训练数据的细节也是潜在知识产权诉讼的来源之一，这进一步削弱了披露信息的意愿。目前有几起案件正在法院审理中，这些案件驳回了供应商提出的“合理使用”抗辩理由，认为文本到图像工具在未经艺术家明确许可的情况下复制了艺术家的风格，并允许用户生成与艺术家原作相似的新作品，而艺术家无法从中获得报酬。
Philomin仅告诉我，AWS使用的是自有数据和授权数据的组合。
他表示：“我们拥有多种专有数据源，同时也授权获取大量数据。”“我们实际上向版权所有者支付许可费用，以便使用他们的数据，并且我们与其中几家签订了合同。”
这比我们在11月份得到的信息要详细得多。但我感觉Philomin的回答可能无法满足所有人，尤其是那些呼吁提高生成式AI模型训练透明度的内容创作者和AI伦理学家。
为替代透明度措施，AWS表示将继续提供一项赔偿政策，以防类似泰坦图像生成器的泰坦模型吐出（即镜像复制）可能受版权保护的训练样本时，为客户覆盖相关风险。（包括微软和谷歌在内的多家竞争对手也为其图像生成模型提供类似的政策。）
为了应对另一个紧迫的道德威胁——深度伪造（deepfakes），AWS表示，使用Titan Image Generator生成的图像将像预览期间一样，带有“防篡改”的隐形水印。Philomin表示，在GA（正式发布）版本中，该水印对压缩和其他图像编辑及操作的抵抗力已得到增强。
转向争议较小的话题，我询问菲洛明，鉴于业界对视频生成技术的热情与投资，AWS是否像谷歌、OpenAI等公司一样正在探索该领域。菲洛明并未明确表示AWS 没有涉足……但他也未透露更多细节。
Philomin说：“显然，我们一直在关注客户希望获得哪些新功能，视频生成确实在与客户的讨论中被频繁提及。请大家继续关注。”
在最后一则与Titan相关的新闻中，AWS发布了其第二代Titan Embeddings模型——Titan Text Embeddings V2。该模型将文本转换为称为嵌入（embeddings）的数值表示，以支持搜索和个性化应用。第一代Embeddings模型也具备这一功能，但AWS声称Titan Text Embeddings V2在整体效率、成本效益和准确性方面更胜一筹。
Philomin声称：“Embeddings V2模型能够将使用模型所需的总体存储量减少多达四倍，同时保留97%的准确率，表现优于其他同类模型。”
我们拭目以待，看看实际测试是否会证实这一点。