生成式人工智能（GenAI）存在诸多潜在风险，尤其是第三方工具常出现内容编造、偏见毒性及版权违规等问题。据MIT Sloan管理评论与波士顿咨询公司调查，第三方AI工具导致的企业AI相关失败案例超55%。
因此，企业对立即采用该技术持谨慎态度并不意外。但如果生成式AI附带保修服务呢？
Armilla AI：为AI模型提供“保修”服务
企业家兼电气工程师Karthik Ramakrishnan在担任Deloitte高级经理时提出了这一商业构想。他曾联合创立Gallop Labs和Blu Trumpet两家AI核心公司，最终意识到信任缺失和风险无法量化是阻碍AI普及的关键。
Ramakrishnan表示：“目前几乎所有企业都在寻求通过AI提升效率以跟上市场步伐，许多人转向第三方供应商并在未充分了解产品质量的情况下部署模型。AI发展极快，风险和危害始终在不断演变。”
于是，Ramakrishnan与搜索算法专家、连续创业者Dan Adamson共同创立了Armilla AI，专为企业客户提供AI模型保修服务。
如何通过基准测试验证模型质量
鉴于大多数模型属于黑盒或受限于许可协议，Armilla通过基准测试及审慎的客户获取策略来实现保修承诺。
Armilla会对开源或专有模型进行评估以“验证其质量”，参考全球AI监管环境，针对幻觉、种族性别偏见及公平性、整体稳健性和安全性等进行测试，并利用内部评估技术。
若模型通过审核，Armilla将提供保修，赔偿购买者因使用该模型产生的费用。
Ramakrishnan称：“我们为企业提供对第三方AI采购技术的信心。就像新技术渗透测试一样，我们为AI执行渗透测试。”
伦理准则与合规底线
对于是否出于伦理原因拒绝测试某些模型（如与可疑行为者有关联的面部识别算法），Ramakrishnan明确表示：“这违背我们的道德准则和建立在信任基础上的商业模式。为有问题的AI模型提供虚假信心是不可接受的。从法律角度，我们不承接受欧盟禁止或封禁的模型客户；但对于《欧盟人工智能法案》归类为‘高风险’的应用，我们会提供服务。”
差异化优势与市场增长
AI质保并非新概念。2018年慕尼黑再保险推出aiSure产品，OpenAI、微软和AWS等也提供版权侵权保障。但Ramakrishnan认为Armilla独具特色。
他表示：“我们的评估涵盖KPI、流程、性能、数据质量及定性定量标准，且成本低、耗时短。我们依据《欧盟人工智能法案》、纽约市AI招聘偏见法（第144号地方法）、科罗拉多州拟议法规及纽约州保险通函等立法要求评估模型，并准备好应对加拿大《人工智能与数据法案》等新兴法规。”
Armilla于2023年底推出服务，获瑞士再保险、Greenlight Re和Chaucer支持，拥有约10家客户（含一家应用GenAI处理医疗记录的健康公司）。自2023年Q4以来，客户群每月增长两倍。
“我们服务两大受众：企业利用保修为采购的第三方AI建立保障；第三方供应商则将保修作为可信认证标志，缩短销售周期。”Ramakrishnan说。
融资进展与未来展望
尽管有人担忧Armilla能否跟上快速变化的AI政策并避免巨额赔付责任，Ramakrishnan认为理解全球立法细微差别正是其竞争壁垒。“我们无法应用‘一刀切’的全球标准，整合这些内容虽具挑战性，但能构建起护城河。”
总部位于多伦多、拥有13名员工的Armilla最近完成由Mistral领投的450万美元种子轮融资，Greycroft、Differential Venture Capital、Mozilla Ventures、Betaworks Ventures、MS&AD Ventures、630 Ventures、Morgan Creek Digital、Y Combinator、Greenlight Re和Chaucer参与投资。此次融资使总融资金额达700万美元，将用于扩大现有保修服务及推出新产品。
Ramakrishnan总结道：“保险将在应对AI风险方面发挥最大作用，Armilla正处于开发此类保险产品的前沿，助力企业安全部署AI解决方案。”