企业正越来越多地拥抱生成式人工智能，但在将其融入现有工作流程时，往往未充分考量随之而来的障碍与挑战。
毕马威近期调查显示，90%的企业对使用生成式AI的风险存在“中等至高度显著”的担忧，且对如何缓解风险存疑；与此同时，仅6%的企业表示已建立成熟的AI治理体系。
正是基于这些痛点，Neil Serebryany创立了CalypsoAI。这是一家致力于在部署前测试、验证和监控内部开发及第三方AI应用软件的初创公司。
Serebryany在接受TechCrunch邮件采访时表示：“CalypsoAI的平台展示了AI带来的力量与竞争优势，且这种方式是安全、可靠且有保障的。”
尽管标准极高，但投资者显然相信CalypsoAI具备兑现承诺的能力。该公司今日宣布完成2300万美元A-1轮融资，由Paladin Capital Group领投，Lockheed Martin Ventures、Hakluyt Capital和Expeditions Fund参投。
前YouTube首席执行官Susan Wojcicki及其妹妹、23andMe联合创始人Anne Wojcicki等知名天使投资人也参与了本轮投资。截至目前，CalypsoAI累计融资额已达3820万美元。
CalypsoAI声称，其作为容器部署在组织基础设施中的工具，允许企业通过仪表板监控模型毒性、用户参与度等统计数据，从而塑造对ChatGPT等大型语言模型的使用。Serebryany表示，该平台能防止敏感公司数据在模型中被共享，同时识别来自生成式AI工具的攻击。
Serebryany补充道：“每家公司都希望从生成式AI解决方案中获益——尤其是明显的生产力提升——但也希望确保不遭受网络攻击，且员工不会将敏感信息暴露给公共模型。通过实施CalypsoAI，首席信息安全官（CISO）和IT领导者可以开始认真考虑以安全、可靠的方式在组织内部署生成式AI解决方案，从而在不增加额外风险的情况下为业务引入效率。”
企业界对生成式AI护栏解决方案的需求确实存在。出于担心员工意外泄露专有信息，Apple、JPMorgan Chase和Verizon等多家公司已在内部禁止或限制使用类似ChatGPT的工具；许多公司对生成式AI的毒性和错误信息问题也持谨慎态度，这些问题至今仍在困扰着当今可用的最佳模型。
鉴于巨大的潜在市场，行业已崛起以满足这一需求。Microsoft提供Azure OpenAI Service，在OpenAI生成式AI模型（包括ChatGPT）之上提供治理和合规能力；Salesforce最近也推出了Einstein Trust Layer，旨在防止文本生成模型保留敏感数据。
然而，这些护栏在实际工作中的效果仍是个未知数。研究人员最近在Nvidia旨在使AI驱动应用更准确、更安全的工具包NeMo Guardrails中发现缺陷，使得该工具包的保护措施可被绕过。
Serebryany强调，CalypsoAI的产品具有强大的抗攻击能力。同时他重申，CalypsoAI不存储任何客户数据，仅促进员工信息流向企业所选模型。
Serebryany表示：“在企业环境中保护大型语言模型已成为关键任务，这也促使CalypsoAI进行战略调整，以满足希望使用AI解决方案的企业需求。”他补充道：“随着许多组织寻求安全地使用生成式AI解决方案以推动业务发展，CalypsoAI对其开发最佳产品并吸引最优秀人才以保障企业组织安全的能力充满信心。”
Serebryany透露，CalypsoAI将把最新一轮融资用于推动产品开发、招聘及市场拓展计划。该公司目前拥有35名员工，最近在都柏林开设了办公室，这是其计划在两年内将团队规模扩大一倍的一部分。
他表示：“随着公司不断成长与扩张，我们认识到引入新投资者以支持发展的重要性。通过与愿景和目标一致的投资者合作，我们可以持续创新并推动业务发展。”