在本周提交的Rubrik首次公开募股（IPO）文件中，位于员工人数和成本声明部分之间有一个细节揭示了这家数据管理公司如何看待生成式AI及其伴随的风险：Rubrik已悄然成立一个治理委员会，以监督人工智能在其业务中的实施情况。
根据Form S-1，新的AI治理委员会包括来自Rubrik工程、产品、法律和信息安全团队的管理人员。这些团队将共同评估使用生成式AI工具可能带来的法律、安全和商业风险，并思考“可以采取哪些步骤来减轻此类风险”。
需要明确的是，Rubrik的核心业务并非AI——其唯一的AI产品是一个名为Ruby的聊天机器人，于2023年11月推出，基于Microsoft和OpenAI的API构建。但与许多其他公司一样，Rubrik（以及其当前和未来的投资者）正在考虑一个AI将在其业务中发挥越来越重要作用的未来。以下是我们预期未来会出现更多此类举措的原因。
日益严格的监管审查
一些公司正在采用AI最佳实践以抢占先机，但其他公司则会被诸如欧盟AI法案等法规推动而采取此类行动。
这项被称作“全球首部综合性AI法律”的标志性立法预计将于今年晚些时候在整个欧盟生效，禁止了一些被认为带来“不可接受风险”的AI应用场景，并对其他“高风险”应用进行了定义。该法案还制定了旨在降低偏见和歧视等可能放大危害风险的治理规则。这种风险评估方法很可能被寻求合理AI采用路径的公司广泛采纳。
Hogan Lovells International LLP合伙人、隐私和数据保护律师Eduardo Ustaran预计，欧盟AI法案及其众多义务将加剧对AI治理的需求，而这反过来又需要设立委员会。他表示：“除了制定和监督AI治理项目的战略作用外，从运营角度来看，AI治理委员会是应对和最小化风险的关键工具。”这是因为一个适当建立并配备资源的委员会应能集体预见所有风险领域，并与企业合作在风险显现之前加以处理。某种意义上，AI治理委员会将成为所有其他治理工作的基础，并提供避免合规漏洞所需的必要保证。
在最近一份关于政策论文中，ESG和合规顾问Katharina Miller也同意这一观点，建议公司将建立AI治理委员会作为合规措施。
法律审查
合规不仅仅是为了取悦监管机构。《欧盟人工智能法案》具有约束力，英美律师事务所诺顿罗氏富布莱特（Norton Rose Fulbright）指出，“违反《人工智能法案》的处罚非常严厉”。
其适用范围也超出了欧洲。“如果在欧盟领土之外运营的公司从事涉及欧盟用户或数据的AI相关活动，可能会受到《人工智能法案》条款的约束”，该律所警告称。如果它像《通用数据保护条例》（GDPR）一样，这项立法将产生国际影响，尤其是在欧盟与美国在人工智能领域的合作加强的背景下。
AI工具可能使公司陷入除AI立法之外的麻烦。Rubrik拒绝向TechCrunch发表评论，可能是由于其处于IPO静默期，但该公司的文件提到，其AI治理委员会评估各种风险。
选择标准和分析包括考虑使用生成式AI工具可能引发的与机密信息、个人数据和隐私、客户数据及合同义务、开源软件、版权和其他知识产权、透明度、输出准确性和可靠性以及安全性相关的问题。
请注意，Rubrik希望涵盖法律基础的原因可能有多种。例如，这也可能是为了展示其负责任地预见问题，这至关重要，因为Rubrik此前不仅经历了数据泄露和黑客攻击，还面临知识产权诉讼。
形象问题
企业不会仅从风险预防的角度审视人工智能。它们和它们的客户都不想错过一些机会。这就是尽管生成式AI工具存在明显的缺陷，如“幻觉”（即倾向于编造信息），企业仍需推进的原因。
企业需要在两者之间取得微妙的平衡。一方面，吹嘘其使用AI可能会提升其估值，无论这种使用是否真实，或对利润底线产生何种影响；另一方面，它们必须消除人们对潜在风险的担忧。
“我们正处于AI发展的关键节点，AI的未来在很大程度上取决于公众是否会信任AI系统以及使用这些系统的公司，”隐私和安全软件提供商OneTrust的隐私顾问Adomas Siudika在关于该主题的博客文章中写道。
建立AI治理委员会可能是帮助重建信任的至少一种方式。