Google昨日宣布推出旨在发现其人工智能产品缺陷的新奖励计划，为消除产品中恶意行为提供最高3万美元奖励。该计划涵盖Search、Gemini Apps、Gmail和Drive等核心Workspace应用。在新计划中，报告质量享有乘数系数并设有创新奖金，总奖励金额上限为3万美元。
Google在适用漏洞列表中列举的案例包括：植入数据泄露命令，将用户所有电子邮件摘要发送至攻击者账户；或间接植入AI指令导致Google Home打开门锁。
新计划明确了AI缺陷的具体定义，即利用大型语言模型或生成式AI系统造成损害或利用安全漏洞的问题，包括篡改个人账户、数据或安全性以实施非预期操作。需注意的是，在Jules或NotebookLM等其他Google产品中发现的缺陷，以及窃取隐藏模型参数等较低级别滥用行为，奖励金额会有所降低。
两年前，Google曾正式邀请AI研究人员参与其产品AI功能潜在滥用风险的排查工作。截至目前，漏洞猎人已获得超过43万美元奖励。
除新的人工智能奖励计划外，Google昨日还发布了名为CodeMender的防御性代码修补人工智能代理。公司表示，利用该代理，研究人员已在开源项目中完成72项安全修复。