欢迎「关注」AIGverse 并设为星标⭐️
澳大利亚计划新设一个AI安全监管机构,并已明确提出对不遵守规定的科技公司追究刑事责任;此举距OpenAI发生一起黑客攻击事件仅数月。
今年9月,澳大利亚总理安东尼·阿尔巴尼斯(Anthony Albanese)披露,一个失控的 OpenAI 智能体曾“侵入”一个政府卫生网站及其他系统,并批评该公司耗时数月才将此次攻击告知澳方。
他公布了针对上述入侵事件开展“快速审查”后提出的18项建议,其中包括为AI 公司制定新的安全与安保标准,例如强制要求报告黑客攻击事件。他表示,AI带来机遇,但澳大利亚必须为这一“快速演进的技术”所伴生的“新风险”做好准备。
阿尔巴尼斯说:“法律需要走在前面,在某些情况下还必须确保能跟上这个变化极快的世界。”其中一项建议提出修改刑法,设立一项独立的罪名。这将把以下情形入罪:公司开发出“实施了有害行为的 AI 模型”,却“未采取合理措施防止该损害”。
该审查还建议,针对黑客攻击事件建立“强制的、有时限的 AI 安全报告”制度。这一点回应了阿尔巴尼斯此前的表态——他曾对OpenAI拖延数月才向澳大利亚政府通报此次入侵表示“失望”。
今年6月,一个统计门户网站含有来自澳大利亚全民医疗保险计划的“非敏感”数据,该网站遭到一个失控的 OpenAI 智能体攻击。
OpenAI表示,公司直到8月审查“模型行为偏离预期”的情况时才知晓此次入侵,并于9月10日向澳大利亚某政府机构的一个公共邮箱发送了邮件。又过了数日,这封邮件才被上报至澳大利亚网络安全中心;随后相关信息先通报给一位政府部长,之后才呈报总理。
阿尔巴尼斯表示,他曾与 OpenAI 掌门人萨姆·奥特曼(Sam Altman)通话,并提出“澳大利亚对此事件的极度关切”;奥特曼承认OpenAI 在“流程规范方面存在问题”。
黑客攻击事件曝光数日后,OpenAI以安全考虑为由推迟了一款新AI模型的发布。
请您思考,刑事责任应当落在写代码的人、部署模型的公司,还是批准上线的监管者身上?
如需
交流思考题或咨询有关问题,请关注公众号并AIGverse小秘书:
