2月8日，拜登政府表示，200多家实体加入了一个新的美国联盟，以支持生成式人工智能的安全开发和部署，其中包括领先的人工智能公司。
美国商务部长吉娜·雷蒙多宣布成立美国人工智能安全研究所联盟（Artificial Intelligence Safety Institute Consortium，AISIC），其中成员包括OpenAI、Alphabet旗下的谷歌、Anthropic、微软、Facebook母公司Meta，以及苹果、亚马逊、英伟达、英特尔、摩根大通和美国银行等。它还拥有著名的人工智能学术中心，其中包括布法罗大学的人工智能和数据科学研究所和南卡罗来纳大学的人工智能研究所，以及Open AI的人工智能开发商。该联盟将隶属于美国人工智能安全研究所（USAISI）。
雷蒙多在声明中表示:“美国政府在制定标准和开发我们需要的工具方面可以发挥重要作用，以减轻风险并利用人工智能的巨大潜力。”
白宫于2023年10月发布的一项人工智能行政命令。该行政命令援引《国防生产法》，要求人工智能开发人员与联邦政府分享红队和其他安全评估的结果。多年来，“red-teaming”（红队）一直被用于网络安全领域，以识别新的风险，这个术语指的是美国冷战模拟，其中敌人被称为“red-teaming”。
这一组织的任务是执行人工智能行政命令中概述的优先行动，“包括制定“red-teaming（红队）”、能力评估、风险管理、安全保障以及对合成内容加水印的指导方针。”
拜登的命令指示各机构制定测试标准，并解决相关的化学、生物、放射性、核和网络安全风险。去年12月，美国商务部表示，其正在为编写安全部署和测试人工智能的关键标准和指南迈出第一步。
根据NIST，AISIC将建立一个人工智能利益相关者可以共享知识和数据的空间，并将寻求改善联盟成员之间的信息共享，是“迄今为止建立的最大测试和评估团队集合”，并将专注于“为人工智能安全领域的新测量科学奠定基础”。
本报道仅在于传递更多信息，不为商业用途，如有侵权，请联系删除。
