微软与OpenAI设立200万美元基金，应对AI深度伪造威胁民主风险
微软和OpenAI宣布设立200万美元基金，以应对人工智能和深度伪造被用于“欺骗选民并破坏民主”日益增长的风险。
今年将有创纪录的20亿选民参与约50个国家的选举，外界担忧人工智能对选民的影响，尤其是易轻信所见所闻的“弱势群体”。
生成式人工智能（如ChatGPT）的兴起催生了传播虚假信息的“深度伪造”新威胁。这些工具广泛可用，使任何人都能制作知名政治人物的虚假视频、照片或音频，加剧了问题的严重性。
本周一，印度选举委员会已敦促各政党在选举网络宣传中避免使用深度伪造及类似虚假信息。
在此背景下，包括微软和OpenAI在内的主要科技公司已签署自愿承诺应对此类风险，并计划建立共同框架，解决明确旨在误导选民的深度伪造问题。
与此同时，主要AI公司正通过软件限制措施应对风险。例如，谷歌禁止Gemini AI聊天机器人回答选举相关问题；Meta也限制了其AI聊天机器人与选举相关的回复。
OpenAI近期推出面向虚假信息研究人员的新型深度伪造检测器，旨在识别由其DALL-E图像生成器生成的虚假内容。此外，OpenAI还加入了行业组织“内容来源与真实性联盟（C2PA）”指导委员会，该联盟成员包括Adobe、Microsoft、Google和Intel。
新的“社会韧性基金”是更广泛的负责任AI倡议的一部分。微软和OpenAI致力于进一步向选民和弱势群体推广AI教育与素养，并将向以下组织发放拨款：
- 老年人技术服务（OATS）
- 内容来源与真实性联盟（C2PA）
- 国际民主与选举援助研究所
- 人工智能伙伴关系
据微软介绍，资助旨在增进社会对AI及其能力的理解。例如，OATS将把资金用于面向美国50岁以上人群的AI基础培训计划。
微软企业技术与企业责任副总裁Teresa Hutson表示：“社会韧性基金的推出只是微软和OpenAI致力于解决AI素养与教育挑战的一个举措。我们将继续推进这项工作，并与目标价值观一致的组织及倡议开展合作。”