前沿模型论坛是一个专注于研究类似GPT-4和ChatGPT等“前沿”AI模型的行业协会。今日，该协会宣布承诺投入1000万美元设立新基金，以推进用于“测试和评估最强大AI模型”工具的研究。
前沿模型论坛（成员包括Anthropic、Google、Microsoft和OpenAI）表示，该基金将支持隶属于学术机构、研究机构和初创企业的研究人员。初始资金来自前沿模型论坛及其慈善合作伙伴——帕特里克·J·麦戈文基金会（Patrick J. McGovern Foundation）、戴维和露西尔·帕卡德基金会（David and Lucile Packard Foundation）、前Google CEO埃里克·施密特（Eric Schmidt）以及爱沙尼亚亿万富翁贾恩·塔林（Jaan Tallinn）。
该基金将由位于华盛顿特区的非营利组织Meridian Institute管理，并将在“未来几个月内”发布提案征集通知。此外，研究所的工作将由一个外部专家委员会提供支持，这些专家来自AI公司及具有资助经验的个人，但目前尚未披露具体身份或委员会规模。
前沿模型论坛在新闻稿中表示：“我们预计其他合作伙伴还将提供额外捐款。该基金的主要重点是支持开发新的模型评估方法和技术……以帮助开发和测试用于评估前沿系统潜在危险能力的评估技术。”
确实，1000万美元并非小数目（注：此为承诺捐款，戴维和露西尔·帕卡德基金会尚未正式注资）。但在人工智能安全研究的背景下，这笔资金显得相当保守，至少与前沿模型论坛成员在其商业活动中的投入相比如此。
仅在今年，Anthropic就从亚马逊筹集了数十亿美元用于开发下一代AI助手，此前还获得了谷歌300亿美元的投资。微软承诺向OpenAI投入100亿美元；而据报道，年收入远超10亿美元的OpenAI正在洽谈出售股份，此举或将使其估值高达900亿美元。
与其他人工智能安全资助相比，该基金的规模也较小。
由Facebook创始人达斯汀·莫斯科维茨（Dustin Moskovitz）联合创办的Open Philanthropy，据Less Wrong博客分析显示，已向人工智能安全领域捐赠约3.07亿美元。主要由塔林（Tallinn）资助的公共福利公司The Survival and Flourishing Fund，已向相关项目捐赠约3000万美元。美国国家科学基金会也表示，将在未来两年内花费2000万美元用于人工智能安全研究，部分资金由Open Philanthropy支持。
虽然AI安全研究人员不一定需要从头训练GPT-4级别的模型，但即便测试规模更小、能力较弱的模型，在当今硬件条件下成本依然高昂，费用从数十万美元到数百万美元不等，这还不包括研究人员薪资等其他开销。
前沿模型论坛暗示未来会有更大的基金。如果这一计划得以实现，它或许有机会推动人工智能安全研究的进展——前提是我们相信该基金明确以营利为目的的支持者不会对该研究施加不当影响。但无论如何看，首批资金似乎过于有限，难以取得显著成效。