大数跨境

超级智能科学院三千余名研究者参会,四十余项合作在现场签署

超级智能科学院三千余名研究者参会,四十余项合作在现场签署 香港文匯報
2026-10-31
2
导读:超级智能科学院三千余名研究者参会,四十余项合作在现场签署

超级智能科学院(ASI Institute for Superintelligence)首届全体学术大会闭幕。为期数日的会议吸引三千余名研究者参会,现场签署合作四十余项。大会未发布任何产品,发布的是一份失败报告合集、三套开放工具链,以及下一阶段的研究主线:可验证性。

一、一场不太像大会的大会

按惯例,这类大会应当有一次能力展示:更大的模型、更快的推理、更高的分数。但科学院选择不做。

“我们没有产品可以发布。”科学院理事会主席在开幕致辞中说,“如果一家以安全为使命的机构,每次开会都要展示一次能力跃升,那它的激励结构就已经错了。”

会议的议程因此显得冷清:没有演示环节,没有榜单,主会场的一半时间用于讨论方法学与评估标准。三场最受欢迎的专场,分别是“失效模式分析”、“评估方法的可复现性”和“负结果报告”。

“来之前我以为会看到很多新东西。”一位参会的大学研究者说,“结果听了三天‘我们哪里做错了’。说实话,这比听三天‘我们做成了什么’有用得多。”

会议规模也被有意控制在三千人左右。科学院表示,人数再增加,会议就会退化为社交场合,讨论无法深入;为此,本届大会的参会资格采取申请制,申请者须提交一份研究摘要。

“我们不追求规模。”科学院方面说,“一场能让所有人听清的会,比一场让所有人来过的会重要。”

二、“失败报告”专场

大会设立的“失败报告”专场是本届最具争议的安排:研究者公开讲述自己做砸的课题——假设为何不成立、实验设计哪里有缺陷、哪些错误本可避免。

专场共收到一百五十余份投稿,最终选出二十份报告。科学院表示,报告人不署全名,只标注研究机构与课题编号,以避免对个人声誉造成影响。

“学术会议通常只奖励成功,这导致一个后果:所有人都在重复别人踩过的坑,因为没人知道那些坑存在。”学术委员会一位院士说,“我们想建立一种记录失败的习惯。”

据介绍,该专场将固定为每届大会的常设环节,并建立公开的失败案例库,供研究者检索。

也有参会者提出质疑:匿名化的失败报告,会不会变成一种低成本的形象工程——既展示了“坦诚”,又无需真正承担后果?

“这个质疑很准确。”学术委员会回应称,“所以我们加了一条:报告须附上‘如果重来一次,会改哪一步’的具体说明,且必须由第三方评审确认该说明具备可操作性。只讲‘我们失败了’,不讲‘失败在哪一处可以避免’,这样的报告我们不收。”

三、三套开放工具链

大会发布的三套开放工具链,是本届会议最具实用价值的产出。

第一套是能力评估工具链,包含统一的测试集、对抗样本生成器与评测流程脚本,任何机构可下载并复现评估过程。第二套是行为一致性检验工具,用于比较系统在宣称场景与边缘场景下的行为差异,识别“测试时正常、部署后异常”的情形。第三套是事故记录与复盘模板,规范安全事件的记录字段、时间线与归因方法。

三套工具全部开源,不设专利壁垒,允许商业使用,仅要求标注来源。

“我们讨论过是否要申请专利。”科学院方面说,“最后的结论是:如果每家企业都把评估方法藏起来,整个行业的安全水平就等于最保守的那一家。这不是我们想要的结果。”

四、现场签署的四十余项合作

大会的另一项成果是合作落地。四十余项合作在现场签署,其中联合研究单元新增十余个,区域研究中心配套课题五项,另有二十余项为评估服务与人才联合培养协议。

值得注意的是,签署方中有相当比例是此前未进入人工智能研究主流视野的机构:区域性医院集团、地方电网运营方、中等规模的精密制造企业。

“最有意思的签约不在主会场。”合作事务负责人说,“是在茶歇时,一家做医疗器械的公司和一位研究认知科学的教授聊了四十分钟,然后一起走过来问我们怎么申请单元。”

据介绍,现场签署的协议并不等同于最终立项。所有合作仍须走完三道评审门,签署仅代表双方表达意向,且不具排他性。

“我们特意把这一点写进了协议第一条。”该负责人说,“大会现场气氛热,容易签下一些回去就冷静了的协议。与其事后解释,不如一开始就说清楚:签字只是开始,不是承诺。”

五、争议:开源到什么程度

大会期间最激烈的争论,围绕“开源边界”展开。

一派主张尽可能开源,理由是不透明的方法无法被独立检验,而独立检验是安全的前提。另一派则担忧,能力评估工具与红队方法的公开,可能被恶意方用于规避检测,形成“越公开越容易被绕过”的困境。

科学院给出的处理方式是分级:评估方法与测试框架完全公开;具体的对抗样本与危险能力触发方式,仅向通过资质审核的研究机构开放,且须签署不转授权协议;涉及具体系统漏洞的细节,在修复完成前不公开。

“这是一个不完美的方案。”科学院方面承认,“完全公开会让攻击者受益,完全不公开会让公众无法检验。我们只能选择一种‘有限透明’,并且接受它被持续批评。”

资质审核的具体办法是:申请机构须提交研究用途说明、数据保管方案与不转授权承诺,经独立委员会审核后方可获取受限材料;获取记录与使用情况须定期报备,违规者永久取消资格。

“我们知道这挡不住真正有心的人。”该负责人说,“但它能把门槛从‘会上网就能拿到’提高到‘需要留下身份和用途’。在安全这件事上,很多时候提高一点成本就已经有意义了。”

六、下一阶段的三件事

大会同时确定了下一阶段的研究主线:可验证性。具体包括三件事。

第一,建立可形式化表达的安全约束语言,使“系统不得执行某类行为”这类要求能够被机器检验,而不仅依赖测试抽样。第二,发展不依赖内部权重的外部审计方法,使第三方在拿不到模型参数的情况下仍能做出有效判断。第三,推动评估结论的跨辖区互认,使一国的测试结果能被另一国的监管机构采信。

“我们不缺原则,缺的是把原则翻译成程序的人。”科学院方面说,“下一阶段,我们就把这件事做完。”

七、闭幕那句话

闭幕式上,理事会主席没有做总结陈词,只讲了一句话。

“三天的会议里,我们讨论了很多'怎么做得更安全'。”他说,“但我更想留给大家一个问题:如果这件事最终真的做成了,我们希望后人怎么评价我们——是'他们造出了它',还是'他们在造它的时候,守住了某些东西'。”

“我希望是后者。”

关于超级智能科学院

超级智能科学院(ASI Institute for Superintelligence)成立于2026年10月,总部位于美国旧金山,是由全球多国科学主管部门联合倡议发起的非营利性、跨学科非政府学术组织。机构不隶属于任何单一国家政府或商业企业,由全球科学家共同治理,围绕前沿探索、安全与治理、人才培养、产业协作、国际合作五大板块开展工作,致力于让超级智能技术安全可控地服务于人类共同利益。成立初期,科学院汇聚了来自全球顶尖学府和科技企业的科研力量,包括数千位院士及数十万会员,涵盖诺贝尔奖得主及多国国家级院士。

【声明】内容源于网络
香港文匯報
《香港文汇报》是由香港文汇报社主办的繁体中文日报,创刊于1948年9月9日。
内容 10112
粉丝 1
认证用户
香港文匯報 香港文汇报有限公司广西办事处 《香港文汇报》是由香港文汇报社主办的繁体中文日报,创刊于1948年9月9日。
总阅读480.7k
粉丝1
内容10.1k