本周四，英国国王查尔斯三世在苏格兰邓弗里斯府主持人工智能峰会，联合全球科技巨头高管、政府官员及民间代表，共同探讨AI的安全边界与未来走向。英伟达首席执行官黄仁勋、谷歌DeepMind首席执行官德米斯·哈萨比斯、OpenAI首席财务官莎拉·弗里尔以及Anthropic全球事务主管蒂诺·夸拉尔等业界核心人物悉数到场。
会上，查尔斯三世发出明确警示：若人工智能技术失控或被恶意利用，可能导致灾难性后果，甚至危及人类生存。他质问业界，是否应在局势无法挽回之前，尽快建立完善的约束机制。
对此，英伟达CEO黄仁勋主张以“负责任的乐观”推动AI发展。他指出，当前出现的AI事故并非源于监管缺位，而是因为部分产品尚未成熟就仓促上市。他强调，科技企业必须扛起安全责任，对系统进行严格测试，切实保障用户隐私、防范技术滥用，并维护社会运转所依赖的关键基础设施。黄仁勋表示，AI安全本质上是工程问题，在产品未达到安全标准前，企业绝不应将其推向公众。