过去一周是ChatGPT发布以来，AI圈最热闹的一周：
马斯克公布xAI首款AI聊天模型产品Grok，OpenAI首个开发者大会发布GPT-4 Turbo、GPTs、GPT Store等重磅更新，李开复AI公司正式开源首款预训练大模型Yi-34B，英伟达面向中国市场推出新的AI芯片……
人工智能的发展速度令世人震惊，但其极速扩展背后所引发的安全管理问题，也在全球范围内引起了巨大的恐慌。2023以来，全球AI立法进程明显加快，世界各国致力于在监管层面追赶AI的演进速度。
10月30日，美国总统拜登签署了一项针对AI的新的行政命令，制定了（美国）迄今为止最全面的人工智能规则和指南。该行政令将要求人工智能公司提高其模型工作方式的透明度，并制定包括标注人工智能生成内容在内的一系列新标准。
11月1日，首届全球人工智能安全峰会在英国召开，包括中国、美国、英国等28个国家及欧盟共同签署了承诺通过安全和负责任的方式设计、开发、部署和使用人工智能的《布莱切利宣言》。这也是世界上所有主要工业化国家达成的第一个关于人工智能领域的共识。
在全球AI技术竞争背景下，如何兼顾“安全与发展”，考验着各国政府的智慧。一系列行政命令背后，不仅仅是对技术的规范，更是对未来人类社会走向的一次深思熟虑。站在全球AI产业步入“强监管”时代的历史节点，我们被迫重新审视AI产业发展以及监管的深远意义。
AI监管的呼声日益高涨
大模型成功压缩了人类对于世界的认知，也将AI对人类安全、隐私、伦理和道德的挑战都推上一个前所未有的高度，所有人都开始担心一个问题：当AI开始展现出有超越人的智力潜力时，人们该以何种姿态迎接人机混杂的时代？
没有迹象表明人工智能进步会在人类水平上放缓或停止。实际上，人工智能已经在像蛋白质折叠或策略游戏等狭窄领域超越了人类能力。与人类相比，人工智能系统可以更快行动，吸收更多知识，并以更高的带宽通信。此外，它们可以扩展以使用巨大的计算资源，并且可以复制数以百万计。
值得担忧的是，近年来利用人工智能技术进行新型犯罪的比例呈明显上升趋势。AI换脸可以瞬间解锁各类门禁和人脸识别系统，AI换声已经被不法分子用于电话诈骗，AI生成式软件伪造的虚假信息充斥网络，个人隐私及肖像权、名誉权、知识产权等权益面临被侵犯的风险……被人工智能技术“加持”后的不法行为让人防不胜防，缺乏监管的技术“狂奔”一再试探着法律的边界并且已经损害了人们的合法权益。
全球范围内关于AI监管的呼声日益高涨。
马斯克多次对人工智能的危险性发出警告。11月2日，马斯克在英国AI峰会期间表示，AI是人类最大威胁之一，而且AI将会成为历史上最具颠覆性的力量，并将比人类更加聪明。
在6月10日举办的第五届“智源大会”上，OpenAI创始人奥尔特曼也大谈AI风险，并称10年内超强AI或将诞生，呼吁全球共同监管，在相关的研究部署上对齐。
奥尔特曼已多次呼吁把自己亲手培育的AI技术“装到笼子里”，并持续强调“共同监管，系统对齐”，出发点在于“如何获得安全的AI”，因为“很难判断AGI这种级别人工智能是否会损害人类”。
有趣的是，11月7日，OpenAI首届开发者大会刚刚发布了GPT-4 Turbo、GPTs一系列产品更新，并计划推出GPT Store应用商店，将目标瞄准建设一个以OpenAI为基底的AI应用生态。在更早之前，马斯克xAI公司也发布了首个成果——Grok AI助手。一边大力推动产业生态建设，一边呼吁加强法规监管，似乎变成了小圈子的“共识”。
早在2018年，世界人工智能大会就明确指出，人工智能发展应当做到“透明监管”，“避免技术黑箱导致的安全风险，需要通过建立可审查、可回溯、可推演的透明监管机制，确保目标功能和技术实现的统一（人工智能安全发展上海倡议）”。
今天看来，这些警觉在AI大模型时代仍然适用。特别是“数据安全”。正如一位企业安全负责人所言，数据在哪里，价值就在哪里，攻击就在哪里。
新规落地引发学术激烈争辩
当下，人工智能所引发的安全、隐私挑战，正在被各国政府及组织关注。
今年4月，我国网信办起草了《生成式人工智能服务管理办法(征求意见稿)》，提出AI内容必须真实准确，禁止非法获取、披露、利用个人信息和隐私、商业秘密。
相关立法也已提上日程，6月6日，《国务院2023年度立法工作计划》对外公布，显示《人工智能法》已列入立法计划，草案预备年内提请全国人大常委会审议，全国层面的AI专门立法正式启动。
美国政府也加强了对AI安全问题的监管。10月30日，美国总统拜登签署了对人工智能发展进行全面规范的行政命令，提出八个内容目标：AI安全与安全性新标准；保护美国人的隐私；推进平等和公民权利；维护消费者、病人和学生的权益；支持工人；促进创新和竞争；在国外推进美国的领导地位；确保政府对AI的负责任和有效使用。
一石激起千层浪，众多AI学术专家就此展开了激烈的讨论。
其中以马斯克、奥尔特曼、“深度学习之父”杰弗里·辛顿等人为首的支持派极力呼吁加强AI监管，而以图灵奖得主杨立昆、斯坦福大学教授吴恩达为首的反对派则认为，AI发展还远没有强力监管的时候。
杨立昆直言不讳地表示，如果美国持续支持科技巨头的AI研究，最终可能会导致只有少数大科技巨头能控制AI，从而引发一场巨大的风险与灾难。
吴恩达则认为，对AI技术发展进行强监管是一个“阴谋”。他指出，有一些大型科技公司不愿意与开源AI竞争，因此他们正在制造对AI导致人类灭绝的恐惧。但这会摧毁创新。
监管的核心是规避AI对人类的潜在危害，如窃取数据、诱导犯罪等，但在保护公众利益和促进科技创新之间找到微妙平衡，却是极难的。这也是学者担忧以及质疑的地方。
北京智源人工智能研究院院长黄铁军在一次论坛中指出，这次学术争论背后，是双方对AI的基本认识不同，很多搞科学思维的人不相信通用人工智能（AGI）会实现，而包括杨立昆在内的另一种技术思维认为AI发展可行。立场和思维方式不同，所以谁也说服不了谁。
他认为，到2045年，人类可以在AI技术加持下实现实时智能数据，并将迭代升级，大脑、后续决策也会发生变化。如果人类所有的这些灵感创新能力，会在一个非有机体上出现，那将是一个巨大的风险，我们要不要做这个选项，还需要多多讨论。
我们需要的是一个能够促进AI技术健康发展的生态系统，而不是一个充满限制和禁令的环境。因此，监管应当是透明和有弹性的，既能防范风险，又不抑制创新的活力。
严监管趋势下企业怎么做？
无论是生成式AI技术本身，还是AI大模型在行业侧的落地应用，监管都是必然趋势，并将贯穿AI产品的整个生命周期。而在生成式AI成为通用技术之前，每个生产链的参与者，都必须确保其成为一个“可控制”的工具。
尽管目前还不清楚，相关的立法、监管或司法能否实现最大程度释放AI的价值，同时降低其对经济或社会潜在危害的目标，但AI技术应用客观存在的一些安全隐患，值得引起整个行业的关注和重视。
就拿现在席卷全球的大模型热潮来说，其可信危机正在日益凸显，比如涉及知识产权问题、生成不恰当内容问题以及生成虚假肖像、图片、语音而用于非法行为的问题。很多机构等也提出了大模型产业需要重视的问题，比如数据风险、模型风险、隐私风险等。
北京理工大学计算机学院副教授、网络与安全研究所所长闫怀志曾表示，人工智能系统自身安全问题容易被忽视，它是个盲点。具体体现在多个方面，比如对抗机器学习，恶意样本生成，训练数据污染，出现伪造脏、假数据的情况。
业内人士认为，对LLM（基础开源模型）和其他生成AI技术的监管如果能兼顾“安全与发展”，将为今后的人工智能治理打下框架性基础。这需要行业中的企业共同努力，确保人工智能推荐算法需要遵守对应的合规要求，以及具备一定的透明度和可解释性，并在某些情况下需要通过备案。
同时企业应该摒弃“挣快钱”的短视思维，提前做好生态共建。很多企业为了抢占AI赛道的时间窗口匆忙入局，缺乏构建生态系统的心态，行业格局混乱，各种应用野蛮生长，为AI产业的健康发展增加了许多不确定因素。
马化腾也表达过类似观点，他认为这是“几百年不遇的、类似发明电的工业革命一样的机遇，但是这个的确需要有很多的积累，互联网企业都有很多的积累，都在做”，“我们也一样在埋头研发，但是并不急于早早做完，把半成品拿出来展示”。
科技不断进步，我们必须审慎每一项技术发展所带来的深远影响。只有通过负责任的发展，平衡创新与风险，我们才能确保AI技术在为人类带来便利和进步的同时，不会偏离其应有的发展轨道。
获悉新能源最新资讯解读行业热门话题
更多精彩内容敬请
关注视频号【苏昕Andy】
跟易能时代CEO一起走进新能源世界
