最近听罗振宇老师的《文明之旅》节目,每一期不只是讲述历史年度大事件,而是抽丝剥茧从中挖掘出来一些文明演进的闪光点和人性的本质等更加深刻的洞见。比如,宋朝的人口大爆发,主要是因为取消了人头税。在取消之前老百姓为了避税,即使生了孩子也要扼杀在摇篮。而人头税的取消是因为当时有了可以丈量土地的技术,改征收土地税。进一步的启发是:技术的进步不仅仅是指生产技术的进步,也包括立法技术和管理技术。技术进步,改变的不只是生产效率,也是责任如何被分配。人类历史洪流中的每一个新技术都在改变着我们现在的点滴生活,而国家对AI的规范政策也决定了我们后代的生活。
目前我国对AI的立法和规范态度,我们已经可以在很多方面体会:
在全国人大常委会法工委研究室研究人员发文《关于人工智能立法问题的几点思考》中:“对我国而言,在开展人工智能立法工作时,尤其需要进行发展与安全的价值权衡。我们应当深刻认识到"不发展就是最大的不安全"这一理念,统筹推进高质量发展和高水平安全。在思考我国人工智能立法的思路、体例、内容等问题时,不能盲目跟随其他国家的立法节奏,而应立足中国国情,从我国参与大国竞争的战略全局出发,针对当前我国人工智能技术创新与产业发展的实际需求,运用法治思维和法治手段,解决新技术、新应用发展过程中出现的突出问题。”
在全国首例生成式AI“幻觉”引发侵权的判决书中:“生成式人工智能服务依据《生成式人工智能服务管理暂行办法》属于“服务”范畴,而非产品质量法意义上的“产品”。本案应适用《中华人民共和国民法典》第一千一百六十五条第一款的一般过错责任原则,而非产品责任的无过错责任原则。主要基于四点考量:其一,从概念与构成要件上,该服务缺乏具体、特定的用途与合理可行的质检标准;其二,其生成的信息内容本身通常不具备民法典侵权责任编所指的高度危险性,通常情况下不宜对信息内容本身采用无过错责任原则;其三,生成式人工智能服务提供者缺乏对生成信息内容足够的预见和控制能力,对生成信息内容不宜适用产品责任;其四,从政策导向看,适用无过错责任原则可能会不当加重服务提供者的责任,限制人工智能产业的发展。”
所以武断的说中国AI 监管的底层逻辑是:安全要托底,但创新不能停;风险要控制,但发展不能等。公法严,私法松:
内容安全、数据安全、算法备案:管得很严
侵权责任、赔偿:非常温和、留足空间
因为潜在的担扰是:一旦把AI 按“产品” 搞无过错严格责任,创新的影响可能是巨大的。
这背后其实对应的是一整套隐含的制度选择:
在责任配置上:不把全部风险前置到企业
在风险承担上:允许一部分不确定性,暂时留在社会侧消化
在激励结构上:优先保证技术发展与产业扩张的动力
换句话说,在技术尚未稳定之前,先让系统跑起来,而不是先把责任锁死。
但一旦用“责任配置”的视角来看,这个问题就不再只是“发展vs 安全”。而是变成了一个更具体的问题:当风险被释放出来,它最终会落到谁的身上?这就涉及一个在技术时代反复出现的现象——风险外部化。
企业在创新过程中获得收益,而一部分风险与成本,则通过制度安排,被转移到用户、市场甚至整个社会去吸收。这并不是中国特有的问题,而是几乎所有技术跃迁期都会出现的结构性现象。区别只在于:外部化的程度有多大,持续多久,以及风险何时被有效控制。
当前AI的发展速度,已经明显快于制度的演化速度。在这样的阶段,如果责任机制长期保持“起初的样子”,就会带来一个很现实的后果:
企业不会真正为“尚未显性化的风险”付出成本
安全投入,更多依赖企业自觉,而不是制度约束
个体在面对风险时,缺乏足够的制度性保护
于是,一个微妙的结构就出现了:激励是向前的,约束是滞后的,风险是外溢的。我们作为普通人到底是从中受益还是受损了呢?
最近的天价罚单,让人不禁疑问,垃圾外卖是普通人吃的,钱是平台挣了,机构收了罚款,但不会发给受损害的个人。罚款到底是“惩罚”,还是“信号”?貌似在我们社会的语境下更多的时候是信号。
到此,仅记录思考、研究和解惑的过程罢了。
— THE END —
--------------------------------------------------------

