互联网-数据-AI合规一脉相承 | 弈者02

————

主持人：了解到您特别喜欢看《三体》这本书，特别巧，我本人也是三体的爱好者。今天的主题是聊AI，我注意到三体里有一个很有意思的场景，人类在更换黑暗森林威慑系统的执剑人时，曾考虑过要不要用AI去替代罗辑，但很快就放弃了。我觉得这个其实和我们今天话题特别相似。您认为这种放弃的背后反映了人类对AI怎样的考量？

嘉宾：好，我们可以先聊三体这个故事本身。我印象当中，当时罗辑跟程心在做交接的时候，在描述人工智能为什么不能去承担最终的执剑人身份，有一个很重要的原因，在小说里面说到了一句，就是人类其实是根本不会把自己真正生死存亡的这种事情交给一个所谓的机器或者系统去决定。这句话我们尝试去剖析的话，我觉得从小说背景本身出发会有两个层面。

一个是大刘写这本书的时候，你想它处在大概是什么年份？那个时候，作者肯定会受限于自己所处的这种时代背景，然后对一些不管是叫人工智能这类东西，对它的看法，肯定是有一种时代烙印的。有可能说，当年写的时候跟他2024年现在来写的时候，我个人觉得是不是会有一些偏差？这个是存疑的，所以这个是一个方面，就是作者本身所处的这个时代背景。

还有一个很重要的原因是什么呢？就是小说里面其实人类物理理论发展整个被锁死了，被智子锁死了。我不知道你有没有印象，抛开这个执剑人身份，罗辑他自己在年轻的时候，冬眠了一段时间又苏醒了，他跟史强两个人去餐厅，在机器人要追杀他的那段故事当中，罗辑查他自己账户时候冒出来的那个空气当中点出来那个界面，我不知道你有没有印象，界面上的是很标准的银行柜员的那种声音，是一个女生的声音，就来给她介绍我们的金融服务有哪些，你的账户里面有多少资金等等。罗辑当时就很好奇地问了一句，你是人还是机器人？结果对面是怎么回答的？她说我肯定是真人啊，机器怎么可能处理这么复杂的事情？

所以这其实也是我自己把两个情节一结合，从书里面去挖掘信息的话，当时在智子封锁之后，人类整个的科技发展可能就是在工具这个层面好像越来越厉害了。比如航天飞机升级，火箭速度也可以更快，但理论层面的那种更实质、更终极的一些东西，就像物理学家丁仪，他到了80多岁，他说人类这个科技发展其实并没有想象中那么的快，我一个80多岁的老头子，我现在还在大学教物理，所以这本身就说明技术是被封锁的，所以这个是书当中，我觉得如果从这个案例往下讲的话，是这样的一个点。

但是这个故事背后，如果今天映射到我们聊人工智能这个主题，这里面我觉得其实就是人类对于人工智能失控风险的一个担忧，这个就有点串回到伦理这方面的一个问题了，就是担心机器失控，人类对它就无法掌控。一旦无法掌控的话，那机器做出的决定到底是不是一个最终正确的决定？其实是有担忧的。

主持人：这和自动驾驶系统面对电车难题的情况很像，一旦涉及重大生命财产安全的问题，机器的决定会显得很冰冷、很让人类没安全感。

嘉宾：没错，像现在自动驾驶的这种案例，其实是机器自己夺回了车子的掌控权，然后出了状况，都会有这样一个层面在。所以，至少可能囿于我们现在的水平认知，人很难完全把自己的，可能我们会愿意把对一些工作质量的把控去交给他，甚至是制造业现在的一些质检这样的东西会愿意交给他，但是一旦牵扯到我们存亡的时候，你要考量的因素就不只是一刀切的对或者不对，你可能要有道德的、伦理的、情感的，甚至是要有这种狡诈的谈判心理这方面的一些考量。

所以沿着这个case，我觉得从书本本身到背后我们要去谈的主题，其实应该是谈到伦理层面，以及人类在AI的失控性这个方面是不自信的。我觉得目前阶段这个话题的关注度不会很强，但是越到后面发展，等到强人工智能出现的时候，这个话题可能会越来越凸显。

主持人：刚才我注意到您提到了强人工智能，其实就是业内所谓的AGI。那作为您就是科幻爱好者和数据合规律师这样的一个身份，那您相信 AGI 最终会降临吗？

嘉宾：我肯定是一个非常非常忠诚的、甚至是很坚定的AGI的拥护者。虽然前面我们聊到三体，但是，其实这个概念不一定能完全套用。因为三体里面有拯救派跟降临派这样的一个区分，当然它的概念是拯救派，是希望去挽救、然后最终赢求共存，降临派就是索性你过来，毁灭你与你何干这样的一个心态。但首先从选词的话，因为AGI不存在什么拯救、降临这个概念，非要选一个的话，那我可能会是降临派。

因为我觉得它肯定会来，但是来了之后并不是说真像聊的那样，这个是碳基生命还是硅基生命？硅基生命一定会怎么样？但是我内心依然是觉得他会来，而且是无可阻挡的。等到它降临的时候，依然内心是拯救派这样的一个角色，希望能够更好的共存，甚至是人类极其大和谐的那种情况。

可能我们从小看的一些比较早期的科幻片，大家对人工智能的认知，应该都是以前一部叫AI的电影，包括到后面有很多机器人，包括这几年这一类以人工智能为主题的电影。其实大众对它的认知可能还是一个机器人的概念？那相信这两年随着AIGC产品越来越多，至少这几年GPT的使用、各种大模型的竞争走入我们的生活，大家其实对它的认知有一点点小的变化了，至少在工具这一侧，它对我们的生活和工作是能够有比较大的自我帮助的。那我觉得至少这种状态目前还是和谐的，尖锐的问题还没有开始呢。

主持人：能具体说说您担心的尖锐问题吗？

嘉宾：当谈到伦理的问题会比较尖锐。你说这几年我们能有什么问题？无非就是会有AI幻觉的问题，它会犯错，无非它有可能会侵犯我的隐私，可能我的很多个人信息被拿过去做训练之用了，它更加的了解我。那本质上，我觉得还是AI里面的侵权问题，跟现在我们谈的数据领域的算法侵权问题没有实质差别，但这种实质差别可能越往后会越来越凸显。

所以回到上一个问题里面，我觉得现在大家矛盾点还没有那么被激化，很重要的一个原因是还没有正儿八经的谈到深层次的伦理道德的冲突层面。我相信AGI一定会实现，这是一个不可逆的状态，甚至某个阶段会发展到两个人工智能互相对话，它会超出人类所能控制的范围，可能开始有自己的语言，有自己的意识的觉醒，这个东西是不可控的，就跟流浪地球2里面的情节一样，TA可能突然之间就觉醒了，但是无论如何，就像当年机器人三定律一样，就是不能伤害人等等的这样一个大原则。

如果人类还是把它框住，最后那种共存的状态还是比较能够有想象空间的，这当中可以再叠加像脑机接口的这样一些东西。我确实很喜欢科幻题材，就像流浪地球里面刘德华那个角色，最后他就是一直进入到相当于是完全的计算机世界了，他其实就已经是完全的永生了，已经是意识永生这样一个状态了。我甚至会幻想多少年以后，能等来像是人类永生，在意识层面能够达成。

因为我自己是江苏人，我们有一年出圈的江苏高考语文作文题就是——假如记忆可以移植，这就是一个非常早期在探讨人类意识是不是可复制的、可保存的，能不能永生的话题。我话匣子打开了之后，话会比较多，我不知道能不能表达清楚我的观点。

————

主持人：刚才我注意到您还提到了一个概念，就是大低谷。这个其实是三体里面就是非常著名的一个事件，但当然也是一个大刘在描写那个时代的时候比较令人痛苦和惋惜的背景。我记得当时那个罗辑他醒来了之后，他是去很对新的世界很惊讶。他以为科技进步的非常非常发达了。但是当他了解了技术本层的原理之后，就像您说的说智子已经锁死了底层科技，那您有没有，就是因为我刚才观察您的观点，可能说更多的是比较对技术有非常非常积极的一些憧憬，有没有担心现在这样的一个所谓的 AGI 或所谓的这种强人工智能？就是之前描述一些背景，可能我们像当年的，因为 AI 它其实是很早很早的概念。然后每一次都会有这种泡沫，这种技术也好，或者说我们所谓的投资泡沫也好，金融泡沫也好，产业泡沫也好，我觉得您作为律师同时又有这个深度的爱好，一定说可以从这些视角去观察到它，到底你们自己判断是一个什么样的趋势？

嘉宾：嗯，虽然有点超纲了，但我觉得是一个很好的问题。就是你刚刚提到的大低谷，大低谷有一个很重要的原因，其实就是大低谷之前是有过一次大解放的，人类知道自己可以寿终正寝的时间就只有两三百年了，不如就狂欢，精神上的大解放之后，物质上就不克制了，就有很多资源的浪费。然后再到后面，发现还是希望挣扎一下，就大量的资源要么被浪费，要么就投入到科技的开发，要去做最后的像苟延残喘一样的对抗，那你基本的温饱其实就解决不了了。这其实跟人类历史上某一些时间段的某些发展策略是有点像的。如果你的大量资金资源涌向了一个泡沫，那剩下的那部分人自然就要挨饿。

所以你也提到了，AI其实很早就有一个概念了，那已经是一九五几年就有的东西。我们谈它都会要从图灵开始讲起，可能要从达特摩斯会议开始讲起。弱人工智能跟强人工智能这样一些概念其实很早很早就有了，甚至如果我们再去回溯GPT，就以Chat GPT 为例，它其实也不是离我们那么近的，虽然22年才开始火，但其实GPT 1很多年前可能就已经开始在训练了。为什么它能够走进我们的生活？其实就是因为一下子大家把它当回事了。

主持人：怎么来定义这个所谓的“大家把它当回事呢”？

嘉宾：我们举个例子，就说翻译这件事情，大家以前正常是怎么翻译的？你可能会有两种路径。第一种，可能会有一批学英语翻译的，不管是口译还是笔译，它其实是人的一个专门的职业。但不管是因为价格原因还是因为不方便，大多数时候我们其实是靠什么？靠的是一些网络上的，像谷歌翻译、有道翻译、网易之类的一些翻译工具。

那好，我们先不谈人，就谈那些翻译的工具本身。你应该能够比较明显地感知到，在2018年左右某一个时间节点，之前的谷歌翻译跟之后的谷歌翻译质量在某一个瞬间就一下子好像从量变到质变了。为什么？是因为底层翻译用的语义识别的底层模型，它的公式选择发生了一次比较大的变化。这个其实就跟GPT是一模一样的，GPT当时就是抛弃了大家原先喜欢用的模型，自己走了一套Transformer这样的一个模型，然后发现试下来非常的棒，效果惊人。

现在，像我原先会用谷歌翻译，现在也不会用谷歌翻译了，甚至是我们作为法律工作者，有很强的翻译需求，我们会去用一些AI科技，不能叫AI科技，是法律科技产品，它们的翻译产品还不错，具体哪一家可能大家都能猜到，但现在我觉得对比像GPT这样的产品，差距依然还是明显的。不光是词语本身的准确度，还有底层翻译出来的东西，GPT的formal程度更像是以老外视角和他的口吻所表达出来的，它是有比较native的感觉的。

这就是我想说的第一点，就是为什么这几年这个东西一下子就热了，甚至是很多人开始也想涌进这个行业，不管是资本还是个人，甚至我的很多的客户的法务和他们的合规官们也会关注这方面，它不一定是说未来今后会怎么样，而是说在我们有限的可能后面还有小几十年的工作经历当中，我个人的成长性跟AI之间应该怎么样去协同。大家会去讨论这些话题，这是我想讲的第一个点。

然后第二个点的话，就是这几年AI所呈现出的状态，到底是一个怎样的阶段？我个人觉得，目前慢慢的出现了泡沫，当然这种泡沫跟头部的那几家没有关系，最好的最大的那几家，我觉得人家不存在泡沫，你看隔一周我们就会被发布的一些视频所震撼到，像最近的GPT4o，它的最强的功能多模态实在是太棒了，那个视频我相信大家可能最近也都看到过。但是我说的泡沫反而会是在什么层面呢？

主持人：我想您指的应该是当下资本热度带来的泡沫，就像当年的互联网一样。

嘉宾：没错，就是资本开始往里面涌的时候，这种资本其实就是热钱，资本它不可能投所有的钱，即使它很有钱，想投到最头部的几家，它也投不进去的。这个时候它的选择会是什么？它要去投中部、腰部、底部，甚至是砸一波钱，去创设一个全新的东西来，那这个造出来的一个所谓的模型，它本身到底是能有多长的一个发展？

它的归宿比如说是发展到一定的阶段被人收购了，有个大公司看上了，那这种多半早期的时候它会去另辟蹊径，走那种很细分的领域，因为如果它也做那种很简要的东西的话，人家已经发展得很好了，你凭什么能走出一条特有的道路，对吧？这是第一种。

然后第二种是它无所谓，哪怕能够做六个月就做六个月，做一年就做一年，因为它的归宿最终可能就是很快的，没有钱接进来，就不做了。但无所谓，为什么？因为有一些可能是上市公司花了一点点的钱，其实想要去做的是自己的市值管理，想蹭这种热点，所以在这样一个比较热的状态下，不同的参与方在资本这一侧，它的诉求点或者说它想从中去获得东西，是不一样的。

像这两年我们已经开始用的一个概念，不说国外，就国内，中国大陆这边已经是到千模大战这样的一个状态了。但真的说能让我们记住的和工作中、生活中可能还会去用的，两只手是数得过来的，十家！我们可以反问一句，你现在能够清晰的告诉我国内最主流的十家大模型各自的特色是什么吗，你说得出来吗？我自己也说不出来。反而是有时候，像我们工作上经常会定期看出了哪些新的小工具，我们反而更喜欢去试那种真做的比较有自己特色，做很垂类很细分、单一功能的一些小的AI产品。

因为我有外资客户，我们现在还得经常练英语口语，我原先是会用线上跟老外对话的那种付费产品，比如周末一天，或一周我们会有几节课这样子。现在我觉得不需要了，有专门那种练AI口语的，AI跟你来练对话，你会发现你跟它聊什么都可以，然后我就经常跟它聊数据合规，它可以说的头头是道。它还可以换口音，可以没有任何时间要求，你也不用担心对着的是一个人的造型，它其实是一个照片在动，不是真人，你也不用去害羞说我这个说的不对，我会有人类的这种羞愧心理，担心被指出错误等等，所以反而是这种比较细分的这种东西，我觉得是，就从我的角度我可能会更喜欢一些。

主持人：谈到细分的机会，作为AI领域来说，有一个细分的方向很相关，以前叫法律科技，现在叫法律AI，在华尔街有些项目融了很多钱，国内最近也一直如火如荼，您是怎么看待这块的？

嘉宾：法律科技，在我刚参加工作，应该是十几年前了，那个时候是有波热度的，当时大家就想去做什么智能回答的机器人。大概的逻辑是一个当事人过来，抛了一个问题出来，机器后台做语义分析，甚至是可能拍一张照片，比如发一个自己的劳动合同，机器人就会抓这个合同里面有哪些，先OCR，然后再去读文字。读文字的时候总结出里面可能的风险点是什么，用来做基础的法律问答，甚至是一些基础的法律合同、一些条款的研究。当年这块很热闹，我认识的很多个律师行业的朋友，甚至是我的一些前辈，他们自己凑钱要去投这个东西，但没多久没声音了。

为什么？因为当时的环境下，那时候的技术，OCR其实这么多年也就那么回事，但是你的分析能力，所谓去追求语义分析的那种底层的技术，跟现在如果是用GPT再去做的话，我觉得完全已经不只是几倍的差别，可能是指数级的那种差别了。所以有一些东西就是时代不对，当年做和现在做我觉得就完全就是不一样的状态了。

而现在这个阶段，我觉得像这样的一些对话的所谓的智能机器人，像我们团队自己完全可以去接一个开源的模型，然后正常地喂一些法条跟案例的语料，它就能像模像样的呈现出一个还似乎像那么回事的服务，就可以去提供给客户。它的底层逻辑我觉得已经完全变掉了，所以最终千模大战，但这个话我不敢说那么彻底，因为我自己会隐约觉得可能也就没几年的时间段，最后清洗出来的市场上存下来的，可能就那么多家，这些肯定是有本土特色的。

因为国内的监管环境，对语料的管控，甚至是有一系列的监管政策的，相信我们一会也会聊到，跟国外还是有很大差别的。但是像国外的那些也一样，现在能数得过来的也就那么几家。所以最终的状态，我觉得到最后就是，因为底子上就跟人类的科技史发展是一样的，不同阶段，无论是电子元件、二极管时代，还是后来的芯片时代？科技的发展最后留存的肯定都是巨头，它一定是一个巨头的模式，所以大量的泡沫会被挤出，但是漂亮的肥皂泡泡，我觉得大家想要有的最期待的那个东西始终还是会存在。

————

主持人：彭律师，您刚才其实也提到了监管的问题，我们可以聊一聊人工智能相关的法律和监管。您能大概介绍一下，比如说咱们国家，或者说如果说您可以说在拓展到国外，嗯，当然更好，嗯，就是说我们先谈我们国家的人工智能的它这个立法和监管就是它的一个历程，包括说现阶段的特点，嗯，以及说您自己预测说未来它会有一个什么样的走向？

嘉宾：通常的逻辑可能会是先去聊欧盟，我们现在反过来，就直接先聊我们国家。其实谈这个所谓的AI监管，这个话题现在甚至是一个伪命题，因为还没有AI监管这个概念，AI监管的话就是要中国有自己的人工智能法案，今年24年又重新把它拉到这个立法规程里面去了嘛。现在中国是没有AI立法的，但是AIGC相关的一些立法有了，比如大家熟悉的《生成式人工智能服务管理暂行办法》，当年经历了从征求意见稿，业内哗然，说别弄了，太严了，到慢慢的现在呈现出一个放松的状态，包括像最近也有一个比较积极的信号的变化。

我们从一些小的点开始往上推演，当年人工智能办法出来之后，主流的一家做人工智能，甚至就是AIGC类的产品和技术的公司，正常要去履行的前置义务会包括什么？你要做算法备案，如果是生成式人工智能的，可能又要做基础支持的，也要做产品服务提供方的，可能还要做大模型的备案，这两个做完了之后，多半属地的公安还会来找你要去做安全评估，你基础的这个三件套是避不开的。

那当年这个模子嵌套的是什么呢？有一个案例，有一些服务商，他们其实是没有底层的技术能力的，他可能就会去封装一些别人已经成熟的产品，相当于做通道、做聚合。在那一个封装的产品里面，你可能看到会有a模型、b模型、c模型不同的语义功能，它去做这种交互的转化，让大家用得比较开心。那你要说这个技术含量有多高吗？没什么技术含量，因为都是别人的。曾经一度针对这个单纯的做通道去封装别人产品的这种业态，国内监管一致的态度是什么？也需要去做大模型的备案，这其实就很夸张了，相当于我作为一个聚合方，把别人家的东西装过来，然后你告诉我说也要像是一个研发方那样的角色，要去做大模型备案。

某种程度上这其实不是那么利于大家去推广这样一些东西的，所以就在最近能很明显能看到有一些地方网信办，他们在自己的省一级层面开始发公告了，达成一个什么共识呢？针对咱们刚刚聊到的单纯的把别人已经备案的模型去做分装、做聚合的，好，至少大模型备案这个层面你是不用去做了。

其实从这个案例，至少我们能发散得出一个什么结论呢？国内监管在对AI的治理方面某一些点上，不得不说确实是在往一个松的方向去的，这个理念已经在有点变化了，从最早的时候感觉什么都不让做，到当中一下子很积极的，很多备案名单在不停地发，然后适当的时候针对一些能够管得住的场景，监管其实是在松绑的。比如说有的东西就不用做了，像刚刚咱们说的那种，甚至连二改都不算，可能就是封装的那种，他基本上只需要去做一个算法的服务提供者的一个备案就OK了。

 这是我想说的第一个小案例，所以回溯回来，人工智能往前倒推，就是国内真的要去追溯的话，我觉得不应该先聊人工智能的立法跟监管，应该是要先讲互联网的监管跟立法，然后从互联网的立法，慢慢的导向到这几年比较热的数据安全和网络安全，还有个人信息保护的立法，然后再发散出来一个叫算法的立法规制，到了算法这里再衍生，到后面就变成是人工智能。

主持人：听下来，今天我们谈这个AI安全与治理的主题，就监管演变而言，并不是一个新的东西，其实是可以总结为三大阶段，互联网-数据-人工智能。

嘉宾：没错，演变的周期其实是非常短的，虽然周期很短，但是能看到故事一直都很精彩，因为一直在出新东西。AI监管不是凭空冒出来的，它的监管基础和特征，尤其是手法都是同一拨人，就是当年管互联网的那拨人，后来开始要管数据和个人信息了，现在突然开始要管算法了，突然间开始又要管这个人工智能了。

那为什么我们要谈它的前身和它历史演变之前的周期？因为还是同一拨人在管的话，它监管治理的思路其实并不会出现太大的差别。这是我想强调的第一点。然后第二点就是，去年到今年的这个状态，这个松的迹象是有在发生变化的，尤其是人工智能，也刚就前段时间的事，两个大国之间会面了，第一次正式的就人工智能在两个大国之间对话，那天我看有人写文章说谈了等于没谈，那第一次多半都是谈了等于没谈，有各自的立场，对这个东西的感知很不一样。所以今后可能从这种状态慢慢进行大国博弈，在人工智能这个板块我觉得也会是一个很有意思的话题，以后应该还会有第二次、第三次、第四次。

主持人：谈到两个大国之间的这次对话，我们刚好可以聊聊这一块美国和欧洲是怎么做的，据我所知，他们的做法非常不同。

嘉宾：因为立场是不太一样的，你跟美国谈，那美国本来就是靠科技互联网起家的，它是那种扩张式的发展路径的话，它肯定不会很紧。就像谈数据治理一样，人家没啥限制，突然之间美国想来限制一些什么跨境传输了，那是带着特定政治目的来的，美国人的这个敏感个人信息有一些不信任的国家不能够传等等。如果没有这样的一些政治目的，其实会是一个很宽松的环境，因为大多数的巨头互联网公司像Google、Twitter这样的一些公司在哪里？都在美国。

但是相反欧盟你能数的、说得过来有什么大的互联网公司吗，你会发现没有，可能会有那种能源的巨头、传媒的巨头，但是它的互联网属性确实会是弱的，这导致了欧盟对于人权隐私这个角度的担忧更多一些，会更加的保守一些。

这也能对比出来，像在人工智能这个问题上，我觉得是一致的，跟数据隐私治理这个方向很对。欧盟的GDPR就是很严，管控得很厉害，因为它保守。欧盟现在的那个AI法案，其实我觉得治理思路跟当年的GDPR很像，它都是很缓慢的，但是按照自己的节奏在一步一步推的。它人工智能的分级的理论，以及后面会更想每一级要去给更细化的操作指引，这其实就是欧洲人在走的路径。然后美国人就完全不是一回事，美国人就是先干了再说，之后如果出现了那种很高风险的事情就定向去解决。

主持人：相比欧美，国内的风格我理解会更中和一点？

嘉宾：对，我觉得就处在中间状态。拔得最高的其实是会上升到意识形态、内容安全、政治稳定性、国家安全的话题，这个是最红线的东西，能守住了之后，这两年已经开始是觉得剩下的问题其实都是可以去解决的，是宽松的，像为什么现在有的地方已经开始人工智能、AI产品、大模型备案备的，我会给奖励，对吧？这种以税收，甚至是像当年某一个地方，科创板上市一家，我们给多少的返税政策，是一样的，中国已经从一开始没有那么的去重视它，到现在慢慢变成是把它当成未来了，这是一个很大的转变。

我个人觉得现在还是比较缺的，当然中国在很多监管治理层面都会有这个问题，就是缺那种比较能让从业机构看得见、摸得着、能操作的细化标准。这是现在比较缺的，因为很多东西都是具体执行的时候，监管部门可能会给你窗口指导，可以给你定向的指导，但是这种东西怎么说呢？不确定性会相对来说更高一些。大家都会读法条，但是读完了法条之后我到底怎么去做？甚至法条是这样写的，我是不是就一定要这样做？在中国一些特殊领域，尤其是早期阶段的这种领域，写的和做的之间本身就存在这样一个差距，虽然出了文件，但是真的要到能够切实地开始去落实，我觉得还有很长很长的路要走，这个是我想谈的，因为这里面的主题词就是平衡监管和创新嘛。

我个人感觉现在国内的监管已经慢慢地意识到这个事情，它就得是边污染边治理，我们借用当年环保的路径，你不能想着说不准你污染，然后就先全部管死。连污染的机会都没有的话，因为我们讲的污染就是这当中的风险，肯定是会出现的。不管是你认为会冲击到这个意识领域的东西，甚至是隐私层面的这种东西都行，肯定是会出现的。所以不再是闸门先关，然后再慢慢地放的状态了，而是意识到有一个闸门必须开在那里，另外一边是大家在不停地补这样一个状态。有了这样一个很大的转变，我觉得对于中国人工智能的产业还是会有比较好的一个正向引导的。

换句话说，因为也就是现在意识到什么呢？这个东西它跟其它的监管领域不一样，其它的像最容易管的策略是什么？禁止准入、市场准入、发牌照，然后靠后续的频繁的报告机制，包括频繁的抽检机制，这就像食品行业一样。厨房间要透明玻璃，要随时可以去看的，就类似这种逻辑，对食品安全可以做到这个程度，但是AI你发现你做得到吗？经常我们会讲算法要有可解释性，要有透明性。这个透明跟食品安全的透明，它不是一种透明，它就是一个黑箱。那你说你怎么去解？这么一堆的这种东西不停的在新出，每一个都是让你震撼一下的，它太快了，你的立法、你的监管措施肯定会受限于你当时所处的环境和肯定要有一个标的物的。今天你要管这种东西，管的这种东西稍微一变化，它可能就突破你原先的那个框架，用老的策略还去对这种新生的事物，你会发现完全就匹配不了。

所以我感觉到后面可能会出现的一种状态，就是把大原则，涉及到社会安全、国家安全、政治领域的意识形态的东西把控好了之后，剩下的其实我觉得都是可解决的。这其实是有很多无奈在里面，就是你想管，但是你会发现不是那么好管，虽然不好管，但同时又不能够完全把它压制住，说不让他发展，所以我觉得会是这样的一个情况，这是我的一个观点，也是我对未来的一个期待。

————

主持人：其实刚才彭律师您已经谈了很多，就是怎么去平衡监管和创新的这样一个我们说方法吧。嗯，其实我认为更多的是站在，比如说如果说我们作为一个律师或作为一个市场的这样一个经济主体，有没有一个新的问题？然后客户愿意付费，然后去解决。其实比较好奇的是您作为这样一个数据合规，包括说也会做一些隐私保护方面的这种律师，您观察到除了律师行业，包括说一些咨询行业，也就是说在整个市场上谈到了我们说安全和治理，现在有没有人愿意为此而付费？或者说付费的这些人他们是什么样的一个画像？

嘉宾：沿着我刚刚的思路，我们从互联网的监管到这几年的数据合规，然后再到最近我们已经开始慢慢谈的AI合规这个概念。从法律、产品和服务链条这个角度来说的话，我们就选这三个样本来说。

互联网监管在服务市场这个层面已经是比较成熟的了。因为毕竟有十几年的经验，转化成现在大家都会做的产品的合规，就是有点像是一个产品要上线，那这个产品可能会有什么功能？面向什么客群？它会有哪些方面的问题？然后演变出来可能会有广告合规，会有竞争的问题，正当竞争的问题，会不会有一些甚至是违反到基础的价值观的那样一些东西？就互联网监管而言，这几年下来我觉得是相对固定了，一波律师慢慢的跟着资本，开始服务这种互联网厂商，这里是一块。

第二块就是关于数据合规，这几年确实还一直是比较热的状态。甚至是去年到今年，其实整个律师服务市场的状况还不如去年，已经够差的了，今年呈现出的状态是什么呢？就是大家对于整个预算的压控和账期的这个压口，通俗来说就是钱少了，钱付得还慢了，你就可以把它想象成这个状态。甚至有一些特定的非诉业务，不是数据口的，像什么资本市场之类的就很惨淡，并购什么的也很惨淡。

在这样一个背景下，反而是像我们做数据的，虽然说客户们也能感知到钱在变少，账期在有意的放慢，项目节奏在有意的放慢，但是至少项目的需求还是在那的，他要做的东西其实还是比较多的。因为光一个隐私治理模块的话，前面我们谈到的互联网产品如果要上线，要去开发的话，也会需要privacy by design。隐私保护设计这样的一个东西是要融入其中的，当中可能需要去论证，比如用算法的话，就有算法合规的问题，你的客群里面会不会涉及到一些特殊的对象？有没有儿童？甚至是你有没有特殊的字段？有没有金融信息？有没有人脸信息这样的一些生物信息？很多种因素叠加的背后，都是一个一个的小的主题。

举一个例子，任何的互联网产品最终载体可能是会归到一个APP，或者是一个小程序上，我们称之为展业载体。我们光讲一个维度，就展业载体要上线的过程中会面临哪些问题？一是应用市场那边，你要上架，他们那边会审核到，然后上架的时候本身天然的可能在接入服务商那边，就需要去做APP的备案，要拿到备案号。如果你这个APP的业务功能本身还涉及到有经营性的互联网服务的话，你还需要去拿B25号五类或者叠加一个ICP证这样的一些东西，就会有增值电信业务许可这么一个问题。这些其实有点像是前置准入的，APP要上架了，你要开发，开发的话那至少第一端你是面向C端客户的，你要注册吧。那我们原先传统的就是数据合规，在没有这么热和成为产业链之前，大家对于APP的认知就是两个协议，一个叫用户注册协议，第二个叫隐私政策。

接下来到现在的话，我们一个APP的产品在对客端的，就是C端的文本这块，除了标准的用户协议这个还是要有的，隐私政策还是要有的。但是隐私政策这个点你可能扩散出去，要配套的东西可多了，你可能需要配一个什么敏感个人信息的处理规则，因为这是个保法的要求，要有单独同意的实现，你可能需要有儿童个人信息的处理规则，因为这个是儿童网络保护规定和个保法里面针对儿童个人信息额外的要求。

你可能需要有人脸识别的处理规则，因为人脸识别很特别，它是要触发式的进行弹窗，它的技术实现还有不同的方案的。然后你可能还会需要我们称之为叫双清单的东西。有这个对外提供个人信息清单和已经收集个人信息清单，这是工信部的要求，然后还不止，你可能还需要去配各种各样的像SDK清单、权限的清单，甚至叠加的东西会随着你的一些功能而变化，最至少在文本这一侧的它的量就会比较大了，这个才只是APP服务当中的第一个环节当中的一部分，就是对客端的文本，那你进入之后有一些功能的实现，如果还有一些其他的服务厂商或者第三方服务方式，以H5界面甚至是一些跳转的功能要接进来。那又会引发出来很多的东西。

所以我以这个案例想谈的就是，至少像数据合规这个东西，慢慢的现在市场在变成熟了，但是法律产品还没有变标准化，恰恰是这种业态的时候，是作为一个乙方，不管是咨询公司还是律师，最开心的时候，你有创造性的价值，然后你是有自己的价值体现。

不像传统的互联网监管，审广告的那些市场很成熟了，客户愿意为他买单的费率肯定是低的。所以，数据合规的市场是在慢慢变成熟的，因为有一批客户是重视它，甚至是有一些案例能够拿得出手，监管是会给到企业压力的，这个就是成熟的起点。大家会愿意去买单，愿意去做预算。但是没有成熟的产品，没有标准化的产品，就是这个东西依然还是张三做张三的，李四做李四的，不同的人做出来的峰值，它的偏差度还是会比较大，所以这种是比较开心的状态，而且这种状态我自己觉得再延续个三年到五年可能还是会有。

像去年出的那个人脸识别技术主题的，再到安全事件响应主题的，就是一些很重要的这种匹配度高的东西也都还没有出来。那你想，光等他出来可能要多久？等它出来，再到要去落地，光一个安全事件调查与响应，可能就可以养活一大批人。到时候安全厂商、调查公司调查费用，我们的业务其实又有可能是可以再去延展出来的，所以当然这是一个比较好的方向。

主持人：那人工智能方向的这种付费业务现在是处在什么状态？

嘉宾：AI合规、AI治理这个概念现在真的就是非常早期的概念阶段。我先讲我自己团队的一个切身经历，就是我们现在在做的AI相关的法律的需求还处在什么阶段？可能有点像是2017、2018年时候的个人信息保护，大概就是六七年前的个人信息保护的状态，就那时候就是做什么被动式的在接受一些咨询，适当的去修正一些文本，是没有什么专项可能的。那现在的AI你说有专项吗？有，专项算法备案，大模型的备案。

就是我说的那几个备案，这种专项会找律师做吗？有人可能会找，但是绝大多数人不会找律师来做，因为你首先会来做这些备案的基本上都是大厂，而且还真就是互联网公司居多，很多一些制造行业，就是特定行业的那种公司的话不做的，因为人家可能是使用者这个角色。大厂在看待这种比较先进的，走在比较前沿的东西的时候，他们内心的OS会是什么？一个律师懂啥？这是他真实的想法，真的是这个，一个是他会觉得律师他并没有走在最前，他对于这些东西产品的这个实质没有那么了解，所以我也不需要你来做，这是第一个。

第二个为什么不需要律师来做？因为大厂很多现在在负责类似于跟监管部门的对接，要去做一个模型备案的这个层面的时候，除了法务，就是我们通常说的Legal这个层面在里面是相对弱的，谁强势？业务。可能还有更强势的？GR。监管部门的对接比较依赖于GR去对接，它需要大量的前期沟通，其实并不是一个纯粹的法律问题的沟通，更偏政府事务侧。说实话，如果一个客户对于律师的期待，是希望帮你去解决这个政府事务侧的这样的一些问题的话，那我觉得这个说明这个客户自己的GR能力太弱了一点，所以大厂他自己在这方面的话，我觉得在对接这些监管资源这方面，肯定还是有他自己很独到和优势的地方，所以这一类的项目当中对于律师的期待值就是，即使是有一些律师会参与，你就是纯粹的去做paperwork层面的事情了。这是第二个原因。

第三个原因是什么呢？就是很多公司其实产品的早期上线阶段，它的机密性是很强的。哪一家？我准备开发什么产品？准不准备进军AI？大概会是什么方向的？AI？有没有什么大的功能？不太可能会把这种全量的素材都会释放给一个外部的中介机构去完全放手，说你帮我做，就是产品本身的一些保密性，其实会控的会比较严格一些。因为一旦你全量文本去给他过的话，那你那个申报表也让他去帮着准备，所有的这个算法、那个配套、那套制度都去给他，那基本上看的人能够还原出来，按你这个东西大概会怎么做？甚至这个AI的环节不只是文本，还需要上线前找公司来测，就是会不会有一些不好的问题，看AI是怎么样响应的等等这些问题。

所以我总觉得是三方面的一些考量，就是参与这种比较早期像模型研发备案这个阶段的这种律师业务，其实不会多。有肯定有，但是不会多，那更多的这个就跟你所做的这个客群有关系。

主持人：好的，这次谈话解答了我很多的疑惑，感谢您的分享。非常感谢您！

嘉宾：谢谢。