抖音前法务李绕娟指欧洲拉美转入先发展后治理AI新共识

抖音前法务李绕娟指欧洲拉美转入先发展后治理AI新共识 大模型训练阶段的全球数据抓取流量已占互联网半壁江山，针对维权成本高企的现状，应在内容安全与反诈输出端对技术滥用者实施刑事重判而非限制前端研发。 本期节目中，前 TikTok 法务 BP、资深数据与隐私律师李绕娟与主持人展开对话，理性剖析了 AI 在法律界的应用现状。李律师结合自身拜访 OpenAI 总部的经历以及行业调研，深入探讨了 AI 生成物的著作权归属、大模型训练在海外的“合理使用”辩论、音色克隆的技术内幕以及全球隐私监管风向。同时，她还分享了当前中国企业出海在面对预算紧缩时，如何通过中国律师的前置调研与海外律师的精简确认，高效解决跨境数据合规与远程技术支持等痛点问题。 李绕娟律师认为大众普遍高估了 AI 的短期效果而低估了其长期收益，并直言在自己有生之年 AI 不会改变当前的法律行业现状；她坚持将 AI 工具严格限定于辅助工作，反对用机器替代人类情感。 (0:00) 全球法律界目前普遍否定纯粹 AI 生成物的著作权；调研显示超 50% 平台的协议约定生成物财产权归用户，但平台普遍要求反向授权输入输出数据用于模型训练。 (5:00) 李律师将 AI 训练的三要素比喻为养孩子中的学区房（算力）、父母智商学历（算法）和日常食物营养（数据），并支持将训练阶段按合理使用抗辩、输出阶段按实质性相似定罪的法律划分。 (15:00) 李律师主张“技术无罪，人有罪”，反对限制前端研发，呼吁在内容安全与反诈端重判并强制嵌入溯源水印；针对企业出海，她提出通过中国律师预研法理再找本地律所确认的高性价比“平替方案”。 (25:00)

资深数据与知识产权律师李绕娟认为，公众普遍高估了人工智能的短期颠覆效应而低估了长期收益，在监管与法律应对上应恪守“技术无罪、人有罪”原则，重点规制内容安全与欺诈等滥用行为。 著作权认定与训练端侵权争议 (5:00) 在AI生成物的权利归属上，全球学界与司法界目前普遍认为纯粹的AI生成内容不构成受著作权法保护的作品。李律师指出，某律所调研显示50%以上的AI平台协议约定将生成物财产权利让渡给用户，但同时会强制要求用户反向授权输入与输出数据以供模型持续训练。针对此类数据循环利用的法理性质，法律界尚未形成将其视作正规著作权许可的共识。 关于大模型训练抓取语料的合法性辩论，OpenAI与微软等科技巨头主要依托美国著作权法下的“合理使用”原则，主张大模型是通过API结构进行深度学习而非机械复制。法学学者帕米拉·萨米尔森等提出“两段式”处理思路：在训练阶段应通过合理使用豁免以保护技术研发，在产出端则依据传统著作权法的“实质性相似”标准判定侵权。李律师指出，由于中国并非判例法国家，司法裁判目前仍在寻找平衡训练数据合理利用与个体权利保护的制度路径。 算力、算法、数据三要素及技术迭代 (15:00) 李律师将AI的训练运行逻辑比喻为“养孩子”：GPU算力基础相当于硬件资源（如海淀学区房），算法调优与Transformer架构相当于家长的教育方法论，而训练语料数据则是维持成长的日常营养。对于利用AI生成内容反向训练模型的现象，她认为这在理论上类似通过“错题本”纠偏的学习机制。 针对全球AI竞争格局，前谷歌CEO埃里克·施密特曾因美国在算力芯片、算法人才及英语语料的优势而预言美国将领先中国约十年，但DeepSeek等模型的出现打破了该论断。李律师指出，技术可能每三到六个月就经历一次颠覆性演进，这印证了施密特关于人类难以对AI进行准确长期预判的观点。 全球监管转向与数据抓取现实 (20:00) 李律师实地走访OpenAI总部后透露，平台方对著作权合规抱有信心，并援引加利福尼亚州隐私法中“公开的个人信息不构成法律隐私”作为抗辩。2022年大模型训练已推动网络抓取流量占据全球互联网总流量的约50%。 在宏观监管态势上，欧洲自2016年出台、2018年生效的GDPR曾因严苛机制被部分人士认为制约了本土技术扩张。但李律师指出，在2025年巴黎AI峰会前后，法、德、意等欧洲国家及中东、东南亚等地，因担忧在技术竞赛中被中美甩开，监管风向已向“先发展、后治理”倾斜。 音色克隆防伪与出海法律平替方案 (25:00) 针对声音克隆犯罪的担忧，李律师厘清了技术事实：市面上绝大多数民用工具仅为录音去噪与音质微调，并未真正提取具有唯一识别性的声纹信息。她主张不应通过限制前端研发来控管技术，而应通过强制模型输出嵌入明暗水印实现追责，并对下游电信诈骗等犯罪行为实施刑事重罚，坚持“技术无罪、人有罪”。 在跨境数据业务实践中，出海企业面临境外服务器与中国本土研发团队远程访问的双层合规要求。李律师指出，面对预算紧缩，可通过中国律师先期完成50%以上的合规排查，将未定细节交由中东等高价本地律所进行“Yes or No”式核验，从而将原本高达50万元人民币的外部法务预算压缩至15万元左右。 当前人工智能在法律实务中仍处于规则细化阶段，无论是训练端数据的合理使用边界，还是跨境研发中的数据交互规范，均面临既有法理与快速迭代技术之间的持续张力。

[0:00] 李绕娟: 大家其实是高估了 AI 短期的效果，低估了它的长期收益。 [0:00] 李绕娟: 你用了这个东西，你要承担这个东西后面带来的所有的后果，好的和坏的。 [25:00] 李绕娟: 技术是无罪的，人是有罪的。 [0:00] 李绕娟: 我觉得我死之前应该不会。 [25:00] 李绕娟: 你只要给我回答 Yes or No 就可以了。 [25:00] 刘玉轩: 你怎么能做这样的事情！你还要不要有别的国家的同行朋友了？你这属于严重破坏市场规则啊！

[0:00] 但是在我这个圈里面最懂AI的人了谢谢啊AI会改变咱们现在法律行业的现状吗我觉得我死之前应该不会大家其实是高估了AI短期的效果依估了它的长期收益哎呦什么技术是无罪的人是有罪的我跟本律师说你只要给我回答夜嫂那我就可以啊对问你怎么能做这样的这是我听过具体基金的回答知识产权律师是能挣大钱的是可以的知识产权的律师有很多但是做的好的并不多这个有点超高了科技法律师头一回听说小达文你对AI去魅了我可以这么理解对我是挺去魅的大家好欢迎来到Tiger Legal Talks我是刘玉轩虎苏黎数子管理合伙人更是你们中二的大宣哥今天我们这档节目非常荣幸的请到了娟姐 李绕娟 李律师李律师是泰克泰律师事务所北京办公室的顾问毕业于University of California Berkeley加州大学伯克利分校西安交通大学知识产权研究中心并且先后在北京市进度律师事务所Taylor WeisingTaylor Weising德国泰勒信律师事务所驻北京代表处普华永道阿里巴巴影业集团先后工作过而且呢并在下海成为律师之前时任TikTok法务BP抖音集团数据与隐私法务对那我们欢迎娟姐的到来谢谢非常感谢那么今天我们请到娟姐来到我们的节目呢主要呢也是因为时下这个AI比较火然后你呢算是在我这个圈子里面我认为在法律圈里面最懂AI的人了谢谢啊谢谢而且你这个懂AI呢我觉得你不能光说是懂AI因为我们现在大部分人都在谈AI如何取代人类啊AI能做哪些事但是我觉得我们作为法律人来讲可能看的不太一样就至少我觉得你的角度是不一样对因为说实话就是我平时很少用AIOK这是比较出乎意料的大家可能比如说比如过年的时候Deep Seek很火嘛对然后很多人就会拿它来测试然后我基本不太用它去做聊天工具我也不会用它去做测试我基本上用的AI就是豆包Kimi和Deep Seek我是做检索就是我是辅助于我的工作除此之外我不会用他们去做别的事情这样我可能会因为我觉得怎么说呢就是就是我个人觉得大家其实是高估了AI短期的效果低估了它的长期收益OK但我感觉你是不是不用它做一些事情是感觉有可能有一些隐化我没有我是一个就是觉得你用了这个东西你要承担这个东西后面带来的所有的后果好的和坏的就是我是一个比较怎么说呢不是很中立的很理性的一个就在使用这些工具的过程之中所以我用Kimi用豆包用Deepseek用这些东西我还有用ChatGPT那ChatGPT因为它是英文语料所以我会用它来帮我润色我的英文的东西然后检索海外的一些东西然后都包Kimi和DeepSeek我是来检索国内的东西然后让它去帮我纯粹是从工作的角度去辅助我然后我不太用它们去做一些比如说什么问答呀什么心理咨询类的包括现在很多人会用举个例子最早的那个社交类的AI叫Character AI后来呢MiniMax它有一个新的出来商叫Talking那个特别火对很火国外超级火对因为它在美国的下载量很高就是在我看来就这些东西我是不会用的OK因为我觉得这是娱乐属性很强的东西对如果我需要去娱乐那我喜欢看的东西我知道在哪搜然后如果我需要一些心理咨询师我会找专业的心理咨询师如果需要把它当树洞我会找我的朋友就是我还是不太能够用这种东西来去替代人类在其他方面的帮助那我要重新解释一下你刚才说的话其实你并不是很少用AI你应该说在工作场景当中你还是很多的融入了AI对但只不过是说在个人情感需求以及这个日常生活当中你不太用这个你还是不是很相信他尤其是在情感方面这些东西对我是觉得他始终是一个机器但是呢所以我为什么说人类把他就是高估了他短期的收益而低估了他长期的收益因为你不知道 [5:00] 现在这个速度发展就现在这个AI速度发展它可能三个月就会更新迭代一次三个月就会颠覆一下我们对它的认知所以我永远不可能预料到说一年五年十年或者是五十年一百年之后AI是不是可以替代人类我不敢给这样的一个判断你比如说2022年下半年XGPT出来之后引发了一波所有人都在讨论AI所有人都在谈论它但是AI是2022年XHBT出来之后它才出来呢不是啊它是五几年的时候在哪个国际会议上就人类就提到了Artificial IntelligenceAI这个词然后它进入法律领域也是因为XHBT火了之后我们才会讨论它数据训练它内容安全它隐私保护以著作权方面的这些问题对所以我个人是觉得就是怎么讲呢就是我是拥抱技术的我是非常非常拥抱技术的对因为这里边还有一点就是说因为咱们俩都曾经共同在进度律事务所工作然后但是你是在这个资产资产权权神秘的资产权部门工作然后呢我也不知道为什么那么多年咱俩就没有见过确实我觉得从你们知识产律师的角度来讲好像关注的东西我说实话跟我们想的可能还不太一样那也就是说听你刚才讲也就是说在ChatGPT忽然出现在公众视野之前你们作为知识产的律师你们那会儿跟这个东西有相关的内容吗其实是没有的其实一点都没有对只有在什么呢比如专利申请的时候你设计人工智能有一些专利的申请著作权的保护因为它是软件著作权嘛所以在这些方面最早最早是这样子的英国的一个版权法英国会觉得说人工智能计算机计算机生成物它构成受著作权保护的作品那其实全世界包括美国包括中国普遍认为是说AI生成物是不构成受著作权保护的作品的你比如说美国版权局他撤销了什么天堂的著作权的证书比如中国我非常认可的就是我非常推崇的一个学者是王谦华东政法大学的王谦他有三论就是人工智能的著作权方面的一些问题对我个人觉得他也是坚定的认为人工智能纯粹的人工智能生成我是不受著作权保护的然后我也是非常认可这一点那这一点其实我觉得也是坚定的认为人工智能纯粹的人工智能生成物是不受助罪计划保护的然后我也是非常认可这一点那这一点其实我觉得也是我就是特别关注的一点就是因为你想我们要是做这个用人工智能去生成一些东西他有的时候就像是一个作品你比如说我现在要琢磨我要生成一个职场小说然后这里边有一个人某个人像我有个人像你然后有一个人像这个对我们的那些小伙伴对不对然后让他编一个这个东西还是有可能的对没问题是吧那他编出来之后这东西算是比如说我要是用豆包用Kimi的话那算是字节的他算是这个月之案面的还是算是我的这个咱们能算谁的首先受不受助赠套保护和算谁的是两个问题OK对那受不受助赠套保护的话现在就是普遍的生意认为他不受助赠套保护包括英国现在要改他的版权法就是我生成出来这东西不受注册钱保护也就是我编完这个职场小说之后你看见了你拿去用没问题但是呢是这样子的属于谁呢目前呢这个也很有意思啊你会看所有AI产品叫Terms of Service用户协议之前有一家律所做了调研然后是百分之应该是50以上的用户协议约定了就是AI的生成物的著作权以及它的其他的财产权利归属于用户那也就是说我在用豆包或者用这些用KIMI什么的我用这些软件的时候他那用户协议当然我们也没看然后就已经点了那个里边就是这么写的就是我写了著作权归我对但是呢平台因为要给你提供更好的服务然后我要训练我的这个AI希望你把这个input和output就是你的输出你的输入和我AI的输出然后我要拿回来干嘛呢我要去训练我的这个技术我又授权他这个训练了对 但是呢我有一个问题就这种授权回来到底授的是什么权利是著作权吗还是什么东西那假设说我已经拥有了这个著作权因为我在签用户协议的时候你就认为这个著作权归我如果有的话如果有的话那么归我归我之后我又同意授权你去训练使用我的这个生成之后的东西又再次成为语料进入了你的这个训练的范围是的是这样吧是的但是我个人觉得它不是一个著作权权利的一个授权对就是我是什么 [10:00] 你个人觉得因为我们来看一下AI训练这些物料训练这些作品他到底用的他的什么东西他其实是一个学习的过程AI他其实是学习那著作权的权力的类型比如说复制权信息网络传播权然后其他的这些乱七八糟的这些几项权力那我到底用的是什么权跟他最靠边的跟AI训练这些语料最靠边的是复制权好了那有一个反对的声音我是22年XGPT不是火了吗我23年去了一趟三番参加了一个会议然后那会议呢有几个speaker有两个人一个是OpenAI的Deputy General Counsel然后另外一个是微软的一个应该也是Deputy General Counsel吧就能叫他们的法总对对对类似的对然后呢就是好了他们有就是因为当时刚火嘛就开始讨论其实个人隐私这个不是他们AI里面最大的隐患就我也是这么认为的著作权侵权跟内容安全和反诈其实是最大的隐患所以当时他们都有两个抗辩点第一个抗辩点说因为美国著作权法下面有一个叫合理使用的这种抗辩那跟中国的合理使用非常不一样的然后它是美国著作权法里面非常黄金的一个铁律就是我所有著作权侵权你会发现被告方一定会用合理使用来抗辩这第一点第二点的话微软的那个类似于法总或者OpenAI的两个人他说我AI是什么呢我是通过一个API结构去learn这些语料学习这些语料那他并不是说我要去把这些预料复制来然后再产出然后再生成再这样子所以呢到底够不够training process就是训练阶段够不够够成侵权呢就是他们觉得说我是在训练一个是合理使用来抗辩第二是我只是学习我并没有复制它就是在training process阶段我够不够成侵权那output阶段呢咱们举个例子一个好的AI就是一个特别特别好的一个非常非常完美的AI它应该实现一个什么样的效果它应该实现的就是我只学习好的东西我达到了人类的大脑我输出的东西一定跟原来的东西构成不构成实质性近似我有一个理论就是我觉得AI的从零到有然后再到一个非常完美的AI就跟你讲孩子是一样的然后这孩子是大量的阅读我阅读了那么多中外的名著然后我写出来一个风格比如说我很喜欢比如我很喜欢《红楼梦》我写出来一个作品它的风格很类似于《红楼梦》我是一个人我读了这么多中外名著我生成了一个风格我就是喜欢《红楼梦》的风格然后我所有的作品都是《红楼梦》的风格那我抄袭了《红楼梦》吗那你这个风格就比如语言风格肯定没有抄袭但如果情节高度相似或者是表达对表达然后如果你安排就是这里边虽然不叫贾宝玉比如他叫刘什么玩意儿对然后他也是然后这些女孩对不对或者哪怕他变成男性然后但是这些男性的性格又似乎跟这里边的比如说情人席闻什么的有一些有一些类似的话这种也有可能是吧也有可能所以我觉得就是人类最想要的是一个完美的AI那完美的AI肯定是没有潮汐的问题没有内容安全完美的就肯定是没有的对那所以说怎么才能完美怎么才能让他完美你不给他预料去训练你不在算法和算力上支持他他就没办法完美那他是那你刚才讲的如果在学习阶段的话是一种合理使用的概念假设我很激进的因为那两个对吧那两个Candular Council他们肯定要define自己这个事是的对吧但是合理使用它是不是有不能商用的前提没有美国是没有这个问题的对美国是没有然后很搞笑你知道吗第一个第一个关于AI的class action是那个已经有了吗有十几个了在美国class action你只有十几个了对十几个二十几个生成我们索性没有参与其中第一个很搞笑第一个是Github就是那个开发者的那个我知道那个编程的那个对他的programmer就是他的就是那个所有的程序员委托一家律所去起诉微软OpenAI和Github因为那个Github后来被微软投资了所以他就是一个实控人完了之后呢去起诉他们一个是著作权侵权第二个是违反那个合约因为他不是有那个协议吗然后等等这个案子刚起诉之后呢Berkeley组织了一个论坛然后那个贵校组织了一个论坛然后你又去我没有去我是在那个网上看到这个论坛然后呢Berkeley有一个非常著名的教授叫帕米拉萨米尔森那个老太太70多岁了 [15:00] 我个人觉得就是在美国的著作权法这个领域如果他排第二的话就没人敢成第一对这个老太太特别的好玩她跟那个原告方的那个律师就展开了一个小小的这个辩论因为原告方的律师肯定说你不构成合理使用嘛老太太就说说那个training process我觉得还是可以适用合理使用的那output阶段呢著作权侵权他没有逃出现有的著作权法侵权判定的条件就是看他够不够成实质性相似对对对所以我也是很认可我觉得这个有道理就是说无论是从人类发展的角度来讲如果你连training process都已经要有禁止的话对对那这大家还怎么搞那天天大家在语料阶段就限制各个模型方去学习是我是这么认为是吧然后但是呢就是又说到说如果你只要output的这个东西你拿出来了我们又可以在现有的法律框架下来判断是不是实质性相似对似乎这个问题又能解决了但是还有一个问题就是那你总是要在利益中间找一个平衡那大量的比如说因为要形成一个好的AI你不能光为它废料我还有一个理由就是你AI跟养孩子一样举个简单例子AI的三要素一个数据一个算法一个算力相当于比如你养一孩子大家疯狂要在海淀区在西城去买一个学区房学区房是啥对我反学区房学区房就像算力一样就是它是你的设备你的计算机资源你的GPU你的CPU对它是学区房就相当于算力一样你有一个好的一个资源了你这个比喻不好第二个就是算法算法是什么算法就比如他的那个Transformer架构就这些监督学习物监督学习就是你程序员你的研发人员给他做的这些调优等等这些调教等等就是你的算法上面的一些输出是谁呢是你父母的学历智商你给他平时怎么去教养他教他一些学习方法论对 是的然后数据什么数据是你喂他的饭你每天给他补给的营养你让他健康茁壮的成长所以讲孩子跟培养一个就是给训练一个AI我个人觉得是非常非常像的就是你的教育资源你在教育上的投入你给他多样化的这些东西然后你父母对他的时间陪伴以及你父母本身的学历的水平然后给他的一些教育方面的一些输出以及你平时给他的得志体美劳方面的这些补给所以我觉得AI就是跟讲孩子是非常非常像的你总体给孩子吃好吃的或者是健康的东西然后你也不能给他吃那些废的语料那这里边就有个问题刚才咱们也提到了这个output然后又拿回去又重新做音这不是好像吃完之后铲出之后又塞回去又吃吗这个都感觉对我也是听到有这种说法就是因为有的时候英文语料还是比较丰富的是的然后中文语料有可能存在不够对因为咱们只有中国人说中文还华语去学中文对然后据说有人就是在搞这种事就是说生成了批量的生成之后再让他吃回去但是我是这么看到我是这么看到就是你孩子产生的作品然后我们家长要给他揪篇对吧那我就会跟说你这篇作文写的好还是不好我给你打一个分对吧那你的数学题你做完之后我给你做一个错题集你再反哺给他我觉得理论上其实是一样就跟你把upput生成完了之后你要告诉你的AI告诉你的孩子你这生成好还是不好我们再来复习一边复盘一下行吧那我就是聊回这个这个著作权的这个侵权的这个问题可能离大家也是比较近对吧因为大家现在疯狂的在用这个东西在生成各种各样的东西是的然后但是现在的AI尤其国内的AI还没有发展到你说那种完美没有没有这离完美早着呢早着呢所以说这时候就会出现一些什么情况呢比如说他通过AI生成之后就发现哇这个东西好像跟某些东西很相应是的那这种情况下现在国内有定论吗或者有案子有结论吗就是这样的事好几个案子都出来了好几个对什么automap就第一个案子对所以我觉得就生成阶段你可以讲讲这个就这个案子现在是怎么判的一个方向其实我没有关注中国的这几个案子原因是因为就是因为中国不是判立法的国家然后其次呢就是因为我觉得就是该解决的问题没解决就是该解决的问题现在还解决不了什么什么问题你比如说到底训练数据训练这些作品够不够成合理使用以及怎么让它合理化因为你就是你的天秤不能只偏向一方你不能 [20:00] 只偏向这些平台方AI的这些研发方那你就是我这种非常个体的权利人的权利应该怎么得到保障呢就完全就是合理化完全合理使用嘛我倒觉得也不是非要这样子可能通过其他的方式OK就像你刚才提到我们不是判立法国家当然我们律师的作用包括整个法律共同体的作用不像美国一样甚至有办立法的这样的身份在是吧你通过一个判立大家就决定了某种方向了对对对但是咱们这个你还觉得还是可能要寄希望于法律法规司法解释我是这么认为的就是因为现在中国也在讨论那个AI的立法嘛对但是AI立法它一定是一个科学技术的促进法它不是一个技术的规制法哦对所以呢就是这么些细节它不可能在这个AI的立法里面像欧盟的那个AI的那个act那样子详细的决定说哪些主体哪些责任然后你要做分线等级的分类啊等等欧盟现在已经有这样的规定对对对欧盟的EU的AI Act就是人工智能的那个法案然后我个人觉得还是应该可能会通过比如说行政法规那个司法解释的方式来把这些非常非常细的东西再细化一下那目前总之现在国内应该说还是没有一个定论的状态没有最终如果要判断是否侵权还是要回到实质性相似的对对对是吧那这么来讲的话呢那听起来大家很无所谓啊还有一点是吧我感觉就是就是因为我们的听众因为大部分人还是考虑就是我生成这个东西有没有风险对吧如果我生成这个东西只要是没有太多的风险那我就弄呗我是不是可以这么弄或者说如果我弄了一个作品之后比如说我出了一本书然后这东西跟胡隆梦的风格比较相似然后这次是不是实际性相似我也不管然后反正差不多我就先出着也行目前来看如果要等人告咱们再说呗对而且中国还有一个就是维权它成本高但是他得到了收益低他跟美国还不太一样因为我们没有惩罚性的赔偿有 但是都没有那么的高没有那么高对 然后你比如说像美国他现在有十几个诉讼class action在打我其实还有一点就是我那年参加那个会之后23年参加会然后我就追着Open Air那个Deprogenel Council我说我能不能拜访一下你然后我就去了他们的总部那是什么样的他们总部就是非常科技类的公司就跟咱们那差不多白强差不多 没差然后大家都坐在大桌子前面然后都是一个个电脑是吗是 然后他们有升降桌然后大屏之类的那跟我们虎子也很像是 非常非常像对 然后我跟他聊了一点时间就是聊了一下关于怎么看待著作权侵权以及怎么看待就是隐私保护的问题就是当时因为太早了所以我们没有想到就是AI发展成这个样子然后以及引起全球的这样的一个热议一个就是著作权侵权他们依然觉得是合理使用这个情况在就是刚才说的两个点所以说他就拿预料这个事他是放心了他打算合理使用第二点就是因为第二点关于个人信息的问题因为在加州的隐私法下公开的个人信息公开的个人信息不构成加州隐私法下面的个人信息也就是说公开的个人信息其实不受加州隐私法的保护的就随便使对然后因为应该是22年还是23年应该是22年吧22年全球的抓取的流量就抓取占整个全球的流量的一半为什么就是因为大模型要训练它哦其实这么恐怖的吗对但是其实你说抓取我们一听就很可怕觉得又侵权又怎么怎么着我害怕对但是他抓的是公开的网络哎呦不一定对这边是差语句就是说因为现在我发现很多的AI软件里边他有一个是否同意的一个开关对好像是这样的在哪个地方应该是就是有一个就类似于你同不同意把你的一些什么东西放作这个语料的一个开关它其实是这样子的就是一个退出的机制还是加入的机制就是你所有的内容因为现在呢因为个人心理保护法GDPR生效之后大家就没抱胡子一把抓那个GDPR应该是欧洲的对是欧洲的18年的时候应该是16年出台18年有一年半的grace period然后18年生效的GDPR全称是什么呀J GeneralD Data然后P ProtectionR RegulationOK对对对就是数据一般保护条例但这个东西是很被人诟病的认为是制约了欧洲的这个AI发展无所谓啊然后 [25:00] 但是你知道吗25年刚开完的巴黎的AI的峰会是吧我没有参与我看了那个新闻刚开完的巴黎的AI的峰会里面欧洲的风向是改变我们都说欧洲是监管的先驱全球监管先驱所以你会发现欧洲他们有大的科技类的公司对吧没有大科技没关系西方世界用一拨人就可以了天天的监管但是AI出来了之后他们也在担心自己落后于世界落后于我们和美国对所以你看法国德国和意大利都说他们要投入多少钱在AI的发展上面然后包括像韩国越南印尼就这些国家和地区包括沙特阿拉伯他们也要添乱南非等等都说我们要先发展后治理我们不能落后这一波浪潮出来了之后不能落后因为现在全世界领头羊是谁是美国跟中国对吧是美国跟中国又是Deepseek出来之后本来很搞笑前谷歌CEO叫Eric Schmidt他之前应该是去年下半年在斯坦福的Engineering School做了一个小型闭门的分享当时他以为他那段分享就是闭门的嘛没有想到被上传到YouTube然后呢他说现在AI这波浪潮里面美国还是很厉害的那美国领先中国大概十年这个领先呢依然会持续大概持续十年为什么呢因为AI的发展上刚才说的需要数据算法和算力那算力在哪算力人家美国有英美达有芯片有这么好的资源中国是没有的然后美国为了遏制中国然后不是这些都出口管制了吗对吧那算法在哪算法在人才全世界的人才都涌到美国去了所以他们依然是领先的那只有数据上面但是又英文语料又远远高于中国的语料所以呢就是他觉得这种领先还能够持续十年好了DBC出来了之后打脸但是他又说了一句话他说因为AI的发展有可能我三个月之后我的这些说法就全都被颠覆了因为对他迭代太快了他没法预判说你未来发展到什么程度所以说就三个月半年可能就是一波新的迭代对那就刚才回到我们刚才说这个问题就是说我们在刚才我们第一部分聊的就是使用的侵权的问题大家要不要害怕侵权问题刚才聊了也基本不用害怕第二问题就我们在使用过程当中因为我们在使用说实话我使用的比较粗糙说白了就有的时候个人信息也不是很注意保护然后比如说我最近还科隆了我的声音我还用一个某一个软件因斯克隆的那个能力其实都整合进去了我就喜欢听我自己给我自己讲你有这种癖好没有反正这个明白然后让你说一段话我就说了说了之后我发现很好啊对然后呢但是呢这个有人就跟我讲说你不要这样做然后呢因为你这个声音你同意了他去使用然后他回头拿你这玩意儿或者比如说有人就说你帮我以刘玉轩的声音生成一段借钱的语音是就是这个东西我们是不是还要再注意就是我们在使用的过程当中这个就是非常重要的一点就是AI的风险我们最担心AI的风险不在于这些方面而在于说他会不会用这些东西来进行诈骗这就是你刚才讲的反诈的问题所以我个人担忧是在这些方面就是我是觉得比如说声音你的肖像你的形象等等然后你被利用了不法的分子去利用了那就会容易诈骗比如说我妈我爸是非常没有什么文化的一波老年人也不使用智能化手机也不使用智能化的东西对吧那如果有人复制了我的形象复制了我的声音给我妈说你家女儿出车后来现在需要一笔钱我觉得任何一个父母接到这样的消息都会着急所以说我觉得就是管AI不应该管那些就是怎么说呢不应该管摄入的这些东西又管不是我是觉得应该是抓重点在内容安全跟反诈这些方面应该下大力度去管这些方面因为这才是正儿八经引发风险引发实际风险的地方但是现在好像没有什么特别的方法所以我们就是说就比如说我们之前会要求举个例子因斯克隆这个东西比如说声音克隆我们叫它音色克隆音色克隆音色克隆它其实叫克隆它其实不叫克隆正儿八音克隆是要提取你的声文声文信息之后做复制一般的所谓平台说我的音色克隆它其实是这样它只是把你声音录制下来然后把你的声音的背景音给去掉杂音给去掉 [30:00] 如果你声音非常的细呢你就稍微给你挑粗一点你如果非常尖锐呢给你挑的圆滑一点它其实不是提取声纹来做你的声音它就是录了你一段印色而已所以我们会要求第一呢平台是不会去滥用你这个声音的只有什么人的声音会被反复使用呢就是一些比如林志玲的声音做高的地图我们一定要拿他的授权他那个是声纹对他那个是也不是声闻也不一定是声闻也不一定是声闻对也可能就是一个音色那去拿他做高的地图比如郭德纲啊什么就这些名人一定是得到一他的有效授权第二平台在后端一定是采取非常严格的技术手段和安全防护措施不能让他这些音色去流到市场上去但是你说我举个简单例子如果诈骗集团他拥有这项技术这些名人的声音每天都在大量的出现对吧你随便从网上截一段回来你自己用这个技术你就可以复制它比如说我们的这个播客对对吧就是大量出现是吧所以呢它就是完全可以所以说技术是无罪的人是有罪的我个人一直觉得你是从这个角度去讲我觉得技术是没有罪的人是有罪的OK你是这么讲的也就是说前端你从技术上如何规范这些东西其实都不是很弱反正如果真的犯事真的抓住了咱们重判就完事了我是觉得应该重判第二个的话就是在技术售卖的过程之中应该做好一些就是追踪和防护技术售卖怎么讲就比如说我你想想诈骗分子他怎么拿到这个技术自己研发吗还是去哪里买呢就是对我是觉得应该就是在这些链条上加强防护做可追踪对是吧你但凡掌握这个技术的说白了都是有头有脸对吧有没有性的人或者是说就是这些你增加了一些什么水印啊就是标识啊就是不管是明的还是暗的然后你让它可追踪就你卖出去的东西你强打了一个类似于唯一识别符这样的东西你等到这种唯一识别符的东西制作出来的东西流到市场上去我通过一些技术手段可以去发现他原来我卖的这个东西比如说我们的手机能有这种唯一识别符吗我觉得是可以的我觉得是可以就是你如果出现了这么大的风险你就应该采取这么大的防护措施就不管是声音也吧还是就是其他的也吧就是比如说现在近东不是提了一个提案就说因为有很多人用他的形象去骗老年人对呀所以啊就是然后就我想想2020年吧不是有一个非常火的软件就是火了两几天就就流产了造什么软件造ZAO造就是他容脸容脸就是你上传两张照片就把你放到了某一个剧里头你就可以让你现在不也有吗对现在有但是当时你想想当时它是用的是深度伪造的技术深度合成的技术所以它造那个出来了几天之后就被下掉应该是被监管下掉了因为你没办法因为你的防护的措施还达不到去控制它后面引发的这些风险点有道理这一点如果要是能识别的话在技术上可追踪那就应该说在追责的问题上就不会出现问题是的我个人是这么觉得那挺好那又回到咱们的现实你觉得你作为资产的律师我们作为争议写决的律师当然咱们俩之间有一部分是重合的有一部分是重合的那么你觉得AI会改变咱们现在法律行业的现状这是一个很口水的问题我觉得我死之前应该不会这是我听过最激进的回答真的对因为我们在争议解决权里去聊这个事情我们认为我们在律师的这个群体里面我们目前是最有自信不太会被期待的因为我们大量的需要跟审判者的这种沟通当然有一天如果审判者抛弃了我们就是他们直接用什么神工智能裁案那我们也完了就是如果涉及人的沟通我们认为AI是很难取代我们的但是比如大部分做非速业务的律师实际上他们都很悲观他们认为都不用等很久可能就是这个月下月的问题对甚至就是说自己现在很多工作利等可取的就是很多助理就很不需要了就变成这样的一个情况但你为什么会觉得说要那么久才有可能呢相当于你对AI去魅了我可以这么理解吗对我是挺去魅的为什么因为我每天都在用然后我让他给我产出的东西 [35:00] 并不是很满意对但是呢它有效能够帮助我解决一些问题比如说它给我一些信息来源在信息源这个地方就是KIMI是最好的快速查询对快速查询但是这两面没有给我们投广告谁说KIMI是最好的sorry我用的体会我是说在信息源没问题我认可对对对然后呢比如说XGBT呢我会让他把我论色英文的一些东西邮件什么的但是我要保护我客户的隐私所以我会把它去脱米化明白但是他有的时候给我的东西就是又臭又长对就是你有的时候我不知道你会不会连续的去追问他你连续的去追你第一次他会很惊艳你等到你进入到第五轮第六轮的追问时候他就完蛋了他就已经像一个耗电就是电量耗尽的一个机器人但是当然就像刚才咱说的三个月半年它可能就会翻天覆地的变化咱不知道但是我至少是觉得我死之前它不会期待我首先从我们工作角度来讲我们第一步可能是这种信息的来源就是我们通过他人工智能去完成一定的检索对这个事情现在变得似乎是可靠一些至少说比一年前比搜索引擎要好用要好用这个是可以第二个问题就是说我们在这种文件的这种生成上就是我们只要是叙述性的还是比较好用对还是比较好用的对然后说理性的对你觉得可能是达不到是这样吗说理性然后还有一些就是实践的非常实际的那种落地的方案它是没有的明白就是很practical的这种对具体的落实的方案是没有的是没有的对这一点的话所以说你觉得他短时间也不可能知道这些我觉得他短时间不行他短时间不行而且不是内容安全方面他不是胡不咽烂造吗这是机器幻觉吗对之前我想想啊两年前我用XGVT检索就是印尼的法规他就给我胡编乱造因为我是会再去政委的他给我出出的信息之后我会再去谷歌去搜发现搜是没有的他会给你一个具体的印尼的法规的名字对然后再比如说纽约的一个律师打诉讼他不是判立法吗所以他引用案例他用chatch p给他去检索他也没有去反证就是去验证他五个假的案子出来了是吧所以就是我不知道我觉得我对人类还是比较有信心的那你现在对于人类科技进步还是没有那么有信心的我觉得好事因为我也不想让AI取代我们这个是比较那个难受的短期内去待不了OK那这个其实咱们刚才聊了一些AI然后呢其实我知道你的很大一部分工作也是在数据隐私和跨界输境这一块对那么这个从AI出现之后那你这部分的业务有什么影响吗我觉得我这部分业务没太大影响没有什么变化对市场上面的问题比就是影响大因为市场比较不好嘛这两年对所以所有的公司都在收缩它的预算收缩预算所以可能业务上拿的就比较费劲一些但是跨境数据的话因为现在随着企业出海我们国家的企业现在往出走美国人可能不怎么来了然后已经撤了但是我们要往出走我们往出走的时候刚才你谈到印尼的法规我们是每到一个地方我们就要去适应当地的数据合规这个事这也是我理解数据合规业务的核心就是说如果是跨境数据业务的核心是这样出海企业是这样因为早期出海是重工的出海就是建设工程类的明白就咱们国家去建设对所以当时你可能要到本地成立公司把人挪到本地然后用劳工啊税务啊这是大家关注的点对吧劳工和税务是大家特别的关注的点还有一些本地的文化啊习惯啊什么的那后面呢就是随着互联网企业兴起了之后那就是APP出海那APP出海一个典型是什么就是新加坡香港一个公司我成立就我研发一个APP我的开发者是新加坡公司和香港公司好了谷歌的应用商店和那个苹果应用商店上全球就完事了就完事了对吧那数据怎么办数据一般会在新加坡一个数据中心服务器然后全球的用户的信息都流到新加坡去对吧然后就存到新加坡这个服务器上那那会也没有人管是吧那后来呢就那会就是咱也没啥业务是吧明白明白没什么业务啊对 [40:00] 那会儿的业务其实更多都关注的是说那个支付的问题对吧那应用商店合规的问题对吧应用商店它也有合规应用商店有时候手的那个手升的比本地法律还长但是应用商店的合规那我理解不就是两套主要的规则吗对吧那你就是安卓的主要规则和苹果的主要规则吗是吧这两套你拿完之后一了解那就是套不同的企业呗是的这还比较容易对没错这会儿还没有那么多业务是的然后好了GDPR出来之后全球都在都在访GDPR全球在超欧洲的那玩意对你如果关注了一下你会发现啊就是其他国家和地区的数据隐私方面的法规跟GDPR的体力要求标准基本都是一样的基本都是一样的OK中国反而不太一样我我我就是这样我们先比较一下中国欧洲啊美国啊三个地方其他国家和地区我们是这么来看啊这么来看对 加国压力区呢 基本上都在超GDPR多一些那中国其实不太一样美国其实在我看来是最宽松的美国最宽松我觉得美国是最宽松的美国这么这几年之所以这么紧张 我觉得全是政治因素地缘政治因素那如果是这样的话那我们到当地要去做一些什么数据合规那就是因为我们现在那对刚才说APP出海比较容易对那现在为什么就又谈到说现在数据合规我们的这个数据要从国内出去的会有这种情况吗国内出去的话出海不太涉及不太涉及对出海只设计说本地的用户的信息传输到你服务器所在地以及还有第二个问题就是因为大部分出海企业它的研发的人力是在中国的所以他要跨境访问所以这些研发的人要远程访问新加坡服务器上面的这些数据我才能够给他提供技术的支持解bug就这些问题所以他就涉及到两层问题就是一这些数据从本地比如沙特传到了新加坡服务器上这个跨境访问的合规动作应该怎么做第二个的话就是中国的研发人员跨境访问你新加坡服务器上的这些有限的数据这个数据合规动作应该怎么做就是这两步满足条件基本上问题就不大那这两步里边我们中国律师能参与哪一步其实是这样就是早期呢我们中国律师是属于跟本地律师合作我们中我们就是中间一个发包商的感觉对然后呢找到当地的local firm去合作对然后给帮中国的客户去管理这些local firm然后给他们把这意见做一些整理明白把需求说给local firm然后把修改意见说给local firm对就是个二刀贩子一样那当时是因为疫情之前就是有钱嘛所以企业也不会很在意这些预算的问题因为你local firm都很贵啊而且经常是一些这个international law firm对对就很贵然后呢你比如沙特的律师沙特啥地方合伙人都900多刀一小时就在我看来已经很贵了什么900多刀凭什么沙特还能收900多刀一小时然后呢我不同意我不同意但是中东就是贵就是贵沙特阿联酋都很贵那现在啥现在好了公司收减预算了那公司的预算就不够了那我们给他提供什么方案呢就是说首先啊我们有出海合规的经验那我们基于自己的经验先把本地的情况给你写一个非常完善的memo你有一些具体细节的问题我们再以问题清单的方式给到本地律所我们完全能够把预算控制住本来这个项目如果招本地律所得50万人民币对50万人民币然后到我们这里呢我就可以把你的预算控制到15万人民币会差这么多对就是这么多所以基本上我们先把第一到50%以上的分线给他解决然后再就一些细节的问题再来去跟本地的律师沟通尤其是一些监管非常关注的点你比如说像中东这些国家地区因为它本地的文化非常的不一样所以我们没有办法去100%的确定说我这个尤其是内容说音乐或者是视频长视频短视频游戏就这些内容上面娱乐上面的东西你可能一不小心就触碰了本地的某一项文化方面的一些竞技你再比如说游戏里面有个很有意思叫玩法玩法那个玩法呢如果它是那种叫game of chance就是基于几率的玩法很容易成为本地的构成赌博类的这种比如说什么开箱子有概率有暴率什么的比如说我花多少钱但我点这东西我可能点不出来我得点什么十次二次一百次 [45:00] 你拿现金的方式去兑换虚拟货币以虚拟货币的方式再去买这些什么概率然后买完了之后比如说你中奖了很多之后你还可以提现那就可能触碰了说他是不是在赌博的这个法规上面去走走我觉得是所以这种呢我们也是因为先调研本地的情况完了之后给客户说有这样的合规的风险对但是我很感激有AI有AI之后我大概有一个方向我是这样我先检索检索完他给我出一些法规或者是动态或者怎么着好我再去谷歌再去检索我再去找对我再去找本地肯定会有律师就这些东西做专业的文章的写作我再把这些文章下载一下我再仔细研读然后再告诉客户说什么样情况下可能会构成赌博你需要在哪些方面去做比如说你兑换的这些虚拟货币道具什么的你就只能在游戏里玩你不能提现对你如果提升现金了你就相当于是有这样的风险点了其次你不要弄大额你夸插一万美金夸插一千美金对吧你就小额的一百五十这样子单比消费的数额要继续控制对 是的所以可能就是这些东西都是在我们能做的范围内会给客户那有的时候还有一点就是我还会干另外一件事还可以再减少成本就是我跟本地律师说你只要给我回答yes or no就可以了这个background是什么我的understanding是什么我的那个legal basis引用的是你们哪个东西你confirm一下我这个understanding对不对然后本地律师说对还是不对对你怎么能做这样的事情我就是你还要不要有别的国家的信力我觉得我特别的我觉得我这样特别的不好特别的不好破坏了市场规则对因为我现在这个事情