【编者按】 8月15日，国家网信办等七部门发布的《生成式人工智能服务管理暂行办法》正式实施。如何看待这样一份文件的实施？采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管，将给刚起步的生成式人工智能带来怎样的影响？ 以法治引领人工智能“避恶向善” ，为人工智能发展系上“安全带” ，大数据大算力大模型在带来巨大便利的同时，它的安全风险又该如何规避？ 近日，央视新闻频道记者专题连线了对外经贸大学法学院数字经济与法律创新研究中心许可主任。

央视新闻频道：（许可）生成式AI，如何向善

主持人：许主任，您好，我们看到这份监管文件的时候，第一个感觉就是“快”，因为的确从四月份才向社会公开征求意见，七月份就公布，然后8月15号就实施了，您怎么来看待这样的一个速度背后它所体现的一种考量？

许可：针对这么一种新的产业技术，我们的监管采取的是一种“小切口”立法，“急用先行”的立法原则。面对新技术、新应用、新领域，它具有着我们所说的快速迭代的特征且具有颠覆性。在中国之前的立法中，我们既有一些经验，也有一些教训。这种教训就是因为监管出手的时间太晚，那么导致了风险的蔓延。所以对于这么一种全新的、深层次的人工智能，我们的立法者采取的是一种具有前瞻性以及快速回应的立法态度。简单的说，我们的立法者希望能够先装刹车再上路，以避免企业或我们的技术的发展带来不可控的风险。总体来说呢，是希望通过一种快速的立法去回应技术和产业的快速的迭代，使我们的技术和产业奔跑地更稳健，避免技术的失控。

主持人：刚才我们说到这个生成式人工智能，可能对于普通人来说，他认为它就是一个聊天工具，或者说它是一个生成图片啊，生成文章的一个工具，就是用于我们日常生活的，但实际上生成式人工智能它真正的覆盖的领域有多广？它的这个技术的迭代和发展意味着什么？

许可：以前说的人工智能，总是把它形象成应用在一个特定的领域，比如说我们之前，有应用在棋牌领域，我们围棋的AlphaGo，有应用在自动驾驶领域的自动驾驶技术。那么这一次的生成人工智能，它的特殊点就在于它不是只针对一种特定的领域，一种特定的场景，它是一种普遍性的。从某种意义上来说，它是一种通用式的人工智能。那么通用式的人工智能它可以适用在我们所想象到的各种各样的场景中，既有刚才您说的一些信息内容的生成，也包括了一些游戏设计、科学研究、医疗诊断、金融分析，甚至还有很多人把它应用在一些我们的代码的编写上。所以生成人工智能，它不是一种我们讲的狭义的针对特定领域、特定场景上的技术的发展，它是一种根本性的技术变革，某种意义上来说，它会成为我们数字经济的底层的基础设施。所以这么一种新的技术，它所带来的改变既深又广，不仅仅是改变了我们现在所看到的，聊天机器人、AI幻点，在未来它的发展的前景是不可限量的。

主持人：那到底什么样的对象会受到这样一份监管文件的约束呢？我们在仔细阅读的时候发现这个管理办法的第2条当中，它有这样的一个规定“在一方面是只要向我国境内公众提供服务的就适用本办法，另一方面，只要还没有对我国境内公众提供服务的，就不适用本办法。”您怎么来看待这个一张一弛和一松一紧的规定，是不是就是说只要是没有在我们国家进入市场或提供服务，就不受这个管理约束？另外，比如说是不是在研发过程当中的没有进入市场的也不适用这份监管的文件？

许可：这里面有两个非常重要的关键词。一个关键词是“境内”，第二关键词是“公众”。事实上我们看到现在我国境内其实并没有已经非常成熟的人工智能的产品，我们看到的深层次人工智能的产品主要来自于境外，特别是大家都非常熟悉的以chatgtp为代表的这么一种境外的产品和服务。因为互联网本身它是一种没有边界，没有地域限制的，我们每个人都可以通过我们的互联网接入到境外的产品和服务上。所以只要面向中国境内提供服务，就会受到这部法律的监管。这样一种面向中国境内提供服务的表述，反映出我们的监管是一个宽口径的，我们的袋子的口袋是很大的。通过这样一种方法，去回应了我们看到的境内境外一体化的一种监管的思路。但另一方面来说，我们也要注意到将我们的口袋变大的时候，我们的监管力量可能是不足的，那么在这个时候我们要考虑有的放矢地把力量放在我们最要防范的风险上，而我们最要防范的风险就是向公众提供服务，如果不是向公众提供服务，我们企业内部去使用我们的生成的人工智能，给企业内部的工作效率带来提升，改变我们企业内部的一些研发，企业内部的一些技术的工具的迭代升级，它没有向我们的普通的大众去提供这么一种服务。那么这个时候我们会认为这么一种技术的带来的风险是可控制的，所以我们的立法并没有第一时间去规定对于这么一种产业内部的自我升级，对于非公众提供服务。这样一种一张一弛，一松一紧恰恰反映出我们的立法是有的放矢的，是具有针对性的。

主持人：另外其实对于所有的新技术，我们一方面都是要促进它的这种创新发展，另外一方面也要依法的治理。但是也有很多人担心，会不会一放就乱，一管就完，您怎么看待怎么来把握这个平衡的问题？您觉得这份文件的出台，究竟是给相关的行业是系上了“安全带”，还是带上了“紧箍咒”？

许可：我理解，它不光是一个紧箍咒，它更是一个让企业稳健发展的安全带。我们说，这个汽车要上路，要先有自动装置，也就是说先有刹车。没有刹车的汽车跑在路上看起来很快，但是很容易就出现了不可挽回的一种风险和损失。所以这个时候呀，安全和发展，它并不是一个非此即彼的，很多时候安全的目的是为了发展，发展也需要安全做保障。那么我们看到这个深层次人工智能的管理转型办法中特别提出“国家要坚持发展和安全并重，促进创新和依法治理相结合的原则”，既要去有效的去推动我们的产业的快速的迭代和发展，又要去避免在产业迭代和发展过程中所带来的风险问题。所以我们看到发展和安全永远是这一步监管思路的重要的原则。那么这个原则的体现呢，可以看到非常多的一些细则，都从不同的角度给安全和发展提出了要求。但是归根到底一句话，我想在这么一种技术快速迭代，而且是一种颠覆性技术快速迭代的背景下，不发展就是最大的不安全。

主持人：好的，谢谢许教授，技术本身没有善恶之分，关键要看掌控和使用它的人怎么做。那么我们怎么样做才能够做到向上向善，除弊止恶呢？许主任，我们看到这次公布的这个文件里面的第三部分，可以说用一整个章节在描述所谓这个技术的提供者的责任和义务，我想请问您的是，您最看重其中哪些责任的明确？

许可：那么刚才我们看到这个短片中啊，大量的违法犯罪的行为，都是因为技术服务的提供者可能没有完全履行好自己的责任，导致了使用者能够去滥用这么一种技术，产生了一种不良的违法犯罪的后果。那所以我们看到在这一次的管理办法中，特别针对整个技术的提供者规定了非常多的责任。在这里面责任既包括了我们看到的需要去避免生成一些违法的、不良的信息，要去保证提升生成内容的准确性、可靠性，不能用这些技术去侵害到他人的名誉权、隐私权、个人信息权益以及我们的人身财产安全。这是我们看到的需要从防止滥用这么一种技术带来的一种损害。另一方面，除了去防范别人滥用这种技术以外，要去提升技术的透明性。如果有人还利用信息内容去做违法犯罪的事情，那么需要提供者明确的向社会公众说明这样一种生成的内容，它是由人工合成的，它不是真正的、真实的一种信息。所以这里面要有很强的一种义务，叫做“标识”义务。所有人看到这一个新内容，就知道它是由人工合成的，并不是真正的来自于真实世界的信息。

主持人：另外从管理方式上，我们看到这个文件呢，一方面它强调了，就这个监督管理一定是要多部门来形成一个合力，另外一方面它强调了要分类、分级的管理，怎么来理解这个分级、分类？

许可：首先，我们看到深层次人工智能，它是一种通用型的技术，刚才我们看到它可以用在各行各业，千行百业都可以使用这种技术，所以监管必须要从自身的产业特点出发，因地制宜地做出相关的管理。比如说我们用在了医疗行业，医生诊疗要遵守我们医疗行业的管理制度，我们用在金融行业给我们提供个性化的金融产品的推荐和销售，要适用于金融行业的管理规定，反映出这个行业自身的散广性的特点。对于这么一种特点，我们要采取分类分级，对于一些风险高的产品和应用，我们要严监管，对于一些风险低的，我们可以适当地放松我们的监管，同时也仍然要去保护好可能会带来的一些人身财产安全的底线。

主持人：另外关于这个生成式人工智能这个技术革新，它实际上是个覆盖全球的一个技术迭代。但是我们看到各国的政府对于它带来的这个风险问题的态度是不一样的，有的国家是积极地做干预，有的国家则是置之不理，为什么会有这样的差别？

许可：这个背后反映出不同国家产业政策立法的程序和他们的监管目标上的差异。有的国家可能是出于发展自身产业的需求，将这种风险置之不理，比如说美国；有的国家，可能是出于我们所说的审慎监管的目标，需要一个比较长时间的酝酿。我国采取的是急用先行的、因地制宜的、快速回应的、敏捷治理方式，所以我们对于这么一种新产业、新应用的规制是非常快的回应的。

主持人：最后一个问题，您对于这个未来的这个监管，包括下一步的一些细化的空间，还有什么样的建议和看法？

许可：我们都知道生成人工智能有利有弊，它是一种双刃剑。那么对于这种双刃剑，毫无疑问我们要兴利除弊，我们如何去根据生成的人工智能的技术特点和它的产业发展方向，去进行进一步的升级和迭代，进一步细化我们的规则，显然还有很长的路要走。在谈到我们的硬法以及监管的规则的制定的同时，未来可能有更多的行业标准，有人工智能的伦理的相关的规定，从而形成一个法律、标准和伦理的三元共治的局面。

主持人：好的，谢谢！

附：新闻报道链接

https://m-live.cctvnews.cctv.com/live/landscape.html?liveRoomNumber="7870020768582311410&toc_style_id=feeds_only_back&track_id=1EAF2FF7-FF97-420A-9902-3D789AC41F29_713887390336&share_to=wechat