【新书推介】张欣：“人机共生”时代，法律如何为智能划界？
当大模型成为新型基础设施，法律如何为智能划界？
生成式人工智能治理
原理·制度·实践
张欣 著
从ChatGPT、DeepSeek掀起的大模型浪潮，到自主智能体的迅速兴起，人工智能正以超出预期的速度推动发展拐点的到来。生成式人工智能的出现，标志着技术从感知世界真正走向了生成与创造世界；而智能体的涌现，则进一步将这一转向从生成内容推向自主行动。技术潜能的巨大释放同步伴生着深刻的治理挑战，如何为其设定规则、划定边界，已成为一个紧迫的时代议题。
本书正是在此背景下，以数据、算法、模型与应用为基础支点，致力于系统性地探寻生成式人工智能的治理之道。本书的核心主张是，构建与生成式人工智能相配适的治理框架，需要融合三重核心逻辑：内嵌于技术系统、决定其能力边界与风险形态的技术逻辑；驱动产业生态演化、塑造市场结构与利益格局的产业逻辑；承载社会价值、维系社会秩序与个体基本权利的法律逻辑。三者共同构成生成式人工智能治理的理论基础与路径依托。通过对三重逻辑的系统梳理与辩证审视，本书旨在凝练出与新一代人工智能技术的特性及产业生态规律相配适的治理机制，为推进生成式人工智能的良善治理与负责任创新提供学理支撑，亦为正在蓬勃发展中的人工智能法学研究贡献一种体系化的思考方式。
作者简介
张欣，对外经济贸易大学法学院副院长、教授、博士生导师。国家万人计划入选者、对外经济贸易大学“惠园杰出学者”、北京市社科基金青年学术带头人、朝阳区“凤凰人才”领军人才、2025年巾帼科技领航导师。兼任中国法学会网络与信息法学研究会副秘书长、理事，中国法学会法理学研究会理事、中国法学会立法学研究会理事，全国平台经济治理技术委员会副秘书长，世界互联网大会特聘专家。曾赴哈佛大学、新加坡国立大学、加州大学伯克利分校法学院、哥伦比亚大学法学院担任高级访问学者。主要研究领域包括人工智能监管与治理、数据治理、技术进出口管制。曾受邀于中央电视台CCTV-12、CCTV-13、CGTN担任人工智能相关议题专访嘉宾。曾接受《人民日报》、《光明日报》、《经济日报》、《中国日报》、《中国新闻周刊》、中新网、21世纪财经、财新网等多家媒体的报道和采访。著有《人工智能时代的算法治理：机制与方案》《迈向自动驾驶时代：全球自动驾驶规则要览》《智能新纪元：生成式人工智能的发展与治理》《人工智能前沿案例评析》《生成式人工智能合规与治理：理论与实务》。曾在中外法学核心期刊发表论文四十余篇。主持国家社科基金项目、教育部人文社科项目、司法部项目、北京市社科基金项目、中国法学会重点委托课题等多个国家级和省部级课题。
生成式人工智能的崛起与“模型泛在”社会的治理挑战
01
从“专才”到“通才”：生成式人工智能的变革与治理挑战
2022年11月，美国人工智能公司OpenAI发布了一款名为ChatGPT的对话式人工智能应用，凭借其出色的自然语言交互能力迅速获得全球广泛关注，开启了全球生成式人工智能竞逐的时代序幕。随着人工智能技术的快速演进，更多具有竞争力的模型相继涌现：谷歌的Gemini系列展现了多模态融合的新可能，Anthropic的Claude系列在安全性和可控性方面取得了新的突破；而以深度求索（DeepSeek）、文心一言、通义千问为代表的我国自主研发的大模型，更是展现出了与国际前沿模型相媲美甚至有所超越的性能。尤为值得关注的是，DeepSeek-R1等模型在推理能力和成本效率方面的突破，正在重新定义大模型的技术边界和商业可能性。这一系列发展态势表明，生成式人工智能已从单一模型的引爆阶段，进入了技术路线多元演化与产业生态深度建构的全新阶段。
与此前备受关注的AlphaGo和AlphaFold等“专家型”人工智能不同，大型语言模型具备高度通用性，能够适应多样化任务，是“通才型”人工智能。它不仅能够理解和生成文本，还能创作图像、音频和视频，甚至编写代码、制定方案、辅助决策。
这种从感知理解世界到生成创造世界的跃迁，标志着人工智能技术范式的根本性转变。人类正在见证从数据泛在、算法泛在向“模型泛在”新纪元的历史性跨越。可以合理预见的是，大型语言模型将成为基础性、渗透性的新型社会基础设施，赋能千行百业，以近乎零边际成本的方式实现智能能力的社会化分发，进而引发人工智能应用的全面爆发。这意味着模型将成为整个人类社会运行的核心生产要素，其影响将系统性地渗透至社会生产与生活的全部场域，人类正式进入“模型泛在”这一新型社会形态。
02
人工智能治理“新纪元”：技术的“奇点时刻”与治理的“关键时刻”
陆奇曾直言不讳地指出，大模型带来的是“新范式、新时代、新机会”。当生成式人工智能基础模型成为核心技术底座，模型能力深度渗透并整合到经济、政治、文化以及个体生活的方方面面，成为调节社会资源配置、塑造人机互动的基础设施之时，作为社会系统的调节器，法律治理体系将率先受到冲击与挑战。总体而言，生成式人工智能作为颠覆性力量给法律体系带来的底层冲击主要体现在以下三个方面：
第一，法律治理的重点正从传统意义上的面向以数据、算法为代表的技术要素、技术系统或者技术应用的静态规制，迈向对人机互动关系的动态治理。在生成式人工智能浪潮出现之前，以专家系统、推荐算法为代表的窄人工智能是法律规制的主要对象。依循其技术特点，法律治理逻辑呈现出风险防御与以技术客体为中心的核心特征。无论是清晰设定具体应用和场景下的个人信息收集规则，还是多层次地构建平台主体责任，其规制的重心始终围绕一个个可被明确识别、功能边界清晰的技术产品或者服务展开。但生成式人工智能尤其是其所依托的大型语言模型的出现，正从根本上改变传统的人机交互模式，进而颠覆了法律治理的基础单元和核心面向。与传统的基于指令与响应的交互模式有所不同，生成式人工智能与人类的交互方式过渡到以“意图”为中心的模式。它通过对自然语言和情境的深度理解，实现对用户模糊、复杂甚至抽象的意图的精准推理和执行，人机共生的协作范式就此形成。生成式人工智能在日益深度“嵌入”人类的认知过程与行为决策时，开始反向塑造用户的偏好结构与行动模式，甚至成为人类认知与行动的数字延伸。这不仅关乎数字人格的认定、代理责任的归属以及人机协同背后的伦理边界等重要问题，更为深层次的挑战在于，法律对人工智能的规制不仅需要从面向技术的静态治理转向基于人机共生关系的动态治理，还需要深入人工智能代理背后所产生的权力集中问题，并以此为基点进行系统性的回应与调适。
第二，法律治理的客体从分立的技术层级扩展至整个人工智能产业链，法律规制范式也相应地从基于行为、主体的专门性规制迈向基于结构和生态的整体性规制。传统的信息技术规制以相对独立的技术要素和应用系统为治理对象。生成式人工智能的兴起彻底改变了这一治理逻辑，推动了法律治理从原有的基于数据层、算法层、模型层、应用层的垂直分割，扩展为覆盖整个人工智能产业链的生态治理。这一扩展的根本动因来自人工智能产业链呈现出的独特架构与复杂样态。与传统产业有所不同，人工智能的技术实现与商业化落地体现为一个高度整合的“技术堆栈”（Technology Stack）。这一堆栈主要由四个核心层级构成：其一，以芯片为代表，为运算提供算力基础的硬件层；其二，提供规模化基础设施服务的云计算层；其三，以海量数据、基础模型以及访问模型接口等为代表的模型层；其四，进行人工智能部署，与社会产生互动的应用层。在应用层，垂直整合应用、第三方专有应用以及开源应用的并存格局进一步加剧了治理对象的复杂化。这一层级结构看似清晰，其背后却隐藏着深刻的治理挑战。
首先，人工智能技术堆栈呈现出深度耦合的系统性特征。不同于传统互联网时代相对独立的技术模块，人工智能各层级之间存在密切的技术依赖关系和价值传递机制。模型的训练需要依赖云计算基础设施，应用的部署需要调用基础模型，而整个系统的运行都建立在特定的硬件架构之上。这种系统性耦合使得任何单一层级的风险都可能通过技术堆栈向其他层级传播，形成系统性风险的放大效应。
其次，人工智能产业链呈现出权力的高度集中与垂直整合特性。在硬件层，高端芯片的生产被少数几家科技企业垄断。在云计算层，亚马逊云科技（Amazon Web Services，AWS）、微软云（Microsoft Azure）和谷歌云（Google Cloud）三家占据了市场绝大部分份额。这种底层基础设施的集中，赋予了少数科技巨头定义产业入口和规则的巨大权力。更值得关注的是，这些巨头正在进行全栈式的垂直整合。这种结构使得市场壁垒日益增高，高质量数据和先进模型等核心资源向头部企业加速集中，数据飞轮的形成进一步巩固了“赢家通吃”的格局，极大地限制了中小企业的创新空间。
再次，人工智能产业链呈现多主体协作特性，挑战了传统法律规制依托的主体责任逻辑。传统互联网治理主要围绕平台企业的主体责任展开；这一模式成立的前提是存在明确的责任承担主体，且该主体对相关技术系统具有终局性的控制能力。然而，生成式人工智能的产业化落地需要基础模型研发者、中间层工具开发者、下游应用部署者以及设备制造商等多方主体的深度协作，形成了复杂的价值链分工体系。这种多主体协作模式的治理挑战集中体现在责任归属的模糊化。基础模型的缺陷可能在应用层放大，应用层的不当使用也可能超出基础模型的设计预期，而云计算基础设施的故障则可能影响整个系统的稳定性。传统法律中的因果关系认定和过错追溯机制在面对这种复杂的技术协作关系时显得力不从心。
最后，人工智能产业链呈现应用场景多元化与技术形态动态化特性，使得既有的风险治理工具的有效性受到挑战。如前所述，生成式人工智能已经成为新型社会基础设施，横跨金融、医疗、交通、司法等各个领域，所蕴含的风险性质与等级各不相同，尝试通过分类分级的方式对其施加精准治理的挑战与日俱增。与此同时，技术的快速迭代也让监管规则频繁陷入技术性落空的窘境，开源与闭源模型的交叠共存，更加使得监管的追责与穿透变得异常困难。面对这样一个权力高度集中、责任日益弥散、风险动态叠加的复杂产业链，任何仅仅针对数据、算法或者应用等单一层级或者单一主体的规制都可能是片面且乏力的。因此，法律治理的逻辑需要从点状治理、条线治理迈向聚焦整个产业链权力结构、价值分配和风险传导机制的生态治理。这种整体性规制要求做到法律逻辑、技术逻辑与产业逻辑的深度融合。
第三，人工智能治理呈现出国内与国际层面深度杂糅、一体互动的特性。在全球地缘政治与科技竞争日趋激烈的背景下，人工智能治理已然超越传统的技术规制范畴，日益演变为与技术、产品、人才并驾齐驱的，能够主动塑造产业格局与国家竞争优势的战略性资产。这一属性的转变决定了人工智能治理框架的形成需要考量多重因素。其既受到本国技术发展水平、社会需求和价值偏好的影响，又嵌入了全球科技竞争与地缘政治博弈的宏观考量。这一内外互动的治理特点首先源于人工智能技术的战略属性。人工智能不仅是推动经济增长的重要引擎，更是影响国家安全和国际竞争力的关键变量。一国的人工智能能力甚至可能影响国际权力格局的重塑。因此，各主要经济体均将人工智能治理视为维护国家利益和战略优势的重要工具。人工智能治理规则的制定不可避免地带有鲜明的竞争导向。其次，人工智能治理对人工智能创新和应用具有型塑效应。治理规则不仅规范了人工智能技术发展的方向和边界，更通过影响产业发展环境、创新激励机制和资源配置效率，对国家在全球人工智能竞争中的地位产生重要影响。这种密切关联使得人工智能的治理超越了单纯的技术规制范畴，演化为国家之间制度竞争的重要载体。然而，这一趋势的出现强化了人工智能全球治理的碎片化、阵营化格局，国际层面的分歧直接对各国的国内立法产生影响。人工智能竞争从宏观层面的治理理念的竞争，进而下沉至具体的技术标准、测评技术和自律规范层面，引发了全维度的治理竞争。内外杂糅的特性将治理的复杂性推向了前所未有的高度。这不仅是一场围绕规则的竞争，更是一场捍卫国家利益、事关国家重大战略实现的系统工程。若想在这场变革中掌握主动，不仅需要全面考量技术发展的内在需求和社会治理的现实需要，防范技术风险和维护国家安全，还需要在复杂的国际环境和快速的技术变迁中主动作为，积极投入全球人工智能治理的竞争场域，通过建立多层次、多渠道的国际合作机制，主动构建在技术标准、法律规则和国际合作等关键议程设置中的主动权，将我国的人工智能治理方案转化为被广泛接受的国际共识乃至制度安排。由此可见，人工智能不仅迎来了技术层面的“奇点时刻”，而且迎来了人工智能治理的“关键时刻”。
03
从信息生成到智慧生成：本书所作的些许贡献
以ChatGPT、DeepSeek等为代表的一系列突破性成果，不仅在全球范围内激发了对人工智能变革潜能的广泛认知，催生了空前的关注与创新动力，更通过突破自然语言处理的技术瓶颈，实质推动了人工智能发展拐点的到来。技术潜能的巨大释放伴随着深刻的治理挑战，如何为其设定规则、划定边界，成为一个紧迫的时代命题。本书正是在此背景下，以数据层、算法层、内容层为基础支点，致力于系统性地探寻生成式人工智能的治理之道。
本书共分为十章，各章节的核心内容如下：
第一章研究生成式人工智能的数据风险与治理逻辑。生成式人工智能具有泛化性、通用性、迁移性的显著优势和巨大潜力，但其训练过程需要海量的多源数据，存在多种质量和安全风险。针对生成式人工智能的多维属性和产业链特点，应以数据解释机制为核心，强化“模型泛在”时代个体的信息掌控和自决能力，构建精准多元的数据主体责任矩阵，并打造灵活高效的数据治理监管工具体系。
第二章聚焦生成式人工智能的算法治理挑战与应对。大型预训练语言模型日益展现通用潜力，其超大规模、超多参数量、超级易扩展性和超级应用场景的技术特性对以算法透明度、算法公平性和算法问责为内核的算法治理体系形成全方位挑战。当前全球人工智能治理的主流范式均难以与新一代人工智能充分适配。因此，在人工智能技术范式跃迁之际，应以监管权的开放协同、监管方式的多元融合、监管措施的兼容一致为特征，推动监管范式的全面革新，迈向面向人工智能2.0时代的“治理型监管”。
第三章探讨人工智能生成内容的治理风险与应对逻辑。大型预训练语言模型通过对大量自然语言文本的学习，运用统计学和概率分布预测下一个词汇或句子，从而实现流畅连贯、语法正确、具备逻辑性的文本生成。这一技术机理虽能提升模型性能，但在内容公平性、真实性和可靠性方面带来治理风险。迈向“模型泛在”的人工智能时代，生成式人工智能的治理应遵循敏捷治理与韧性治理并重、精准治理和参与式治理协同的原则。针对“模型即服务”的新型产业生态链，围绕信息生产变迁和产业链变迁的核心特性，构建基于应用程序接口模式、基于插件模式和基于模型垂直部署模式的治理架构。
第四章聚焦人工智能体的模块化治理机制。人工智能体由控制端、感知端和行动端组成。其嵌入式和中介化部署方式可能深度影响人类的主体性。其高度定制化的部署特性还可能面临人工智能对齐的挑战。面对“代理即服务”的产业链特点，应建立从基础模型到基础代理的模块化治理框架。针对具体的高风险场景，应探索精准化治理机制。鉴于人工智能体的生态特性，应着力推进交互式治理。
第五章关注深度伪造技术的性别伦理困境及治理方案。深度合成技术与传统性别偏见相互叠加，引发了一种新的数字性别暴力形式。这一困境实质上是技术应用失范、伦理约束缺位及法律规制滞后等多重因素共同作用的结果。鉴于深度伪造技术的系统性治理难题，可构建“技术为伴、伦理为基、法律为盾”的多维治理框架。
第六章关注人工智能的算法公平治理。伴随智能社会的兴起，算法公平已跃升为人工智能治理最为核心和紧迫的议题之一。为破解算法公平治理之困，应因循算法公平的技术机理和伦理关切，凝练法律、伦理和科技之间的内在共识，将算法非歧视原则作为算法公平治理底线，实现跨领域共识的有机融合。在此基础上，我国应立足反歧视法理，通过动态构建差异化的受保护特征清单、打造具有一致性和可预测性的算法歧视审查框架，建立合法性与必要性并重的算法影响评估机制，探寻算法公平的融贯理路与法治化实现路径。
第七章探讨人工智能治理准确性原则。准确性不仅是人工智能广泛应用与全面部署的必要前提，更是构建可信人工智能治理框架的核心要义。基于人工智能全周期治理视角，围绕数据准确性、算法准确性、应用准确性和解释准确性四大核心构成要素，可通过建立数据质量管理体系、完善性能评估标准、优化内容生成机制以及构建多维度解释框架等方式，将人工智能准确性原则科学嵌入生成式人工智能治理框架，从而全面提升人工智能治理效能。
第八章挖掘生成式人工智能在金融应用场景中的规制之道。由于金融领域的运营和决策涉及诸多重大利益，生成式人工智能的应用仍需重点关注以下风险：生成式人工智能训练数据引发的算法歧视风险、生成内容产生“机器幻觉”时存在的可靠性风险以及生成内容缺乏可解释性的“黑箱”风险。为此，有必要对金融产品和金融场景开展分类分级治理。
第九章瞰览人工智能治理的全球变革与中国路径。纵观全球趋势，人工智能治理呈现出以分类分级为内核、软法与硬法动态衔接、监管主体跨域协同的特征。为积极应对人工智能带来的多元复杂影响，我国逐步形成了以人工智能安全为内核，以分类分级为依托，以人工智能安全主体责任为支点，以个体权利体系为外部约束的治理路径。当前，我国人工智能治理正逐步迈向以系统化、整全化立法为标志的新阶段。
第十章聚焦全球人工智能治理的格局、特征与趋势。面对人工智能技术革新及由此引发的治理挑战，当前，全球范围内已初步形成主权国家主导、国际组织推进、科技企业协同的多方治理格局，人工智能治理呈现法治化、智慧化、软法与硬法双轨并行深度治理的趋势。但发展中国家与发达经济体在人工智能技术发展和治理议程设置能力上仍存在“智能鸿沟”和治理代差。现阶段人工智能治理的国际合作具有高度碎片化特征，缺乏全球人工智能治理的核心监管机构，而政府间合作多具有地域特征和大国竞争导向。因此，全球人工智能治理机制的构建需要以包容性、平等性、多元性为基础原则，探索政府间、企业间、专家间的对话交流和磋商机制，通过在重点领域率先凝聚治理共识，推动实现协同发展、和谐共荣的治理格局。
本书目录
前言：生成式人工智能的崛起与“模型泛在”社会的治理挑战
一、从“专才”到“通才”：生成式人工智能的变革与治理挑战
二、人工智能治理“新纪元”：技术的“奇点时刻”与治理的“关键时刻”
三、从信息生成到智慧生成：本书所作的些许贡献
第一章 生成式人工智能的数据风险与治理
一、引言
二、生成式人工智能的数据治理风险
三、生成式人工智能的数据治理框架
四、结语
第二章 生成式人工智能的算法风险与治理
一、引言
二、生成式人工智能的技术特性与算法治理挑战
三、迈向治理型监管：生成式人工智能时代算法治理的革新
四、结语
第三章 生成式人工智能的内容风险与治理
一、引言
二、生成式人工智能的技术机理与治理风险
三、“模型泛在”时代生成式人工智能的内容治理原则
四、面向人工智能产业生态链的治理方案
五、结语
第四章 人工智能体的模块化治理
一、引言
二、人工智能体的技术机理与法律风险
三、“代理即服务”：人工智能体的模块化治理
四、 结语
第五章 深度伪造技术中的性别伦理困境与治理路径
一、引言
二、深度伪造的技术机理与性别伦理困境
三、深度伪造多元治理方案的成效与挑战
四、深度伪造治理的制度构建与路径优化
五、结语
第六章 算法公平的类型与制度实现
一、引言
二、算法公平的类型与内涵
三、算法公平治理的中国实践：现状与特征
四、算法公平的融贯理路与实现路径
五、结语
第七章 人工智能准确性原则的解构与建构
一、引言
二、人工智能准确性原则的现实演进与概念界定
三、人工智能准确性原则的治理效能与基本特征
四、人工智能准确性原则在生成式人工智能治理体系中的实践展开
五、结语
第八章 生成式人工智能在金融领域的法律风险与应对
一、引言
二、生成式人工智能的技术机理与金融应用前景
三、生成式人工智能在金融领域应用的风险与挑战
四、生成式人工智能在金融领域应用的风险应对
五、结语
第九章 人工智能治理的全球变革与中国路径
一、引言
二、人工智能治理的全球变革
三、我国人工智能治理的迭代逻辑和构建机理
四、我国人工智能治理效能的提升与优化
五、结语
第十章 全球人工智能治理的格局、特征与趋势洞察
一、引言
二、全球人工智能治理格局的形成与发展
三、全球人工智能治理的共识性特征
四、全球人工智能治理的挑战与展望
五、结语
附：原文链接