您所在的位置:首页 - 新闻快讯 - 学术活动

学术活动

“中国算法公平实践与治理研讨会”成功举办

近年来,随着《个人信息保护法》《关于加强互联网信息服务算法综合治理的指导意见》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》的出台,中国算法治理的架构已经初步成型。在各种治理目标中,算法公平因关涉消费者保护、市场主体公平竞争、劳动者保护等议题,在实践和理论上尚待全面、深入的厘清。为此,对外经济贸易大学数字经济与法律创新研究中心特邀请来自北京大学、清华大学、中国政法大学、中国社会科学院大学、北京航空航天大学、中国法学会等学术单位和阿里、京东、美团、百度等实务部门的学者专家,就算法治理的理论与实践问题工具,深入研讨。

对外经济贸易大学数字经济与法律创新研究中心主任许可作为本次会议的主持人首先简要介绍了研讨会的举办目的以及与会的各位来宾。

在引导发言部分,阿里研究院数据经济研究中心副主任傅宏宇指出公平性问题不仅包括对用户端的公平性,还包括平台内的公平性(商业性公平)。他还围绕数据算法治理与竞争秩序的关系,提出关于算法和价格、治理工具匹配性、平台和商户的关系等尚未解决的问题。

北京航空航天大学法学院副教授赵精武总结了算法公平问题的四个常见类型,包括利用算法影响用户选择与消费者公平、利用算法的差别待遇与消费者公平、动态定价与平台内经营者公平、流量分发与自我优待认定。除此之外,他还介绍了域外治理算法公平的治理思路,并提出我国算法公平问题的治理思路。

最后,对外经济贸易大学数字经济与法律创新研究中心主任许可分享了思考算法公平问题的统一思考框架,建议转换思考角度,从“算法公平是什么”转换到“什么不是算法公平”,具体思考谁(主体)在什么情形下(场景)利用算法(工具)对谁(对象)实施了何种法律所禁止的行为(违法性)这一问题,并用模块化思维具像化分析主体、对象、场景、工具、违法性基础等要素。

会议第二项议程由阿里巴巴集团算法风险治理团队负责人张荣进行实践分享,他以电商场景个性化推荐为例讨论算法公平性的问题,详细讲述了个性化推荐的具体技术环节,包括召回、粗排和精排、重排。他指出召回过程体现起点上公平,过程公平取决于过程公开,结果是否公平取决于大家怎么定义公平。最后还介绍了阿里发布的人工智能算法公平性测试评估标准。

随后,与会学者、专家围绕四大议题进行圆桌讨论。

中国社会科学院大学互联网法治研究中心执行主任刘晓春将算法公平问题分为四个层次,认为并非所有层面都需要单独针对算法公平进行现有规则之外的设计。第一,内容治理领域(算法推荐、算法处理)的现有规则已经从内容向善等角度容纳了算法公平的考量;第二,商业行为领域(包括平台自我优待、拒绝交易),现有法律规则层面主要通过竞争秩序的维护来贯彻算法公平的理念;第三,用户端层面(如大数据杀熟)相关问题需要落实到具体的消费者权益保护或者竞争法规则,较难抽象讨论算法公平原则;第四,国家公权力运行层面可能存在较为重要的算法公平问题,需要落实到行政性法规的规则设计上。

北京大学法学院副教授胡凌指出个性化的算法不仅是消费者的麻烦,对平台自身营销而言也难以动态评估。因此,平台内部的算法需要有一定的规则性确保可以预见。

中国政法大学大数据和人工智能法律研究中心主任沈伟伟指出差别对待不一定代表不公平,反而可能促成公平。讨论算法公平要比较算法决策跟人工决策哪个更公平,算法决策不必然比人类决策更具歧视的可能。

中国政法大学数据法治研究院教授张凌寒指出法律不是十分追求所有的消费者都会得到绝对相同的价格,更在意的有没有侵害消费者知情权、公平交易的权利。所谓的“算法歧视”本质上是因为对于消费者的知情权和公平交易权达到了一定程度的侵害,而不是仅仅由于算法决策不公平以及定价不同造成的。

对外经济贸易大学国际经济贸易学院李建培教授从经济学出发讨论大数据杀熟。她提出要判定大数据杀熟是否应该监管,需要结合具体的环境。如果部分消费者变差,整体消费者状况变好,就不应该干预。她还具体分析了大数据杀熟可能的利与弊,强调大数据杀熟也有帮助开拓新市场、提高资源配置效率、帮助降低传递信号传递成本的作用。

中国法学会法治研究所研究员刘金瑞指出目前从监管出发点来看,一定程度上存在泛化公平的问题,建议在考虑具体监管之前要明确监管目标,继而选择合适的监管路径和工具,避免因目标过于笼统而对产业发展造成不利影响。

京东集团法律研究院负责人李丽指出自我优待概念、行为类型目前研究尚未达成共识,不宜将自我优待和大数据杀熟等类型化。现行反垄断法22条足够规制现有的自我优待的行为,没必要单独规制。

美团数据合规总监李素焕指出杀熟的概念、内涵尚不明确,提出杀熟是否等于差异化定价、差异化优惠是否算杀熟两个问题。她还分享了美团相关案例,指出差异化定价如果是基于客观因素所导致的差异性,不属于杀熟。

百度集团交易及合规法律部AI业务法务合规负责人徐全全认为要多元化看待算法公平和算法治理的问题,建议考虑不同类型的算法、不同的场景和相关的技术不同的发展阶段,制定不同的合规要求,建立融合倡导性原则、技术标准、行业自律、社会监督,形成相对弹性、包容性的监管框架。

清华大学公管学院副教授陈天昊最后指出算法治理要破解碎片化现状,形成共识性框架面临价值多元、场景多变两方面的挑战,建议锚定点应该在价值,而不应该在场景。

会议在热烈的讨论中圆满结束。