首页中国法学杂志社

【文摘】苏宇｜算法规制的谱系

时间：2020-07-21

来源：

作者：zzs

苏　宇：中国人民公安大学法学与犯罪学学院副教授，法学博士

算法规制是法律及其授权的监管者针对算法被不当利用所产生的各种风险进行的规制活动。算法并不必然需要变成商业化的软件或应用才会引致风险，算法本身的传播也可能造成风险。在当前形势下，明确各种算法规制工具的应用场景、技术条件及功能，并通过谱系化的努力将这些规制工具纳入法治的轨道，已成为算法治理进程中一项基础性的艰巨挑战。

一、算法引致风险的原因及规制需求

算法风险的产生原因主要存在于以下几个方面：

一是目标失范，即算法设计的目标不符合法律规范的精神或宗旨。即使算法应用的初衷是与法律的精神或宗旨相符，但在算法设计中没有完整地考虑法律价值及权利保障目标，也有可能引起此方面的风险。

二是算法缺陷，即算法设计不能稳定、准确地实现其目标。以下几种主要情形是产生此种风险的具体原因：(1)算法设计存在安全模块缺失等结构性缺陷或可靠性、准确性、完备性等方面的性能缺陷；(2)算法所依赖的数据来源或基础信息出现缺失或偏差；(3)不同软件或程序之间的算法冲突。

三是信任危机，即对于算法设计的目标及其实现机理，受算法影响的主体缺乏足够的理解和信任。

四是防御薄弱，即算法如果不能有效实现其目标或产生其他负面作用，受影响的相关主体缺乏充分的防御手段。

五是监管与责任机制有待完善，即对于前述各种算法风险的产生、控制和补救，行政监管、责任追究和法律救济的途径尚需要加强。

二、当前法律理论与实践中的算法规制进路

按照算法风险产生的不同原因，目前的学说及实践主要包含以下几个方面的机制，从不同进路推动算法规制的发展：

(一)算法设计目标纠偏机制

算法设计目标纠偏机制主要致力于防止算法设计的目标违反法律的精神、宗旨或法秩序所蕴含的价值内涵。目前此方面尚无成型的规制工具或手段，只有理论上的主张，最具代表性的倡议是算法伦理审查。

(二)算法设计缺陷防范机制

算法设计缺陷防范机制是算法规制谱系中内容最为丰富、技术含量最高的手段，致力于确保算法设计能够稳定、准确地实现其合法目标。法律规范中最常见的算法设计缺陷防范机制是在算法设计阶段明确要求包含必要的安全措施，更深入的缺乏防范机制则以算法及数据集缺陷检测机制为代表。最彻底亦最具综合性的缺陷防御机制是算法标准。

(三)算法信任维系机制

算法信任维系机制主要致力于解决某些算法的透明性及可信任性问题。算法解释是维系算法信任的基础。如果某种包含复杂逻辑的算法应用可能对公民或用户的合法权益造成风险，设定算法解释的法律义务或明确算法解释请求权即为必要。算法认证机制可以检验算法是否能够实现其所声称的目标。算法查验则为用户或公众提供一个检验算法解释是否符合其理解的途径。

(四)算法相关权利

权利的配置与界定问题是规制研究的一部分。近年来，算法相关权利已经逐渐发展成为庞大的权利簇。一些新兴的权利主张或法律实践还有着更深远的内涵。这些权利对防范和补救算法应用风险、保障自然人的合法权益将起到不可替代的作用。

(五)算法监管辅助措施

算法监管措施与算法责任的配置主要解决的是算法监管的便利性及可得性问题，目前主要有以下两种措施得到较广泛应用：一种是算法应用登记，这是应用最广泛的基础性监管手段，既便于监管者及时了解情况、发现风险，也便于追溯算法应用造成的法律责任；另一种较广泛的监管手段是要求算法应用开发者为监管提供便利条件，避免监管游离于算法之外。

(六)算法责任

对算法应用所引致的风险设置一定的责任结构，是算法规制必不可少的制度设计。算法责任主要解决算法风险产生后责任的可追溯性、一般配置及具体分担问题，在目前的算法责任框架中，除算法用户责任问题尚未达成理论共识、形成专门性的法律规则外，算法设计者责任、算法应用开发者责任、算法应用平台责任及监管责任已经开始构成算法责任体系的主架构。

三、算法规制现状的局限性

根据算法风险产生的不同原因、从算法规制的不同进路梳理既有的法律关系与规制手段，已经可以初步发现算法规制谱系的轮廓。目前各国规制者已经针对算法所产生的风险提供了一系列识别、防范、监测与救济的措施，但仍然存在法律关系、机制或工具方面的诸多缺失，难以满足未来算法规制之需求。

(一)规制思维的局限性

前述规制现状所隐含的一个基础问题就是规制思维的局限性。在算法规制实践中频繁应用的相关手段在互联网规制中已有类似的实践基础，容易使规制者以规制互联网活动的思维应对算法规制问题。互联网风险转化途径比较集中，几乎都需要依赖线上的信息流或数据流。与此相比，算法风险的发生途径更加灵活，许多场景下也并不需要依赖线上的信息传播或交流。算法规制应当从集中于风险链条的中间节点扩展至整个风险链条的前端与末端，特别是赋予处于风险链条末端的普通自然人更充分的防御手段。

(二)规制对象的局限性

规制思维的局限性也导致了规制对象的局限性。国内算法规制实践中的大部分规制措施仍然致力于针对算法应用的开发者及平台进行。事实上，算法研发呈现分散、便捷、多样化的特征；算法设计者可以在不具备商业资质的前提下，直接向整个互联网提供算法应用甚至源代码，造成算法风险。此时就应当考虑如何使算法规制扩展至分散的甚至是匿名的个体，强化对广泛范围内风险源的了解、监测和响应。

(三)规制主体的局限性

目前的算法规制仍然高度依赖于负有监管职权的行政机关，由其作为几乎唯一的规制主体单方面对算法风险施加规制措施；这与算法风险的现状及发展规律不尽相符。在知识社区及业内其他平台不断涌现新算法、新应用的情况下，单靠人力资源和时间成本有限的行政监管很可能鞭长莫及，除依靠社区及行业自律机制外，还必须推动企业、社会组织、算法应用的用户和社会公众广泛参与到算法规制之中，形成有层次的算法风险治理网络。

(四)规制工具的局限性

自上而下的集中规制不仅可能难堪重负、难以及时而合理地采取保护措施，还可能因为利益关联或认知局限等原因阻碍算法的正常发展。算法规制工具必须与规制思维一并转型，鼓励产业界、社会组织及个人创造和发展自下而上的风险识别与防范工具。在更抽象的层面上，算法规制有必要建立某种算法制衡结构，即通过有防御功能的算法应用对抗产生算法风险的应用，通过多元而分散的算法防御体系抗衡同样多元而分散的风险源。

(五)法律关系的局限性

规制思维、规制对象、规制主体、规制工具方面的突破，最终需要法律关系的变革加以承载。与公众参与中的公众充权类似，算法时代的自然人在既有的数据权利之外，应当在更大范围内得到充权，使前述种种算法制衡机制及工具在更广泛的范围内为一般自然人或者利害相关方应用。

以上几个方面的缺失共同揭示了如下的图景：高度集中、自上而下为主的算法规制现状所没有考虑到的大部分法律主体，都没有被有效吸纳进算法风险的治理过程。算法规制需要一种多维度的谱系，突破前述各种局限性，形成内容丰富、结构完善的算法规制“总图式”。

四、构建和发展算法规制谱系的思考

(一)算法规制谱系的基本思考图式

谱系的作用在于提供整体性的全面观察和体系性的思维路径，其本质是提供一种贯穿全域的连续性。我们有可能为算法规制的谱系建立某种基础性的思考图式，使算法规制的进路选择具备共通的法理基础。首先，此种思维图式需要明确算法规制须考虑的主要维度，以便在采取规制行动时能够作出系统性的考量。其次，此种思维图式需要为不同维度上的各种要素之间建立有机联系，便于启发规制者和参与者形成一定的治理结构，可以使算法规制谱系的思考结构化，连接及协调跨越不同维度的各种算法规制安排。最后，此种思维图式虽然跨越众多价值判断，但都可以通过人面向算法风险的价值判断和选择相联结，进而由人在算法风险面前的若干基础性权利统合起来。

(二)算法规制谱系的主要维度

算法风险的治理必然是系统性、多维度的。自风险规制过程的视角观之，算法规制的主要维度应当包括算法风险的成因、风险规制的工具或手段、算法风险规制的参与者及其所涉及的法律关系；其中，由于法律关系的范围过分广泛且可能与其他维度发生交叠，可以集中考量有利于受风险影响个体或群体进行自我保护的手段，即算法相关权利的确认与行使。由此，算法规制的谱系可以至少包含四重维度，即风险成因维度、规制工具维度、用户权利维度和参与主体维度。这些维度构成了算法规制谱系的主架构，理论上所有算法规制的法律措施都可以在算法规制谱系各主要维度上获得合适的定位。

(三)算法规制谱系中不同维度间的联结

算法规制要走向成熟和完善，必须具备一定程度的体系性和融贯性，这需要以算法规制谱系的内部关联性为基础。由此，算法规制的一项法律措施就需要在算法规制不同维度间建立合理联结，形成具有系统性的制度安排，构成算法规制谱系的基本图式。这一基本图式可以为算法规制的制度设计形成有意义的参考思维路线图，并提供环环紧扣的规制方案。

(四)以人之主体性地位为基点的动态规制谱系

由于算法研究的不断创新与突破，我们应当回归人与算法的基本关系、回归人的主体性地位去寻找算法规制谱系的基点。应当从根本上革新规制思维，以人的主体性而非规制工具的效用为基础完善算法规制谱系的基本图式。在算法规制谱系的法律关系中，技术性正当权利、算法防御权、包含规制性权利与救济权在内的“传统”权利以及人类替代权利这四种基本的权利类型，分别代表人认识和理解算法、自主防范算法风险、通过政府或公共组织防范算法风险以及在特定事务中拒绝承受算法风险的四种基本需求，体现了人在算法风险面前认识客体和作出决定的主体性地位，也能够承载人面对算法风险的种种价值考量与利弊权衡，足可成为一系列具体算法相关权利和规制工具的基点。

以这些具有基础性意义的权利类型为基点，算法规制的谱系可以成为一种开放性、反思性和统合性的框架，面向不断涌现的各种算法风险和新兴的技术路线及方法，根据人类不断发展的价值判断与抉择，持续革新算法规制各维度的具体要素及其联结，以动态演化的算法规制谱系应对不断变化的算法风险。

结　语

算法规制需要建立谱系，在人面对算法的系列需求中发现和把握各种算法规制活动的内在连续性，既促使算法的发展尽可能惠及用户、企业及社会公众，也保证人在算法与程序的惊涛骇浪中依然有能力掌控自身的命运。