以人为中心的人工智能社会原则

2019年3月,日本内阁府发布了名为《以人为中心的人工智能社会原则》的文件,该文件为经合组织(OECD)提出人工智能方面的建议做出了贡献。《原则》中提出了在整个日本社会中实施的人工智能的原则,即以人为中心、教育应用、隐私保护、安全保障、公平竞争、公平、问责和透明、以及创新等七项原则[1]。

 

由于日本正面临人口老龄化、劳动力不足、财政支出负担加重等社会经济问题,AI提供了一个解决现有问题以及产生经济新增长点的路径,因此日本社会各界对AI寄予厚望。但另一方面,日本各界对AI可能产生的负面影响也保持了相应的审慎态度。在《原则》中就提出既要肯定AI的正面作用,又要重视其可能带来的负面影响,并提出在推进AI技术研发时,应综合考虑其对人类、社会系统、产业构造、创新系统、政府等带来的影响,构建能够使AI有效且安全应用的“AI-Ready社会”。

 

为了推进“七项原则”的落地, 日本统合创新战略推进委员会[2]近期又推出了《实施人工智能原则的治理指南》,引起日本人工智能产业界及专家学者的重视。

 

《指南》由拟实施的行动目标、实施实例、差距分析实例等部分组成,总结了在一定程度上在社会上分享的典型目标和实践范例。

 

《指南》本身不具有法律拘束力。《以人为中心的人工智能社会原则》其实也不具有法律约束力,但由于其提出的原则普遍受到日本社会的尊重,《指南》将这些原则列为企业可选择的目标。该《指南》实际上提供了一种管理工具,支持日本AI企业的自愿性努力,作为参与人工智能业务(通常是人工智能系统的开发/运营)的AI企业在其业务交易中广泛共享的材料,并通过利益相关者之间就人工智能原则的实施达成共识。

 

《实施人工智能原则的治理指南》内容简介

《指南》的重点在于提出一个适用于AI企业的敏捷治理模型。

 

该模型强调在分析和决策过程中的短期周转以求快速解决遇到的问题。《指南》提出模型(见下图)的重点有两个:

 

 (1)分析并设定目标;

 

 (2)评估实现当前行动目标的努力。

 

其目的是创建一个自适应治理系统,该系统将随着系统本身的问题解决和使用中的人工智能技术的影响而不断发展。

 

 

设置治理目标

《指南》的特色之一在于AI企业可以根据自身情况自己决定设立治理目标,有很大的自主性。治理目标不仅包括《以人为中心的人工智能社会原则》中的七项原则在内的人工智能政策,还包括涵盖其他要素例如数据使用政策等。《指南》甚至提供了企业目标的一些示例。

 

差距分析

AI企业通过结合治理差距分析来比较AI治理目标和当前的状态,以解决管理系统中需要更改的地方。如果在进行差距分析时发现任何负面影响,AI企业应在考虑负面影响的严重程度、范围和发生频率的情况下确定负面影响是否可以接受。

 

AI企业应确保与行业标准差距分析流程的一致性。AI企业们可以共同制定行业标准以进行差距分析,且合格的AI企业应公布其对差距分析标准的遵守情况。

 

AI企业应将AI用户纳入差距分析过程, 并为AI用户提供足够信息帮助他们理解潜在差距和解决差距的措施。AI企业应向AI产品的用户提供有关如何操作AI系统和理解AI系统输出的信息和培训,为AI用户编制风险相关信息。

 

提供数据的企业应提供数据集的信息,包括数据收集来源、收集政策、收集标准、注释标准和使用限制,以确保开发AI系统的企业能够适当地进行差距分析。数据公司应提供足够的基本信息,包括进行差距分析所需的数据收集来源。

 

实施治理方式

《指南》提议的治理模式的实施基于AI企业在开发和应用方面公开自我报告,旨在在行业内创造透明度;另一个关键问题是能够解释公司的AI系统的运行状态以及AI管理系统如何运行。因此,AI企业应通过记录差距分析过程并采取适当行动,确保他们可以向外部解释AI管理系统的实施情况。AI企业应监控和记录AI系统初步乃至全面运行的状态,以便对单个AI系统在初步和全面运行中的差距分析可以持续实施。AI企业应考虑将与AI治理相关的信息,例如与AI治理目标设定、AI管理系统的建立和运行有关的信息列为《企业治理守则》中的非财务信息,并主动披露此类信息。非上市AI企业还应考虑主动披露与AI治理活动相关的信息。

 

成果分析与评估过程

AI企业应该有独立于AI管理系统的设计和运行的个人验证,诸如差距分析过程的AI管理系统是否根据AI治理目标适当地设计和运行。AI企业应考虑向股东和利益相关者(包括业务合作伙伴、用户(包括消费者)以及熟悉AI系统适当运行趋势的专家就其AI管理系统和该系统的实施征求意见。如果AI企业经过适当考虑决定不向外部征求意见,则应准备向外部解释其原因。AI企业应定期针对自身的AI治理实践进行评估,更新认识,获取新观点,并采取其他相关措施。

 

《实施人工智能原则的治理指南》的特色

1、标志着日本社会对人工智能的治理已经从理念开始推向落地

尽管日本对人工智能寄予重望,但在建设一个什么样的人工智能未来则保持了审慎、理性的态度。从提出“七项原则”的理念形成阶段,目前已开始谨慎的走向原则落地实施的阶段。《实施人工智能原则的治理指南》实际上就是支持企业在实施人工智能治理过程中的一个工具,这个工具由政府和研究机构提出,并提供给AI企业自愿性使用。

 

2、 软性和适用性的规则, 是《指南》的最大特色

该《指南》明确指出,所提议的治理体系不具有法律效力,取决于人工智能公司的自愿采用和实施。当涉及到指南行动目标的采纳和实施时,指南中的关键词是“应该”两个字,缺乏硬性要求使该指南成为一个理想的陈述。该措辞允许行业制定如何进行差距分析和报告的标准,并且没有强调如何完成基础流程审查的规范。

 

过去的研究表明,软规则工具应用的有效性在很大程度上取决于参与监管政策制定的国家监管机构和行业参与者的强大认知、物质和政治能力[3]。在缺乏这些条件的情况下,应用软性的、不具有法律约束力的监管可能会导致不利影响,例如不合规和治理体系的“空洞化”。另外两个主要因素是拥有积极主动的新闻媒体和具有社会意识的富裕公民,这将构成企业遵守法规的必要社会压力[4]。

 

不过,采取更温和的治理方法在一定程度上是可以理解的。对人工智能等新兴技术进行监管,如果通过先入为主的监管限制开发和应用,有可能会冒着把婴儿和洗澡水一起倒掉的风险。只要没有重大的负面社会影响,一般来说主管机关就有兴趣允许新兴技术以最小的障碍发展。由于人工智能发展尚处于早期,人们对人工智能如何在社会中发展和应用的了解有限,往往会很难制定具体的监管规定,因此软性和适应性规则可能是开始管理这一新兴技术的有效方法。

 

3、 敏捷治理,是《指南》的一大亮点

《指南》认为人工智能往往是复杂和快速变化的,缺乏可预测性,治理的目标应随着社会的变化而不断变化,因此,采用目标和程序事先固定的治理模式是不合适的。因此,《指南》提出“敏捷治理”的治理模型,根据不断变化的条件和目标,不断修改解决方案,以确保其最优性。这个模型与我国的《新一代人工智能治理原则——发展负责任的人工智能》中提出的“敏捷治理“有异曲同工之妙[5]。

 

在这个理念指导下,政府和企业可以合作制定标准以及其他“软规则”,以支持企业实施敏捷治理。《指南》本身也应根据敏捷治理的流程进行持续评估、修订和更新,并作为政府和企业合作创建的动态文档进行持续维护和引用,成为一种灵活的工具来应对人工智能的发展。

 

实施人工智能原则的治理指南》的制度化挑战

《指南》的最终用途是激励人工智能公司形成一个行业主导的治理平台,该平台将遵循进行差距分析的通用标准,并在敏捷治理模型上运行。但是,鉴于《指南》目前的设计和编写方式,实现这一目标可能非常具有挑战性,因为在将差距分析作为标准行业实践的过程并不清楚哪个机构将承担推进者角色并建立运行合规性的机制。因此,这种努力取决于该治理系统如何被社会力量制度化和激励。最终实施效果如何,我们不妨拭目以待。

 

结束语:《指南》中的软性和适应性规定,以及敏捷治理的思路,说明日本也在如探索何促进人工智能的发展和如何避免负面效果之间的平衡,其中不乏值得思考和研究的亮点。

 

参考文献:

[1] See<Social Principles of Human-Centric AI>

 

[2]“统合创新战略创新会议”于2018年设置于日本内阁府,主要职责一是横向协调日本国家层面与创新关系密切的各部门及委员会, 二是推进落实每年推出的“统合创新战略”https://www8.cao.go.jp/cstp/tougosenryaku/index.html

 

[3]Koutalakis, C., Buzogany, A. & Börzel, T.A. When soft regulation is not enough: The integrated pollution prevention and control directive of the European Union [J]. Regulation & Governance,2010(4): 329–344.

 

[4] Toffel, M.W., Short, J.L., Ouellet. Codes in context: How states, markets, and civil society shape adherence to global labor standards [J]. Regulation & Governance,2012(9) 205–223.

 

[5] 参见《新一代人工智能治理原则——发展负责任的人工智能》(科技部2020年)