[科学技术]“硬”监管与“软”治理——美欧最新人工智能监管政策分析

作者:曹建峰(腾讯研究所高级研究员)

最近，美国和欧盟相继出台了发展人工智能技术的监管政策，标志着人工智能(ai)将迎来监管时代。然而，美国和欧洲的监管路径却截然不同。欧盟的“硬”监管模式旨在加强监管以加强对个人权利的保护，而美国的“软”治理模式则尽力限制监管范围以促进创新发展。特别值得注意的是，欧盟人工智能监管框架延续了其《通用数据保护条例》(gdpr)的长臂管辖权概念，并打算通过欧盟立法为全球数字监管设定标准，这在未来可能会影响到中国的科技公司。

在科威特哈瓦利省举行的机器人和人工智能节上，孩子们在现场与机器人互动。新华社

欧盟:呼吁加强对“高风险”人工智能应用的监管

2月19日，欧盟委员会发布了新的数字战略，这是欧盟在2015年5月推出单一数字市场战略后，针对数字转型的又一纲领性战略。与此同时，《人工智能白皮书》和《数据策略》也相继发布。欧盟引入数字战略不仅是为了增强欧盟的技术主权、产业领导地位和经济竞争力，也是为了通过欧盟立法建立gdpr全球数字监管标准，这将对全球数字经济的发展产生持久影响。

人工智能白皮书在2018年4月出台的欧盟人工智能战略的基础上，提出了投资与监管相结合的思路。一方面，将继续加大对芯片、算法、量子计算等技术和产业的投入；另一方面，将建立一个监管框架，以防止与人工智能应用相关的风险，如不透明的自动决策，算法歧视，侵犯隐私和犯罪行为。目的是加强技术主权，确保技术信任，最大限度地减少各种风险和潜在损害，避免过度监管。主要包括以下几个方面。

第一，采用分类监管方式，不会对所有ai应用进行监管，监管只针对“高风险”ai应用。然而，“高风险”(即“极有可能/很可能具有重大风险”)的判断标准是高度概括和模糊的，空对此有很大的解释，赋予了监管更大的自由度，并不排除未来监管的泛化。可能涵盖的具体领域和使用场景需要在未来详尽列出，并可以定期评估和修订。白皮书还列出了医疗保健、交通和能源领域。另外还有一个自下而上的规则，就是无论是否在被监管领域，只要认为ai系统风险高，就应该进行监管，这样会进一步扩大监管范围。比如目前广泛使用的ai人脸识别和ai招聘都是“高风险”的应用，这两种ai应用都被指责造成了种族或性别等社会歧视。

第二，高风险系统需要遵守严格的强制性要求。这些要求涵盖五个方面:培训数据、数据记录、信息提供和透明度、安全性、可靠性和准确性、人员监督和干预。值得一提的是，人工干预的方式和程度存在差异:有些决策(如社会福利申请)只能由人工做出，不能交给ai系统决策；虽然有些决策(比如信用卡申请)可以由ai系统来处理，但是以后可以应用到人类身上；有些ai系统需要有关机功能，比如自驾车的关机按钮。当人工智能系统超过设计运行条件时，应自动停止运行。此外，与泄露的文件相比，考虑在3-5年内禁止在公共场所使用人脸识别技术。但是白皮书没有禁止使用人脸识别，但是会限制使用情况，需要安全措施。对于人脸识别技术在公共场所的使用，欧盟委员会将讨论确定合适的使用场景和常用的安全措施。

第三，延续长臂管辖权的想法可能会影响其他国家的科技公司。新的监管框架延续了一般数据保护条例(gdpr)确立的长期管辖规则，即在欧盟提供人工智能相关产品或服务的所有相关实体都需要受到监管并遵守强制性要求，无论它们在欧盟是否有营业场所。这意味着欧盟以外的科技公司可能会受到监管，中国的科技公司也不例外。

四是建立涵盖活动前、活动中和活动后各方面的综合监督机制。提前，为了确保高风险ai应用符合强制性要求，监管机构将评估其合规性认证，包括测试、监控和认证程序，并检查研发阶段使用的算法和数据集。在活动期间和之后，加强执法，包括监控合规性，监管机构或第三方机构测试ai应用。

第五，不在监管范围内的ai应用不需要遵守这些强制性要求。但是，对于未受监管的ai应用建立了自愿认证机制，即如果未受监管的ai应用自愿符合强制性要求或专门为自愿机制建立的类似要求，则可以授予其质量标签，表明ai系统是可信的。自愿标签机制将鼓励行业积极遵守规定，并可能进一步扩大监督范围。

美国:强调审慎监管，促进创新和发展

无独有偶，今年1月，美国国家ai战略出台一年后，美国政府发布了《人工智能应用监管指南》。该指南提出了十项监管原则，涵盖公众对人工智能的信任、公众参与、科学研究道德和信息质量、风险评估和管理、成本效益分析、灵活性、公平和不歧视、披露和透明度、安全和可靠性以及联邦机构之间的协调。它主要呈现以下三个特点。

强调监管应有助于创新和发展。美国人工智能政策的根本目的是提高美国在人工智能科学、技术和经济方面的全球领先地位。人工智能监管也需要服务于这一根本目的。就ai监管的目的而言，与维护美国的技术、经济、国家安全、隐私、自由、法治、知识产权等价值观一样重要的是，促进稳定的创新生态系统，减少和消除ai技术开发和应用的不必要障碍，不断推动技术和创新的进步。因此，《指南》要求充分评估监管对人工智能创新和发展的影响，避免采取阻碍人工智能创新和发展的监管和非监管措施，以及可能对人工智能系统施加过高标准的防范路径。

强调科学灵活的监管。ai的监管和非监管措施需要充分考虑ai相关的科技信息和程序，避免不切实际的立法。监管需要走风险路径，评估哪些风险是可以接受的，哪些风险可能导致不可接受的损害，或者损害超过收益。这意味着ai监管的目的不是消除所有风险，不可能消除所有风险，而是管理风险并将其控制在最低或社会可接受的限度内。因此，在监管人工智能之前，有必要进行成本效益分析，充分考虑人工智能开发和应用的社会成本、效益和影响，以权衡人工智能活动的利弊和风险。此外，监管和非监管措施应该足够灵活，以适应快速的技术变化和迭代人工智能应用。监管技术细节的严格立法不切实际且无效。

强调非监管和非监管措施。可以说对于ai应用，美国是从非监管开始的。如果现有监管充分，或者新的监管不符合成本效益分析，理想的路径是停止强化，或者采取非监管措施应对具体ai应用的风险。可以预见，美国将更加重视非法律强制性的非监管措施，包括子行业的政策指引或框架、试点项目和实验、行业内自愿的共识标准等等。

谁更厉害？

美国和欧盟相继出台监管政策，标志着人工智能将正式迎来监管时代。监管政策将成为美国和欧盟加强“科技主权”的重要工具。《人工智能白皮书》的发表表明，欧盟对人工智能的监管立场有所缓和，但与美国相比存在根本性差异。去年，全球ai初创公司共融资270亿美元，其中美国占170亿美元，远远超过其他国家。美国积极的创新生态在一定程度上代表了美国和欧洲的监管差异。

首先，监管目的和初衷是有显著区别的。欧盟人工智能监管框架延续了gdpr的立法初衷，过分强调隐私等个人权利的保护和ai应用的负面影响。相反，美国更强调推动ai的创新和发展，因此将ai应用的“安全港”、监管例外和监管豁免的创建放在了很高的位置。“安全港”系统是美国赢得互联网时代的法宝，美国希望在ai领域复制这一成功经验。

其次，从监管标准来看，欧盟是低门槛监管，美国是高门槛监管。高度模糊的标准意味着欧盟已经为人工智能应用进入监管领域设定了较低的门槛。监管要求具体，监管执法覆盖全过程。人工智能的开发和应用将面临更大的范围和更大程度的监管压力，技术和行业的影响不容低估。相反，美国倡导的科学审慎监管、风险评估和管理、成本效益分析、灵活性和敏捷性等理念，不仅会大大降低监管的空效应，而且不会使监管要求僵化，更有利于技术和产业的发展。

从监管特征分析，欧盟是“硬”监管，而美国是“软”治理。欧盟的监管路径旨在最大限度地降低与新技术相关的任何可能风险，而不是通过创造一个技术友好的政策环境来降低人工智能应用的门槛。因此，过分强调监管的紧迫性、必要性和重要性，希望通过政府认证和许可，加强对“高风险”ai应用的监管。相反，美国减少了空的监管，这并不意味着什么都不做。相反，它留出更大的空用于技术和行业友好的非监管措施和“软法律”治理，以避免监管对最大限度释放新技术红利的影响。

从全球来看，纵观整个数字经济，美国和中国是领头羊。根据联合国2019年数字经济报告，中国和美国占全球70家最大数字平台公司总市值的90%，区块链相关专利的75%，全球物联网支出的50%，全球云计算市场份额的75%。美国之所以能在互联网时代引领世界，很大程度上是因为基于行业自律的轻监管，而欧盟对互联网的强监管则让欧盟错失了互联网时代的机遇。如今欧盟对人工智能技术的强力监管，一方面有着为了打造自己的“技术主权”而限制美国等外国技术和产业力量的考虑，另一方面可能适得其反，让欧盟错失ai时代的机遇。美国倡导的ai治理“软法”路径追求监管的灵活性，避免过度监管，可能值得借鉴。

对我国人工智能产业发展的启示

首先，我们要继续加强R&D在突破性技术领域的投资和人才培养。美欧在推进监管的同时，继续加大科技研发投入。例如，美国计划在未来两年内将人工智能和量子计算的投资增加一倍，建设世界上第一个量子互联网。欧盟也将大幅加强对ai、量子计算、5g和6g、区块链等突破性技术的研发投入，这表明美欧对下一代数字技术和产业的竞争日益加剧。我国在基础研究、芯片、核心算法、人才培养等方面还存在不足。需要不断加大对人工智能、量子计算等突破性技术的支持和投入。

第二，在全球“技术主权”竞争的背景下，ai应用需要谨慎监管。数字时代，全球对“技术主权”的争夺趋于激烈，监管政策是重要工具。例如，美国近年来增加了对尖端数字技术(如ai)的投资和出口控制，就是为了这个目的。因此，虽然美国和欧洲的ai监管存在差异，但差异是因为产业发展条件不同而存在的，但殊途同归，最终目标是打造技术和产业竞争力。在这种背景下，美国ai监管政策样本更符合中国的技术和行业实际，需要遵循包容性和审慎性的理念，通过多方参与、风险评估和成本效益分析等机制，确保立法和监管的科学性、精细化和灵活性，并考虑设立“避风港”规则或监管例外，鼓励ai应用。与此同时，它依靠外部监督的多样化措施，如标准、准则和试点，共同促进中国的技术。

第三，加强国际合作，积极推进国际人工智能标准的制定。除了国内政策举措，美国和欧洲也在积极建立相关的国际联盟和“数据俱乐部”，希望在数据流、数字税收和人工智能技术、道德和治理方面主导国际标准。中国也需要加强相关国际合作，积极倡导我们的人工智能发展理念。

光明日报(第14版，2020年5月14日)