近年来，人工智能迅速发展，正在深刻改变人类社会生活、改变世界。然而，关于人工智能法律、伦理、社会管理等争议也随之而来。为促进新一代人工智能健康发展，今年2月，国家新一代人工智能治理专业委员会（以下简称委员会）成立，积极推动人工智能全球治理。

  6月17日，委员会发布《新一代人工智能治理原则——发展负责任的人工智能》（以下简称治理原则），提出了人工智能治理的框架和行动指南。这一文件对人工智能发展相关各方提出了哪些应遵循的原则？将对人工智能发展监管起到什么作用？

  经过科技部官网公开征集建议、专家反复研讨、多方征求意见等环节，这份凝聚了广泛共识的《治理原则》于17日对外发布。《治理原则》突出“发展负责任的人工智能”这一主题，强调和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理等八条原则。

  其中，尊重隐私是各界广泛关注的问题。《治理原则》提出，人工智能发展应尊重和保护个人隐私，充分保障个人的知情权和选择权。在个人信息的收集、存储、处理、使用等各环节应设置边界，建立规范。完善个人数据授权撤销机制，反对任何窃取、篡改、泄露和其他非法收集利用个人信息的行为。

  国家新一代人工智能治理专业委员会委员曾毅表示：“在这样的准则当中特别把这一条拿出来说，充分说明了中国科技发展的重要态度。从细节来看，比如对于个人信息的数据收集，反对任何窃取、篡改、泄露、非法的收集利用个人信息，态度非常明确。而且对于完善个人数据授权的撤销机制这样的理念实际上在全球也是非常领 先的。”

  人工智能的发展日新月异，相对漫长的立法程序难以及时追赶。为此，《治理原则》特别提出了敏捷治理这一原则，要求在推动人工智能创新发展、有序发展的同时，及时发现和解决可能引发的风险。

  国家新一代人工智能治理专业委员会主任薛澜指出，针对新兴技术的敏捷治理原则，能实现边发展边治理。薛澜介绍：“主要就是针对这类新兴技术，在治理过程中需要根据它这种技术特点渐进迭代，以人为本、多元包容，这样治理伴随着技术发展，有不利苗头的时候，就出台一些措施去引导。另外一点，这种引导又不要一棒子打死。这样能够促进、保证发展与治理是共同协调推进的。”

  目前，全世界发布的人工智能准则超过40个，内容各异，有的准则以人类为中心。而国家新一代人工智能治理专业委员会提出的《治理原则》旨在人类与生态的和谐，推动经济社会生态的可持续发展。薛澜强调，不同于其他国家的相关准则，《治理原则》注重包容共享。薛澜表示：“作为发展中国家，我们推动人工智能发展是要解决中国发展中面临的一些问题。所以这里面也特别强调，在应用场景上我们特别强调包容共享，所以包括消除地区差距、怎么样去关注弱势群体等。我们希望人工智能的发展能够真正在这些方面做出更大的贡献。”

  《治理原则》广泛适用于人工智能研发者、使用者、受用者以及相关的治理组织、政府等。国家新一代人工智能治理专业委员会委员李仁涵就《治理原则》如何在实践中发挥作用提出了三点建议：“第一，希望各级政府能够把治理原则融入到与人工智能发展相关的政策领域当中。第二，从事人工智能领域的所有人要深刻领会治理的原则，在人工智能各个领域的研发项目中，嵌入治理原则。第三，人工智能其实很贴近每个人的生活，因此，《治理原则》需要共同监管，防止人工智能无序发展。”

  薛澜表示，《治理原则》将为人工智能相关立法工作提供重要依据，希望引发更多、更具体的规范标准出台。“治理原则是框架性的原则，主要是发挥对人工智能健康发展的宏观引导作用，希望框架性的治理原则会引发更多、更加具体的规范标准出台，形成人工智能健康发展的新局面。我们今后也还会加强研究，根据形势的变化和需要，不断细化、充实、更新、调整目前的原则。尤其人工智能发展需要立法工作保证，包括对数据的治理等方面。这个治理原则其实是为立法工作提供了一个重要的依据。”薛澜说。

  附：

  新一代人工智能治理原则

  ——发展负责任的人工智能

  全球人工智能发展进入新阶段，呈现出跨界融合、人机协同、群智开放等新特征，正在深刻改变人类社会生活、改变世界。为促进新一代人工智能健康发展，更好协调发展与治理的关系，确保人工智能安全可靠可控，推动经济、社会及生态可持续发展，共建人类命运共同体，人工智能发展相关各方应遵循以下原则：

  一、和谐友好。人工智能发展应以增进人类共同福祉为目标；应符合人类的价值观和伦理道德，促进人机和谐，服务人类文明进步；应以保障社会安全、尊重人类权益为前提，避免误用，禁止滥用、恶用。

  二、公平公正。人工智能发展应促进公平公正，保障利益相关者的权益，促进机会均等。通过持续提高技术水平、改善管理方式，在数据获取、算法设计、技术开发、产品研发和应用过程中消除偏见和歧视。

  三、包容共享。人工智能应促进绿色发展，符合环境友好、资源节约的要求；应促进协调发展，推动各行各业转型升级，缩小区域差距；应促进包容发展，加强人工智能教育及科普，提升弱势群体适应性，努力消除数字鸿沟；应促进共享发展，避免数据与平台垄断，鼓励开放有序竞争。

  四、尊重隐私。人工智能发展应尊重和保护个人隐私，充分保障个人的知情权和选择权。在个人信息的收集、存储、处理、使用等各环节应设置边界，建立规范。完善个人数据授权撤销机制，反对任何窃取、篡改、泄露和其他非法收集利用个人信息的行为。

  五、安全可控。人工智能系统应不断提升透明性、可解释性、可靠性、可控性，逐步实现可审核、可监督、可追溯、可信赖。高度关注人工智能系统的安全，提高人工智能鲁棒性及抗干扰性，形成人工智能安全评估和管控能力。

  六、共担责任。人工智能研发者、使用者及其他相关方应具有高度的社会责任感和自律意识，严格遵守法律法规、伦理道德和标准规范。建立人工智能问责机制，明确研发者、使用者和受用者等的责任。人工智能应用过程中应确保人类知情权，告知可能产生的风险和影响。防范利用人工智能进行非法活动。

  七、开放协作。鼓励跨学科、跨领域、跨地区、跨国界的交流合作，推动国际组织、政府部门、科研机构、教育机构、企业、社会组织、公众在人工智能发展与治理中的协调互动。开展国际对话与合作，在充分尊重各国人工智能治理原则和实践的前提下，推动形成具有广泛共识的国际人工智能治理框架和标准规范。

  八、敏捷治理。尊重人工智能发展规律，在推动人工智能创新发展、有序发展的同时，及时发现和解决可能引发的风险。不断提升智能化技术手段，优化管理机制，完善治理体系，推动治理原则贯穿人工智能产品和服务的全生命周期。对未来更高级人工智能的潜在风险持续开展研究和预判，确保人工智能始终朝着有利于人类的方向发展。

  国家新一代人工智能治理专业委员会

  2019年6月17日