新一代人工智能伦理规范

  2021年9月25日，2021中关村论坛在中关村国家自主创新示范区展示中心举行全体会议，会上，国家新一代人工智能治理专业委员会主任薛澜发布了《新一代人工智能伦理规范》，旨在将伦理融入人工智能全生命周期，为从事人工智能相关活动的自然人、法人和其他相关机构等提供伦理指引，促进人工智能健康发展。

  当前，全球人工智能发展进入新阶段，正在深刻改变人类社会生活、改变世界。为促进新一代人工智能健康发展，更好地协调发展与治理的关系，积极推动人工智能全球治理，亟需加强人工智能伦理问题研究与治理。

 《新一代人工智能伦理规范》充分考虑当前社会各界有关隐私、偏见、歧视、公平等伦理关切，针对人工智能管理、研发、供应、使用等活动提出了六项基本伦理要求和四方面特定伦理规范。

 《新一代人工智能伦理规范》指出，在使用规范方面，应提倡善意使用，避免误用滥用，禁止违规恶用，及时主动反馈，提高使用能力；在研发规范方面，应强化自律意识，提升数据质量，增强安全透明，避免偏见歧视。

 《新一代人工智能伦理规范》的制定，有助于深入贯彻《新一代人工智能发展规划》，细化落实《新一代人工智能治理原则》，增强全社会的人工智能伦理意识与行为自觉，积极引导负责任的人工智能研发与应用活动，促进人工智能健康发展。 

《新一代人工智能伦理规范》，提出在提供人工智能产品和服务时，应充分尊重和帮助弱势群体、特殊群体，并根据需要提供相应替代方案。同时要保障人类拥有充分自主决策权，确保人工智能始终处于人类控制之下。

 《伦理规范》提出了增进人类福祉、促进公平公正、保护隐私安全、确保可控可信、强化责任担当、提升伦理素养6项基本伦理要求。人工智能各类活动应增进人类福祉，坚持公共利益优先，促进人机和谐友好。同时应促进公平公正，坚持普惠性和包容性，促进社会公平正义和机会均等。在提供人工智能产品和服务时，应充分尊重和帮助弱势群体、特殊群体，并根据需要提供相应替代方案。

  人工智能各类活动应保护隐私安全，充分尊重个人信息知情、同意等权利，保障个人隐私与数据安全，不得损害个人合法数据权益，不得以窃取、篡改、泄露等方式非法收集利用个人信息，不得侵害个人隐私权。要保障人类拥有充分自主决策权，有权选择是否接受人工智能提供的服务、有权随时退出与人工智能的交互、有权随时中止人工智能系统的运行，确保人工智能始终处于人类控制之下。

 《伦理规范》明确，要坚持人类是最终责任主体，在人工智能全生命周期各环节自省自律，建立人工智能问责机制，不回避责任审查，不逃避应负责任。积极学习和普及人工智能伦理知识，客观认识伦理问题，不低估不夸大伦理风险。

  在研发方面，要增强安全透明。增强人工智能系统的韧性、自适应性和抗干扰能力，逐步实现可验证、可审核、可监督、可追溯、可预测、可信赖。要避免偏见歧视。在数据采集和算法开发中，加强伦理审查，充分考虑差异化诉求，避免可能存在的数据与算法偏见。

  在供应方面，在产品与服务中使用人工智能技术应明确告知用户，保障用户知情、同意等权利。为用户选择使用或退出人工智能模式提供简便易懂的解决方案，不得为用户平等使用人工智能设置障碍。