科技动态 | 经合组织修订人工智能原则

2024年5月3日，经合组织部长理事会会议通过了对《经合组织人工智能原则》的修订文本。为应对人工智能技术的最新发展，尤其是通用人工智能和生成式人工智能的出现给社会带来的影响，修订后的原则更直接地解决了与人工智能相关的涉及隐私、知识产权、安全性和信息完整性的挑战。

《经合组织人工智能原则》（以下简称《原则》）目前有47个国家加入，可确保适用于世界各地的人工智能发展，为如何应对人工智能风险和制定人工智能政策提供参考。

经合组织人工智能政策观察站跟踪了自2019年首次通过《原则》以来的人工智能发展情况。结果显示，对生成式人工智能初创企业的风险投资增长了九倍；对人工智能技能的需求飙升130%；经合组织中使用人工智能的大型企业的平均份额几乎翻了一番，是小型企业的四倍多。

经合组织为确保《原则》继续具有相关性、稳健性和适用性，修订的主要内容包括以下几个方面：

• 解决安全问题，以便在人工智能系统有可能造成不应有的伤害或表现出不应有的行为时，有健全的机制和保障措施来推翻、修复或使其安全退出运行。

• 在生成式人工智能的背景下，反映处理错误和虚假信息以及保障信息完整性。

• 强调在整个人工智能系统生命周期内负责任的商业行为，包括与人工智能知识和人工智能资源供应商、人工智能系统用户和其他利益相关者合作。

• 明确构成透明度和负责任披露的人工智能系统信息。

• 明确提及环境可持续性，在过去五年中，环境可持续性的重要性日益凸显。

• 强调随着全球人工智能政策倡议数量的激增，各管辖区需要共同努力，促进人工智能的互操作性治理和政策环境。

经合组织秘书长马蒂亚斯•科尔曼（Mathias Cormann）指出：“几十年来，经合组织通过循证建议和广泛的多边及多利益相关方合作，帮助制定了数字政策议程。《经合组织人工智能原则》是人工智能政策制定的全球参考点，有利于全球政策的互操作性，促进以人为本的创新。修订后的《经合组织人工智能原则》将为全球人工智能政策的互操作性提供参考，并通过解决通用人工智能和生成式人工智能带来的问题和挑战，使政策制定者跟上技术发展的步伐。”