科技动态 | 美国正考虑限制中国使用ChatGPT等应用程序的人工智能软件

2024年5月，有知情人士透露，拜登政府准备开辟新战线，以保护美国人工智能，使其免受中国和俄罗斯的影响，初步计划在最先进的人工智能模型ChatGPT等人工智能系统的核心软件上设置安全防护措施。

三位知情人士称，美国商务部正在考虑推动新的监管措施，以限制专有或闭源人工智能模型的出口，这些模型的软件和训练数据都是保密的。

过去两年，美方采取了一系列措施阻止复杂的人工智能芯片出口到中国，以减缓中国出于军事目的开发尖端技术的步伐。即便如此，监管机构也很难跟上行业快速发展的步伐。

对于评论请求，美国商务部表示拒绝，而俄罗斯驻华盛顿大使馆没有立即回应。中国大使馆称“这是典型的经济胁迫和单边霸凌行为，中方坚决反对”，并表示将采取必要措施保护自身利益。

目前，微软、谷歌的母公司Alphabet、谷歌DeepMind和竞争对手Anthropic等美国人工智能巨头已经开发出一批最强大的闭源人工智能模型，在不受政府监督的情况下，可以向世界上几乎任何人出售这些模型。

政府和私营部门的研究人员担心，美国的对手可能会利用这些模型挖掘大量文本和图像，总结信息并生成内容，从而发动侵略性网络攻击，甚至制造出强大的生物武器。

有消息称，新的出口管制可能针对俄罗斯、中国、朝鲜和伊朗。微软在今年2月的报告中称，对隶属于中国和朝鲜政府、俄罗斯军事情报部门和伊朗革命卫队的黑客组织进行了跟踪，这些组织试图利用大型语言模型完善其黑客攻击活动。

计算能力

为了制定人工智能模型出口管制，美国可能会利用2023年10月发布的人工智能行政令中的阈值，该阈值基于训练一个模型所需的计算能力。当达到这一水平时，开发者必须向商务部报告其人工智能模型开发计划并提供测试结果。

据两位匿名美国官员和另一位知情人士透露，这一计算能力阈值可能决定哪些人工智能模型将受到出口限制。

据追踪人工智能趋势的研究机构EpochAI称，如果使用该规则，很可能只会限制尚未发布的模型的出口，因为目前还没有任何模型达到了这一阈值，不过普遍认为谷歌Gemini Ultra已经接近这一阈值。

消息人士强调，该机构还远未敲定规则提案，但正在考虑采取这一举措。这表明，尽管对快速发展的技术实施严格监管制度面临严峻挑战，美国政府仍在努力，以限制中国政府发展人工智能。

前国家安全委员会官员彼得•哈雷尔（Peter Harrell）表示，“随着拜登政府日益关注中美竞争以及复杂人工智能的危险，人工智能模型显然成为其中一种工具，一个需要思考的潜在关键点。”他还补充道：“实际上，能否将其变成可控的出口关键点，还有待观察。”

生物武器和网络攻击？

美国情报界、智库和学术界愈发担忧国外反派获得先进的人工智能能力及其带来的风险。格里芬科学公司和兰德公司的研究人员指出，先进的人工智能模型可以提供有助于制造生物武器的信息。

美国国土安全部在2024年国土威胁评估报告中称，网络参与者很可能会利用人工智能开发新工具，以实现更大规模、更快速度、更高效率和更多规避性的网络攻击。

国家情报局局长办公室官员布莱恩•霍姆斯（Brian Holmes）在今年3月的出口管制会议上表示：“人工智能的使用和开发可能会激增，我们实际上很难跟上这种趋势。”

人工智能破解

为了解决这些问题，美国已采取措施阻止人工智能芯片和制造工具流向中国。

美国已经提出了一项规则，如果外国客户使用其服务，训练可能用于网络攻击的强大人工智能模型，美国云计算公司必须告知政府。

但到目前为止，美方已经宣布的相关限制还没有涉及人工智能模型本身。美国商务部监管美国出口政策负责人艾伦•埃斯特维兹（Alan Estevez）在去年12月表示，该机构正在研究监管开源大型语言模型出口的方案，然后再征求业界的反馈意见。

华盛顿智库新美国安全中心人工智能政策专家蒂姆•菲斯特（Tim Fist）表示，这个阈值是很好的临时措施，有助于我们开发出更好的方法来衡量新模型的能力和风险。

前白宫和司法部官员贾米尔•贾法尔（Jamil Jaffer）表示，拜登政府不应使用计算能力阈值，而应选择基于模型能力和预期用途的控制。关注国家安全风险而不是技术阈值，这样做更持久，也更利于预防威胁。

这一阈值并非一成不变。其中一位消息人士称，商务部最终可能会降低下限，再加上其他数据类型或人工智能模型的潜在用途等因素，如设计可用于制造生物武器的蛋白质的能力。

无论阈值如何，人工智能模型的出口都将难以控制。许多模型都是开放源代码的，这意味着这些模型仍在考虑中的出口管制范围之外。

蒂姆•菲斯特称，即使是管制更先进的专有模型也具有挑战性，因为监管机构很可能难以正确标准来确定哪些模型应受管制，中国在开发自己的人工智能软件方面很可能只比美国晚两年左右。

据悉，目前美国政府正在考虑的出口管制将影响到一些消费者应用（如ChatGPT）的后台软件的访问，但不会限制下游应用本身的访问。