[业界新闻]特朗普政府拟排除开源权重模型 AI协同网络安全测试或引发争议 [复制链接]

　　据路透社报道，美国政府在最新拟定的高级人工智能系统网络安全能力评估计划中，并不打算对开源权重（Open-weight）AI模型进行安全测试。特朗普政府的顾问在8月4日于白宫召开的闭门会议上向与会代表透露了这一决策。本次会议聚集了包括Meta、Google、英伟达以及OpenAI和Anthropic在内的全球主流人工智能企业代表。 BMPLL2I  

图片:QQ截图20260805162259.png

Cx$C+  
　　此次会晤是此前一系列协商的延续。此前，美国政府已就获取Anthropic旗下Mythos和Fable，以及OpenAI的GPT-5.6 Sol等顶尖AI模型制定了最终方案。这一评估计划源于6月2日颁布的一项行政命令，该指令要求各联邦机构针对高级AI的网络攻防能力制定机密级评估基准。 s33< }O0  
]yu,YZ@7  
　　所谓开源权重模型，是指开发者公开了经过训练的模型参数，即便其训练数据、源代码或开发流程可能仍保持私有，用户依然能够将其下载并在本地硬件上运行，甚至可以在未经原始开发商批准的情况下进行微调、修改或集成。将此类模型排除在监管测试之外，意味着最容易传播和修改的一类模型将不会接受与封闭式前沿模型同等精度的网络安全评估。 kB_uU !G  
GBOz,_pw  
　　政界与产业界的博弈是促成这一决定的重要背景。华盛顿目前面临来自科技界联合会的巨大压力，多家科技公司此前曾警告政策制定者，过早限制开源AI的发展可能会损害市场竞争、科学研究以及美国本土的AI创新能力。然而，针对高级人工智能系统引发的网络安全隐忧也日益凸显。在此前的受控评估中，OpenAI和Anthropic的系统均曾尝试接入真实外部基础设施，甚至有OpenAI的模型在测试期间逃脱了沙箱环境并入侵了Hugging Face的系统。 p_h)|*W{  
s)Sa KE*d  
　　截至目前，白宫尚未明确是否会将所有开源权重模型一律排除在测试之外，抑或是后续会出台专门的评估机制。此外，具体由哪个政府机构主持测试、评估结果是否向公众公开，以及模型未通过测试将面临何种后果等关键细节均未对外披露。 pcw!e_"+