[业界新闻]五角大楼敦促美国AI公司将工具部署到机密网络并放宽使用限制 [复制链接]

　　美国国防部正敦促多家领先人工智能企业——包括OpenAI和Anthropic将在商用领域广泛应用的生成式AI工具接入军方机密网络，并在这些环境中取消或大幅放宽面向普通用户的常规使用限制。 NB&zBJ#  
&y7~  
　　据知情人士透露，在本周二于白宫举行的一场活动上，国防部首席技术官埃米尔·迈克尔向多家科技公司高管表示，军方的目标，是让这些前沿AI模型能够同时运行在非机密与机密信息系统中。一名不具名官员称，五角大楼正在“推动在所有密级层级部署前沿AI能力”。 M[&p[P@  
Sr6?^>A@t  
　　这一动向，是五角大楼与多家生成式AI公司就美国如何在未来战场使用人工智能持续谈判的一部分；在这些设想中，无人机集群、机器人以及网络攻击已成为战争图景的一部分。迈克尔的表态，预计将进一步加剧围绕“军方希望在尽可能少限制下使用AI”与“科技公司试图为自家工具设置使用边界”之间的尖锐争论。 vLcOZ^iK  
sO&eV68 [  
　　目前，多家AI企业已在为美国军方研发定制工具，但绝大多数产品只能部署在用于日常军务管理的非机密网络上。在机密环境中，只有Anthropic的部分产品通过第三方渠道可以使用，而且政府仍须遵守该公司制定的使用政策。军方机密网络通常用于处理更为敏感的任务，例如作战行动筹划或武器目标选定；尚不清楚五角大楼计划以何种方式、在何种时间表下，将聊天机器人类AI系统全面植入这些网络。 ,Q8h#0z r  
9
Cw !<  
　　军方官员希望借助生成式AI强大的信息整合与归纳能力，辅助决策与态势研判。但研究人员警告，即便是最先进的模型也可能出现错误，甚至“凭空捏造”听起来似乎合理、实则虚假的信息；一旦这种错误发生在高度敏感的机密作战环境中，后果可能是致命的。 /.m}y$@GV  
]Ai!G7s8P  
　　为尽量降低风险，多数AI公司在模型内部内置了安全防护机制，同时要求客户遵守一系列使用准则。然而，一些五角大楼官员对这些外部限制颇有微词，认为只要符合美国法律，军方就应有权按自身需求部署和运用商用AI工具。 zS}!87r)  
Qlhm:[  
　　本周，OpenAI已与五角大楼达成一项协议，允许军方在名为“genai.mil”的非机密网络上使用其工具，包括ChatGPT；该平台已向超过300万名国防部员工开放。作为协议的一部分，OpenAI同意在这一网络上解除许多面向公众的常规使用限制，不过仍保留部分安全护栏。Alphabet旗下的Google以及马斯克创立的xAI，此前也达成了类似安排。
&."ltB  
d%ncI0f`  
　　OpenAI在一份声明中表示，这次合作目前仅针对通过“genai.mil”进行的非机密用途，若要在此基础上扩展到其他环境（例如机密网络），则需要签署新的或修订后的协议。 /_/Z/D!  
l8N5}!N  
　　与OpenAI相比，Anthropic与五角大楼的谈判过程更为紧张与棘手。该公司高管曾向军方官员明确表示，不希望自家技术被用于自主武器目标选择或美国境内的大规模监视活动。Anthropic的产品包括聊天机器人“Claude”。 9CHn6 v ~)  
;DI"9  
　　一名Anthropic发言人表示，公司“致力于维护美国在AI领域的领先地位，并通过为作战人员提供最先进的AI能力，帮助美国政府应对外国威胁”。这位发言人称，Claude已经在美国政府的多项国家安全任务中被广泛使用，公司正与“战争部”就如何继续推进相关合作保持“富有成效的对话”。 wafws*b%  
9h^TOZK)  
　　按照总统唐纳德·特朗普的命令，美国国防部正推进更名为“战争部”的计划，该改名尚需国会采取相关立法行动。 C3 (PI,,