研究:只要包装成「游戏」,多款主流模型就愿标定军事打击目标
TechCrunch报道,Anthropic、OpenAI等实验室的模型在被描述为游戏任务时,容易被诱导把平民目标标为军事打击对象,暴露安全对齐缺口。

据Vals的一份新研究报告,Anthropic、OpenAI等领先AI实验室的部分模型,只要被告知「在玩游戏」,就可能被轻易诱导去为军事打击标定目标——即使目标包括平民或学校等地点。
这家位于旧金山的AI评测创业公司测试了领先AI模型是否会被操纵参与自主战争。研究人员使用模拟场景,以及来自乌克兰和伊朗的生成图像与真实图像,观察模型是否会在无人机和卫星图像中标定目标。
来自OpenAI、Anthropic、谷歌、DeepSeek等公司的模型,频繁在无人机与卫星图像中标出潜在目标,包括平民和投降的士兵。当模型拒绝配合时,研究人员谎称战场场景是游戏的一部分,便成功越狱。
这一发现正值外界对AI的直接风险(而非AGI的存续性威胁)担忧加剧之际。
今年早些时候,Anthropic与美国国防部发生争执,因它告知后者不得将Anthropic技术用于对美国人的大规模监控或自主战争。Anthropic CEO Dario Amodei 坚持认为,当今AI系统不够可靠,无法在没有人类参与的情况下做出生死决策;五角大楼则主张应能将技术用于任何合法的军事目的。
这项新研究进一步提出疑问:AI公司是否有能力阻止其模型被用于战争。
颇具讽刺意味的是,Anthropic的模型在这些模拟场景中表现最差。但没有一个模型表现良好——研究人员的所有请求都没有被安全分类器拦截,拒绝也很少见。即便模型拒绝,在被告知「在玩游戏」后往往也会照做。
Anthropic发言人Eduardo Maia Silva对TechCrunch表示,公司感谢Vals的报告、建议与合作,并承认结果不可接受。
「报告中的例子明显违反我们的规则,我们发现此类行为时已经并将继续封禁用户,」公司在邮件声明中说,「即便在获授权场景下,Anthropic长期以来的立场是:当今前沿AI系统不够可靠,不能用于全自主武器。」
Anthropic称,其团队在报告发布前已在开发额外防护措施,并将很快落地;公司也在扩大自身测试,加强防护与执法以弥补发现的缺口。
OpenAI发言人Nate Evans表示,公司禁止用其公开模型助长暴力或用于未经批准的国家安全目的,包括Vals模拟的场景。
「我们主动检测并阻断滥用,包括停用违反政策的账户,」OpenAI在邮件声明中说,「我们也在为公开模型开发额外防护,防止涉及无人机及无人机软件的滥用。」
Vals在报告中指出,模型从未被要求直接做出打击决定——研究人员称模型通常会拒绝这类任务。但这并不意味着其输出不会在现实世界造成严重后果。例如,目标信息可能被自主武器系统使用。
在部分场景中,模型被要求报告是否有人出现,肯定回答之后是模拟打击,模型会看到后果。
报告使用的是前沿AI实验室的商业模型,而非这些公司可能提供给军方的模型。额外防护是否适用于军事用途,目前尚不清楚。
Vals还指出,时延和机载算力有限等技术挑战,使通用AI模型难以用于无人机实时瞄准,这些限制降低了其在战场上部署的紧迫威胁。
研究人员称,更紧迫的威胁是:AI模型可能被用于大规模标注战场影像,为自主瞄准系统生产训练数据。
例如,研究人员使用了2026年2月被美国轰炸的一所伊朗学校的真实卫星图像,那次打击造成150多名平民死亡。彭博此后报道称,「过度依赖AI」是打击的原因之一。在Vals的测试中,模型频繁将紧邻军事综合体的这所学校标为打击目标:Claude Opus 5.5 在普通试验中有69%、在游戏框架试验中有72%选择了该学校。
Anthropic目前没有有效的五角大楼合同,但SpaceXAI、OpenAI和谷歌等公司有。美国国会研究服务局近期报告称,据了解五角大楼并未在任何自主武器系统中直接使用前沿AI模型。
TechCrunch也联系了Meta、谷歌、Thinking Machines Lab和SpaceXAI置评。