五角大楼要求 OpenAI 提供"低拒绝率"军用 AI 引发争议

据 The Intercept 报道,美国国防部曾要求 OpenAI 提供一个"极少拒绝执行"军事指令的定制版 AI 系统。OpenAI 否认签署过包含此类措辞的合同。这一事件再次引发关于 AI 安全护栏与军事应用边界的讨论,对中国 AI 从业者理解大模型伦理约束具有参考意义。

五角大楼盯上"听话"的军用AI

美国调查媒体 The Intercept 曝出猛料：五角大楼曾找 OpenAI 定制 AI，要求这玩意儿对军事指令"几乎不说不"。说白了，就是想让 AI 别老拿安全和伦理当挡箭牌，该出手时就出手。

对此，OpenAI 赶紧撇清关系，说没签过这种合同。但具体谈没谈过，有没有其他形式的军事合作，他们也没细说。

这事儿把大模型商业化的伦理困境给捅出来了：安全护栏本是防止 AI 乱来的，但像军方这样的客户，就想要个"听话"的 AI，提高任务完成率。对中国 AI 从业者来说，这是个提醒：做政企专用模型时，得在合规、伦理和客户需求之间找到平衡，别搞"黑箱操作"，免得引发信任危机和安全风险。

想看更多细节？戳文末原文链接。

常见问题

什么是 AI 的'拒绝率'(refusal rate)?

指大模型因安全策略、伦理约束或内容政策,拒绝执行用户指令的频率。通常用于防止生成有害、违法或危险内容,是 AI 安全的核心机制之一。

OpenAI 是否真的为军方提供过'低拒绝率'AI?

根据原文,OpenAI 否认签署过包含此类措辞的合同,但报道未披露更多细节(如洽谈记录或其他形式合作),具体情况尚不明确。