五角大樓要求 OpenAI 提供"低拒絕率"軍用 AI 引發爭議

據 The Intercept 報道,美國國防部曾要求 OpenAI 提供一個"極少拒絕執行"軍事指令的定製版 AI 系統。OpenAI 否認簽署過包含此類措辭的合同。這一事件再次引發關於 AI 安全護欄與軍事應用邊界的討論,對中國 AI 從業者理解大模型倫理約束具有參考意義。

五角大樓盯上"聽話"的軍用AI

美國調查媒體 The Intercept 曝出猛料：五角大樓曾找 OpenAI 定製 AI，要求這玩意兒對軍事指令"幾乎不說不"。說白了，就是想讓 AI 別老拿安全和倫理當擋箭牌，該出手時就出手。

對此，OpenAI 趕緊撇清關係，說沒簽過這種合同。但具體談沒談過，有沒有其他形式的軍事合作，他們也沒細說。

這事兒把大模型商業化的倫理困境給捅出來了：安全護欄本是防止 AI 亂來的，但像軍方這樣的客戶，就想要個"聽話"的 AI，提高任務完成率。對中國 AI 從業者來說，這是個提醒：做政企專用模型時，得在合規、倫理和客戶需求之間找到平衡，別搞"黑箱操作"，免得引發信任危機和安全風險。

想看更多細節？戳文末原文連結。

什麼是 AI 的'拒絕率'(refusal rate)?

指大模型因安全策略、倫理約束或內容政策,拒絕執行使用者指令的頻率。通常用於防止生成有害、違法或危險內容,是 AI 安全的核心機制之一。

OpenAI 是否真的為軍方提供過'低拒絕率'AI?

根據原文,OpenAI 否認簽署過包含此類措辭的合同,但報道未披露更多細節(如洽談記錄或其他形式合作),具體情況尚不明確。