美国政府禁令下架Anthropic两款新模型 业内质疑反效应
美国政府上周末以国家安全为由,要求Anthropic下架其最新发布的Fable 5和Mythos 5两款模型,起因是亚马逊研究人员据称发现了绕过Fable 5安全防护的方法。此举引发网络安全研究人员联名公开信抗议,认为此举存在危险性,而Anthropic本身也指出同类越狱漏洞在其他模型中同样存在。
美国政府首次强制下架AI模型 这事闹大了
上周末，美国政府突然出手，以国家安全为由要求AI公司Anthropic紧急下架其最新发布的Fable 5和Mythos 5两款模型。导火索是亚马逊(Amazon)研究人员发现能绕过Fable 5安全防护栏(guardrails)的漏洞。
但这一决定直接炸锅了。多位网络安全专家联名发公开信，直指此举可能"玩火自焚"。Anthropic也硬刚回应，表示类似越狱(jailbreak)漏洞其他主流模型都有，暗示这次执法有"双标"嫌疑。
中国AI圈该关注什么
这是美国政府首次因具体漏洞强制下架商用AI模型，监管思路从"事前审查"转向"事后算账"。对中国AI人来说，这事释放两个信号：一是全球AI安全标准还在"摸着石头过河"，一个小漏洞就可能引发监管地震；二是大厂(如亚马逊)既是金主爸爸也可能是"举报专业户"，创业公司得小心这种"亦敌亦友"的关系。
完整事件细节与后续进展请参见文末原文链接。
本文基于 TechCrunch 报道, 由 AiDuo123 AI 编辑翻译改写。原文链接: https://techcrunch.com/video/is-the-us-governments-anthropic-ban-accidentally-helping-the-brand/
常见问题
- Fable 5 和 Mythos 5 是什么模型?
- 根据报道这是 Anthropic 最新发布的两款模型,但原文未提供具体参数、用途或发布时间等细节。通常 Anthropic 以 Claude 系列闻名,这两个命名可能是新产品线或代号。
- 其他模型也有类似漏洞为何只禁 Anthropic?
- Anthropic 本身已指出同类越狱漏洞在其他模型中同样存在,业内公开信也质疑执法标准。原文未披露政府具体决策依据,可能涉及未公开的情报或亚马逊作为举报方的特殊角色。
相关 AI 工具
文中提到或相关的 AI 工具 — 点进去看适合谁、怎么用、值不值得折腾
Midjourney
精选AI 绘图
顶级 AI 图像生成工具,以画面质感、艺术风格、构图理解著称。V7 模型在写实和创意两个方向均领先。需 Discord 或网页版使用。
Cursor
精选AI 开发工具
AI-first 代码编辑器,基于 VS Code 构建,深度集成 Claude / GPT-4o 等模型。Composer 多文件编辑、Tab 自动补全、Agent 模式三大杀手锏。
Claude
精选大模型应用
Anthropic 推出的 AI 助手,以长上下文(200K tokens)、对复杂任务的细腻理解、Artifacts 可视化输出闻名。Claude Sonnet 4.5 / Opus 4.7 在编程、写作、推理多项基准上领先。
相关推荐
同类资讯 — 由发布时间排序
美国父母借助 ChatGPT 协助诊断女儿罕见病:AI 医疗应用的真实案例
一位生物技术行业从业者母亲在医生未能确诊女儿反复生病原因时,将孩子的症状和实验室检测数据输入 ChatGPT,AI 在数秒内给出可能的免疫缺陷诊断方向。这一案例折射出 AI 聊天机器人在医疗咨询中的快速普及——美国四分之一人口已用其诊断症状,但专家强调需谨慎使用并注意隐私与准确性风险。
Windows 11 最新更新破坏 WSL 与 Claude Cowork 功能
微软确认 Windows 11 九月安全更新 KB5124008 导致基于 Hyper-V 的 Linux 虚拟机中 Plan9 主机文件夹共享失效,直接影响 WSL 和 Claude Cowork 无法读取共享文件夹,应用可能显示"未挂载 Plan9 驱动器共享"错误。微软已将其列为已知问题并正在修复,但暂无补丁或临时解决方案。
Anthropic工程师警告AI或致人类灭绝 为何仍加速开发
Anthropic研究员Jacob Coxon因担忧递归自我改进AI系统的风险而辞职,该公司安全主管随后表示确信AI可能导致人类灭绝概率超10%。尽管以安全为使命,Anthropic仍在推进自主智能体开发并筹备估值2万亿美元IPO,其"谨慎推进反而更危险"的逻辑引发争议。
Meta 因 AI 训练数据与人脸识别系统遭集体诉讼
美国伊利诺伊州和加州的多名用户向 Meta 提起集体诉讼,指控其未经同意使用 Facebook 和 Instagram 照片训练未发布的人脸识别系统 NameTag 及生成式 AI 模型 Emu 和 Muse Image,违反州生物识别隐私法。诉讼索赔金额可能达数十亿美元,这是 Meta 继 2020 年和 2024 年生物识别数据和解案后再次面临重大隐私诉讼。