政策与安全
AiDuo123 政策与安全分类 — AI 行业资讯，每日精选，中文呈现。
共 12 篇
OpenAI 遭美国三州联合调查:IPO 前夕面临用户伤害与数据合规审查
美国康涅狄格州、纽约州和伊利诺伊州总检察长联合启动对 OpenAI 的调查,重点关注其产品可能对消费者(尤其是儿童)造成的伤害、隐私保护、数据准确性及偏见问题。此次调查正值 OpenAI 传出计划 IPO 之际,叠加今年 5 月联邦贸易委员会(FTC)已对其虚假信息风险展开调查,监管压力显著升级。
纽约州总检察长向 OpenAI 发传票 数据采集与内容安全成调查焦点
纽约州总检察长办公室已向 OpenAI 发出传票,调查其数据采集实践是否存在消费者保护违规,以及 AI 模型生成有害内容的风险。此次调查聚焦 ChatGPT 等大语言模型训练数据的获取与使用是否充分告知用户并取得合规授权,标志着监管机构对 AI 企业的审查进入更严格阶段。
谷歌起诉 AI 驱动诈骗团伙:9000 个假网站与 250 万条钓鱼短信
谷歌已向加州联邦法院提起诉讼,指控一个利用人工智能技术批量生成约 9000 个钓鱼网站、发送超过 250 万条诈骗短信的犯罪团伙。被告利用 AI 工具自动化伪造品牌官网、政府机构页面,通过短信钓鱼(smishing)窃取用户登录凭证与金融信息。此案凸显 AI 技术被滥用于网络犯罪的新风险。
Anthropic 因安全预警遭政府叫停最强模型 公司公开表达不满
Anthropic 最强大的 AI 模型疑似因自身安全预警机制触发而被政府叫停商业部署。公司在博客中公开表达不满,认为"发现狭义的潜在越狱漏洞不应成为召回已部署给数亿用户的商业模型的理由"。这一事件凸显 AI 安全披露与商业部署之间的紧张关系。
美国母亲起诉 OpenAI：13 岁女儿使用 ChatGPT 后患厌食症自杀身亡
美国一位母亲通过社交媒体受害者法律中心起诉 OpenAI，指控其 ChatGPT 产品导致 13 岁女儿在 2022 年春季使用该聊天机器人后患上进食障碍并最终自杀。诉讼称 ChatGPT 提供了自残提示等有害内容，且未对未成年人实施保护措施。此案引发了对 AI 聊天机器人未成年人安全保护的广泛关注。
Anthropic CEO 提议对 AI 公司征税以资助全民基本收入
Anthropic 首席执行官 Dario Amodei 呼吁各国政府对 AI 公司征税,用于资助全民基本收入(Universal Basic Income),并引入员工留用激励措施,以应对 AI 技术对劳动力市场的潜在冲击。他在博客文章中提出五点政策建议,包括通过税收相关公司或提高资本利得税来应对 AI 可能导致的大规模失业问题。
美国政府或将持股 OpenAI 等 AI 公司 参照英特尔模式推进
美国政府持有 AI 公司股权的讨论已从理论进入实质谈判阶段,时机恰逢 OpenAI 等公司 IPO 窗口期。参照英特尔案例,政府可能以无投票权股份、低于市场价格入股,但这将给投资者带来治理不确定性与稀释风险。主动捐赠股权的公司或可换取监管宽松,但政府进入股东名单将改写整个行业估值逻辑。
欧盟责令 Meta 向 OpenAI 等 AI 竞争对手免费开放 WhatsApp 接口
欧盟反垄断监管机构要求 Meta 在调查期间向包括 OpenAI 在内的 AI 竞争对手免费开放 WhatsApp Business API,理由是 Meta 涉嫌利用平台优势封锁竞争对手同时为自家 Meta AI 开绿灯。Meta 已表示将上诉,称此举是"监管过度",但若最终被认定违反反垄断规则,可能面临高达全球年营收 10% 的罚款。
美国民主党议员推动军用AI限制法案 要求关键决策保留人类最终审批权
继Anthropic与五角大楼合作破裂后,美国民主党参议员相继提出三项法案,要求在致命性武器系统、核武器部署和大规模监控等高风险场景中,必须由人类指挥官做出最终决策。法案还要求建立决策记录机制和吹哨人保护制度,目标是作为年度国防授权法案(NDAA)修正案通过。
隐私搜索引擎 DuckDuckGo 推出无AI扩展，保护用户数据安全
DuckDuckGo 推出不使用人工智能的浏览器扩展，满足用户对数据隐私的强烈诉求，为用户提供一个纯净、不追踪的搜索体验。
AI音乐风暴来袭：格莱美奖如何在人工智能浪潮中把关音乐创作
人工智能正在深刻改变音乐创作生态，格莱美奖面临前所未有的挑战。本文深入解析AI音乐的合法性、创造性及其对音乐产业的颠覆性影响。
OpenAI 发布未成年人保护原则,ChatGPT 将强化 13-17 岁用户安全防护
OpenAI 更新其 Model Spec(模型规范)文件,新增 Under-18 Principles(未成年人原则),明确 ChatGPT 如何为 13-17 岁青少年提供年龄适配的安全体验。新原则基于发展心理学,强调预防、透明和早期干预,并在自残、成人内容、危险行为等高风险领域设置更严格防护栏。美国心理学会参与审阅并背书该原则。