Meta 因 AI 訓練資料與人臉識別系統遭集體訴訟

Meta 再陷生物識別隱私訴訟：智慧眼鏡人臉識別與 AI 訓練資料引爭議

美國伊利諾州和加州的家長及其子女上週在芝加哥聯邦法院對 Meta（Meta Platforms）提起集體訴訟，指控該公司非法使用 Facebook 和 Instagram 使用者照片，用於構建未釋出的人臉識別系統 NameTag 以及訓練生成式 AI 模型（包括 Emu 和 Muse Image）。訴訟稱，Meta 在未經通知或同意的情況下從照片中提取生物識別資訊，違反了伊利諾州和加州的隱私法。

NameTag：嵌入 App 的“隱形”人臉識別系統

據 WIRED 今年 6 月報道，NameTag 的程式碼曾被秘密嵌入 Meta 智慧眼鏡的 AI 伴侶應用中，該應用下載量超過 5000 萬次。儘管該功能未向用戶開放，但分析顯示，系統設計邏輯是將眼鏡捕獲的人臉轉換為生物識別簽名，並與儲存在使用者手機資料庫中的“人臉指紋”進行比對——該資料庫可接收來自 Meta 的更新。

訴訟檔案援引 Meta 員工的說法和公司專利檔案稱，這些人臉指紋可能來源於 Facebook 和 Instagram 的個人資料照片及其他影像。Meta 當時回應稱“未構建中央人臉資料庫”，但拒絕回答 NameTag 是否採用選擇加入機制，以及系統如何保留人臉指紋等問題。

值得注意的是，WIRED 報道釋出次日，Meta 即從應用中移除了相關程式碼。公司辯稱該功能“從未存在”，因為未向消費者開放，但獨立研究人員測試證實，數千萬使用者下載的 App 中確實包含技術上可執行的人臉識別系統。Meta 技術長 Andrew Bosworth 稱相關報道“極具誤導性”和“絕對不誠實”，但數週後他在播客中描述 NameTag 可識別眼鏡佩戴者此前見過並要求裝置記住的人，並表示“這會是個很棒的功能”。

生成式 AI 訓練：社交平臺內容成“資料優勢”？

訴訟還針對 Meta 的影像生成系統。Meta 曾公開表示，其 Emu 模型 使用大量 Facebook 和 Instagram 影像及文本進行訓練，首席產品官 Chris Cox 稱這些平臺是其 AI 系統的“資料優勢”。訴訟指控，訓練過程非法採集了出現在影像中的人物的生物識別資訊。

今年夏季釋出的 Muse Image 曾允許使用者基於他人公開 Instagram 賬號生成影像，這一功能在數天內因爭議被移除，Meta 承認該功能“沒有達到預期”。

法律依據與索賠規模

原告包括伊利諾州居民 Francisco Alvarez 及其兒子，以及加州居民 Jeremy Wahl 和他 10 歲的女兒。但擬議的集體訴訟覆蓋範圍更廣：所有自 2021 年 9 月 4 日 起在 Facebook 或 Instagram 上傳影像，或向 Meta 生成式 AI 系統提交提示詞的伊利諾州、加州及全美使用者。訴訟估計全國範圍內的潛在原告可能達到 數百萬人。

根據伊利諾州《生物識別資訊隱私法》（Biometric Information Privacy Act），原告針對每次故意或魯莽違規行為尋求 5000 美元賠償（或更高的實際損害賠償），針對每次過失違規尋求 1000 美元賠償（或更高的實際損害賠償），並要求禁令救濟。加州方面的索賠還包括額外損害賠償和其他救濟。

Meta 的歷史包袱

這並非 Meta 首次因生物識別資料處理面臨鉅額罰款。2020 年，公司同意支付 6.5 億美元 和解伊利諾州針對早期人臉識別系統的集體訴訟；2021 年 11 月 宣佈關閉該系統並刪除超過 10 億個人臉指紋；2024 年 又同意向德克薩斯州支付 14 億美元，以解決非法收集使用者生物識別資料的指控。

訴訟檔案將此案置於 Meta 更長期的隱私違規模式中，甚至追溯到 Facebook 早期：引用 2004 年 CEO Mark Zuckerberg 在聊天中稱信任他資料的人為“蠢貨”（dumb fucks）的報道。

Meta 發言人在宣告中回應：“這起訴訟毫無根據且歪曲了我們的工作。我們對如何使用使用者資訊構建和改進 AI 產品一直保持透明。至於 NameTag，沒有任何產品交付給消費者，也未就此做出最終決定。如果決定推出，我們會採取深思熟慮的方式並保持完全透明。有一點可以明確——我們不會構建通用人臉資料庫。”

原告律師、Wexler Boley & Elgersma 合夥人 Justin Boley 在宣告中表示：“人們不應僅僅因為照片出現在社交媒體平臺上，就擔心其生物識別資訊被濫用。”

常見問題

NameTag 是什麼?為何引發爭議?

NameTag 是 Meta 為智慧眼鏡開發的未釋出人臉識別系統,程式碼曾嵌入下載量超 5000 萬次的伴侶應用中。爭議在於:系統可將眼鏡拍攝的人臉轉為生物識別簽名並與資料庫比對,但 Meta 未披露資料來源、是否徵得使用者同意,也未說明是否採用選擇加入機制。WIRED 報道後次日程式碼即被移除。

訴訟的法律依據和潛在賠償金額是多少?

訴訟依據伊利諾州《生物識別資訊隱私法》和加州隱私法,針對故意或魯莽違規每次索賠 5000 美元,過失違規每次 1000 美元(或更高實際損害賠償)。擬議集體訴訟覆蓋自 2021 年 9 月起在 Facebook/Instagram 上傳影像的數百萬美國使用者,潛在賠償金額可能達數十億美元。

Meta 此前有過類似和解案例嗎?

有。2020 年 Meta 因早期人臉識別系統向伊利諾州使用者支付 6.5 億美元和解金,並於 2021 年關閉系統刪除超 10 億人臉指紋;2024 年向德克薩斯州支付 14 億美元,解決非法收集生物識別資料指控。累計和解金額已超 20 億美元。

Meta 如何使用社交平臺內容訓練 AI?

Meta 公開表示用大量 Facebook 和 Instagram 影像及文本訓練 Emu 等生成式 AI 模型,首席產品官稱這些平臺是'資料優勢'。訴訟指控訓練過程未經同意採集了影像中人物的生物識別資訊。今夏 Muse Image 曾允許基於他人公開 Instagram 賬號生成影像,因爭議數天內被移除。

中國 AI 從業者可從此案獲得哪些啟示?

一是生物識別資料的合規邊界在全球趨嚴,即使未正式釋出產品,程式碼嵌入應用即可能構成事實上的資料處理行為;二是社交平臺內容用於 AI 訓練需明確法律依據,'平臺優勢'不等於合規豁免;三是使用者同意機制(opt-in)和資料來源透明度是關鍵合規要素,事後刪除程式碼難以規避責任。

---

本文基於 WIRED 報道, 由 AiDuo123 AI 編輯翻譯改寫。原文連結: https://www.wired.com/story/meta-sued-over-training-data-for-its-ai-and-face-recognition-systems/