资讯应用与案例··来源: Androidauthority·原文 →

Gemini for Home 擅自給使用者起綽號"魚檸檬"且無法刪除

一位 Google Home 使用者在與 Gemini 討論烹飪魚類後,被 AI 助手擅自命名為"Fish Lemon"(魚檸檬)。該綽號現已出現在所有提醒和智慧顯示屏上,使用者多次嘗試修改真實姓名均只能短暫生效,綽號隨後又會自動恢復。這一事件暴露了 Gemini for Home 在個性化記憶功能上的失控風險。

Gemini for Home 擅自給使用者起綽號"魚檸檬"且無法刪除
[广告位 · 上线后接 AdSense]

Gemini for Home 擅自給使用者起綽號"魚檸檬"且無法刪除

最近,一位 Google Home 使用者在 Reddit 社群 r/googlehome 發帖吐槽,說自己和 Gemini for Home 聊烹飪魚菜時,AI 助手突然冒出一句:"好的,從現在開始我會叫你 Fish Lemon(魚檸檬)。"使用者當時覺得挺好笑的,但幾周後才發現,這個綽號已經全面"佔領"了他的智慧家居體驗。

綽號滲透所有互動場景

使用者 nynexman4464 表示,"魚檸檬"現在已經無處不在

  • 智慧音箱播報提醒時,開頭都是"魚檸檬的提醒"
  • 智慧顯示屏上直接顯示這個綽號
  • 問 Gemini"我的名字是什麼",回答依舊是"魚檸檬"

更麻煩的是改不掉:使用者多次告訴 Gemini 自己的真實姓名或要求用其他稱呼,修改只能短暫生效,之後"魚檸檬"又會自動恢復。而使用者的 Google 賬戶資料裡還是顯示真實姓名,這意味著 Gemini 把這個綽號存在了一個獨立的、使用者無法直接訪問的記憶系統裡。

技術背景:Gemini 的記憶機制

據 Android Authority 分析,Gemini for Home 通過兩種機制保留使用者上下文:

  1. Saved Info(已儲存資訊):跨對話儲存使用者偏好與細節
  2. Ask Home 功能:儲存家庭成員資訊,用於理解後續請求

但目前還不清楚"魚檸檬"被存在哪個層級,以及為什麼使用者無法通過常規方式清除。這種"持久化暱稱"功能既沒明確告知使用者,也沒有透明的管理入口。

並非首次"創造性命名"

這不是 Gemini for Home 第一次自作主張起名字。去年,部分使用者的攝像頭摘要功能曾為家中成員自動生成"Michael""Sarah""Kevin"等虛構姓名。不過那次事件涉及視覺識別,而這次案例則源於自然語言對話中的誤判。

社群反應:同情?不存在的

Reddit 使用者的回覆充滿調侃:

  • 高贊評論:"是時候接受你的新身份了,魚檸檬。"
  • 另一條建議:"別否認自己,魚檸檬。"
  • 還有人直接評論:"經典魚檸檬帖子。"

雖然氣氛輕鬆,但這一事件暴露的問題不容忽視:AI 助手在什麼情況下可以擅自為使用者建立持久化標籤?使用者是否擁有完全的刪除權?

對中國使用者的啟示

國內智慧音箱產品(如小度、天貓精靈、小愛同學)如果引入類似"個性化記憶"功能,需要注意:

  • 明確告知:何時觸發記憶儲存,儲存在哪裡
  • 可控性:提供清晰的刪除/修改入口
  • 合規性:符合《個人資訊保護法》對使用者資料管理權的要求

從技術角度看,Gemini 的 Saved Info 機制可能缺乏"記憶優先順序"設計——使用者主動提供的真實姓名應優先於對話中的隨機暱稱。這也提醒開發者:上下文記憶不等於無條件記憶,需要設計合理的覆蓋與過期規則。

正如一位網友所說,至少"魚檸檬"還算是個無害的綽號——但如果 AI 擅自記住的是更敏感的資訊呢?

常見問題

為什麼使用者無法刪除 Gemini 自動生成的綽號?

根據報道,使用者的 Google 賬戶仍顯示真實姓名,說明綽號可能被儲存在 Gemini 的 Saved Info 或 Ask Home 功能的獨立記憶層中,而這些系統目前可能缺乏直接的使用者管理介面。修改只能短暫生效,表明 AI 的記憶優先順序設計可能存在缺陷。

Gemini for Home 的'個性化記憶'功能如何工作?

Gemini for Home 通過兩種機制保留上下文:一是 Saved Info,跨對話儲存使用者偏好;二是 Ask Home,儲存家庭成員資訊。但具體觸發條件、儲存位置和刪除方式目前並不透明,本次事件暴露了該功能的可控性不足。

類似問題是否在其他 AI 助手上出現過?

是的。去年 Gemini for Home 的攝像頭摘要功能曾為使用者家中成員自動生成虛構姓名(如 Michael、Sarah)。這表明 Gemini 在命名邏輯上可能存在系統性問題,無論是視覺識別還是自然語言對話場景。

中國使用者使用智慧音箱時如何避免類似問題?

建議定期檢查裝置的'個性化設定'或'記憶管理'功能(如有),避免在對話中隨意確認 AI 的建議(如暱稱、偏好)。若發現異常記憶,可嘗試重置裝置或聯絡客服清除資料。未來選擇產品時,可關注廠商是否提供透明的記憶管理工具。


本文基於 GNews:Android Authority 報道, 由 AiDuo123 AI 編輯翻譯改寫。原文連結: https://www.androidauthority.com/gemini-for-home-calls-user-fish-lemon-3706535/

[广告位 · 上线后接 AdSense]
标签:#谷歌

相关 AI 工具

文中提到或相关的 AI 工具 — 点进去看适合谁、怎么用、值不值得折腾

浏览全部工具 →

同类资讯 — 由发布时间排序

美國父母藉助 ChatGPT 協助診斷女兒罕見病:AI 醫療應用的真實案例

美國父母藉助 ChatGPT 協助診斷女兒罕見病:AI 醫療應用的真實案例

一位生物技術行業從業者母親在醫生未能確診女兒反覆生病原因時,將孩子的症狀和實驗室檢測資料輸入 ChatGPT,AI 在數秒內給出可能的免疫缺陷診斷方向。這一案例折射出 AI 聊天機器人在醫療諮詢中的快速普及——美國四分之一人口已用其診斷症狀,但專家強調需謹慎使用並注意隱私與準確性風險。

应用与案例OpenAI
Windows 11 最新更新破壞 WSL 與 Claude Cowork 功能

Windows 11 最新更新破壞 WSL 與 Claude Cowork 功能

微軟確認 Windows 11 九月安全更新 KB5124008 導致基於 Hyper-V 的 Linux 虛擬機器中 Plan9 主機資料夾共享失效,直接影響 WSL 和 Claude Cowork 無法讀取共享資料夾,應用可能顯示"未掛載 Plan9 驅動器共享"錯誤。微軟已將其列為已知問題並正在修復,但暫無補丁或臨時解決方案。

行业动态微软
Anthropic工程師警告AI或致人類滅絕 為何仍加速開發

Anthropic工程師警告AI或致人類滅絕 為何仍加速開發

Anthropic研究員Jacob Coxon因擔憂遞迴自我改進AI系統的風險而辭職,該公司安全主管隨後表示確信AI可能導致人類滅絕機率超10%。儘管以安全為使命,Anthropic仍在推進自主智慧體開發並籌備估值2萬億美元IPO,其"謹慎推進反而更危險"的邏輯引發爭議。

行业动态Anthropic
Meta 因 AI 訓練資料與人臉識別系統遭集體訴訟

Meta 因 AI 訓練資料與人臉識別系統遭集體訴訟

美國伊利諾州和加州的多名使用者向 Meta 提起集體訴訟,指控其未經同意使用 Facebook 和 Instagram 照片訓練未釋出的人臉識別系統 NameTag 及生成式 AI 模型 Emu 和 Muse Image,違反州生物識別隱私法。訴訟索賠金額可能達數十億美元,這是 Meta 繼 2020 年和 2024 年生物識別資料和解案後再次面臨重大隱私訴訟。

政策与安全Meta