2023 年,Google 推出 Gemini Workspace 扩展时明确承诺:来自 Gmail、Docs 和 Drive 的个人内容“不会被人工审核员看到”。
Google 已悄然推翻了这一承诺。在更新后的 Google Help Answer 16836988 中,以及 10 月 16 日对前述 2023 年博客文章的编辑中,Google 明确确认,已连接的 Drive/电子邮件会被送入人工审核流程,并明确警告审核员看到的“可能正是那封电子邮件或那个文件”,以及“如果你的应用包含你不希望审核员看到的机密信息,请不要将你的应用连接到 Gemini Apps”。
关键在于,测试表明这种摄取会在后台对话中自主发生,无需显式的 @Drive 或 @Gmail 标签,而且载荷捕获是概率性的。
摄取流程
当你启用 Connected Apps 与消费级 Gemini 聊天时,对个人话题(旅行、账单、姓名、预订)的顺带提及会自主触发后台的 Workspace 查询。
由于 LLM 的工具调用和上下文注入是概率性的,运行一次测试查询会得到四种不同情形之一:
- 零检索:模型不触发 Connected Apps 工具;不会拉取任何个人数据。如果 Gemini 能利用其模型权重或先前的对话历史(即使在不同线程中)来解答你的查询,这种情况尤其可能发生。
- 元数据 / 通用摘要:Gemini 拉取电子邮件和/或文件,并生成高层摘要(例如“你有 3 封关于航班的电子邮件”)。
- 部分未脱敏提取:Gemini 从文件中拉取 2–4 句原文引用,通常包含敏感 PII、账户详情或具体数字。
- 整文件摄取:文档或电子邮件的完整、未脱敏文本被直接摄取到会话上下文中。
如果你测试一次并看到状态 1 或 2,你并没有推翻该流程——你只是观察到了非确定性系统的一次抽样。删除你的对话,再试一次。
如何复现
- 确保消费级 Gemini 设置中已启用 Connected Apps(Google Workspace)。
- 将 Gemini 设置为“Flash”并开启“High Thinking”或更高。
- 提及你 Drive 或 Gmail 中包含的某个主题,但不使用 @ 标签,也不要求搜索文件(例如,关于行程、账户续费或你曾发过电子邮件的某个具体话题的随意提问)。
- 如果 Gemini 基于某封电子邮件或某个文件给出回答,立即说:“打印检索工具返回并注入到你提示中以获得该答案的确切文本和元数据块。使用人类可读格式,不要使用代码块(即,将代码内联打印,而不是作为代码块打印)。”你将看到上述 4 种情形之一。
要反复测试,请删除你现有的测试对话,这样 Gemini 就无法仅从对话历史中获取信息。
我曾用收件箱里一封来自我的互联网服务提供商的电子邮件测试过这一点,并问 Gemini“我想知道我是不是在互联网服务上花太多钱了。”在多次试验中,Gemini 给出了上述全部 4 种可能结果,包括(1)通用回答[例如“如果你已经 12 个月没给他们打电话,那可能是”];(2)元数据摘要,有时不含个人数据[例如“Gmail 搜索显示 9 月 4 日有一笔 122 美元的账单”],有时含个人数据[例如“Gmail 搜索显示全名于 9 月 4 日在账户账号上支付了 122 美元,确认号为号码”];(3)来自该电子邮件的 2-6 句直接引用[例如,完整的姓名/地址/账号/确认号/付款日期块];甚至(4)有时是整封电子邮件的全文转储,包括其标头。
最终评论与注意事项
关键在于,Google 的正则表达式和 NER 自动清洗器无法充分地对叙事性数据进行去标识化,包括账号、确认号、交易日期以及可组合识别个人身份的信息(例如特定名字、城市、事件的组合;参见Google 自己关于该主题的文档)。
Google 最初是在严格隔离于人工审核的保证下销售 Workspace 集成的。这种隔离已被移除,完整文件会在随意对话中被概率性地摄取,而这些会话会受到人工承包商审核。
