Google 悄悄改口了:你的 Drive 和邮件,Gemini 会递给人工审核
2023 年 Google 承诺 Workspace 内容“不会被人工审核员看到”,今年 10 月这句话被悄悄改了。一位开发者实测发现:只要开了 Connected Apps,聊起旅行、账单这些日常话题,Gemini 就会在后台翻你的 Gmail 和 Drive,而且结果是概率性的——测一次看不出来,不代表没发生。

这几天 Hacker News 首页出现了一个让人后背发凉的帖子:《Google Gemini routes personal Drive files and emails to human annotators》。发帖人 thisisme6598 在 GitHub 上放了一份复现文档,核心指控只有一句:2023 年 Google 推出 Gemini Workspace 扩展时白纸黑字承诺过,Gmail、Docs、Drive 里的个人内容"is not seen by human reviewers"——不会被人工审核员看到。但今年 10 月 16 日,那篇博客文章被悄悄编辑了,配合更新的帮助文档,Google 现在明确承认:接通了 Drive 和邮件的 Gemini 对话,会进入人工审核流程,甚至直接警告用户"如果里面有机密信息,就别把应用接到 Gemini Apps 上"。帖子冲到 362 分、92 条评论,评论区一半在愤怒,一半在搬家。我请来老朋友沈亦舟——隐私与数据安全工程师,常年帮企业做数据合规和隐私架构——聊聊这个承诺是怎么变的、数据到底是怎么"漏"出去的,以及普通人现在还能怎么办。
本文由每日自动管线生成:选题与素材来自 Hacker News 公开讨论,访谈内容由 AI 基于原文整理,嘉宾为角色设定,观点不代表任何真实人物。
小听: 亦舟,先把时间线捋清楚。2023 年的承诺原文是什么?今年 10 月又改了什么?这中间 Google 到底改了几个字?
沈亦舟: 2023 年的原话写在 Google 官方博客里,针对 Gemini 的 Workspace 扩展:来自 Gmail、Docs、Drive 的个人内容"不会被人工审核员看到"。这是一个很强的隔离承诺——机器可以读,帮你总结、帮你找文件,但人看不到。2026 年 10 月 16 日,同一篇博客被编辑了,措辞反过来了;同时更新的帮助文档(Help Answer 16836988)写得更直白:审核员看到的东西"可能就是那封邮件或那个文件本身",还附了一句警告——如果你的应用里有机密信息,"就别把它们接到 Gemini Apps 上"。从"人看不到"到"人可能看到全文",这不是措辞微调,是承诺本身被撤回了。
小听: 帖子作者说,他实测发现数据是在"后台对话"里被悄悄抓走的,不需要你 @Drive 或者 @Gmail。这是怎么回事?
沈亦舟: 这是最值得注意的一点。作者的复现步骤很简单:打开消费版 Gemini 的 Connected Apps,接上 Google Workspace 账号,然后随口聊一个你邮箱或网盘里有的话题——比如问一句"我是不是宽带费交贵了",完全不提"帮我查邮件"。Gemini 会在后台自主决定要不要调用 Workspace 检索工具,去翻你的 Gmail 和 Drive。整个过程对用户是不可见的,你只会看到一个"恰好很懂你"的回答。作者用自己收到的宽带账单邮件反复测试,发现结果分成四档:第一档是什么都没抓到;第二档只返回元数据摘要,比如"你有 3 封关于航班的邮件";第三档是直接引用原文里 2 到 6 句话,经常原样包含姓名、账号、确认号、付款金额;第四档最狠——整封邮件全文,包括邮件头,原样灌进会话上下文。
小听: 四档结果随机出现?那是不是意味着,我测一次没抓到,就可以放心了?
沈亦舟: 恰恰相反。作者特别强调:这是一个概率性系统。LLM 的工具调用和上下文注入本身就是非确定性的,同样的问法,这次可能什么都不抓,下次就把全文都吐出来。他写得很清楚——"如果你只测一次,看到的是第一档或第二档,你没有证伪这个管道,你只是从一个随机系统里抽了一次样。"想复现就得删掉旧对话再测,因为模型会从对话历史里"记住"答案,绕过检索。评论区也有人拿自己的经历佐证:有人问 Gemini 关于公园改造咨询流程的问题,得到的回答" uncannily tuned"——精准得像是读过他刚收到的那封邮件,但 Gemini 全程没提自己读过邮件。还有人说 Google Meet 的 Gemini 转录有一次花了 24 小时多才出结果,平时不到 1 小时,他只能猜测是人工介入了。

文件上了传送带,就不再是你一个人的了。
小听: 这里要区分一下:评论区有人说 Workspace 企业版不受影响,是真的吗?还是所有 Gemini 用户都一样?
沈亦舟: 这个区分很关键,也是评论区最有价值的一条纠正。bri3d 指出,涉事的是消费版 Gemini(Gemini Apps)加上 Connected Apps 的组合:你主动授权 Gemini App 去读你的 Gmail、Drive,读到的数据就进入了消费版 Gemini 的对话记录,而消费版的对话本来就会进入训练和人工标注流程。Workspace 企业版和 Workspace Intelligence 那个企业级 RAG 方案,目前仍声称不受人工审核影响,有明确的数据保留合同。所以问题不是"所有 Google 用户的数据都被人工看了",而是"消费版 Gemini 的 Connected Apps 打开了一个缺口"——你以为你在用一个聊天助手,其实你同时把私人邮箱和网盘接进了标注管道。更麻烦的是授权体验:有评论说每次打开 Gemini 都会弹全屏的"要不要开启 Connected Apps",他每次都点"不",过一阵又弹出来。点"是"之后到底授权了整个 Drive 还是单个文件、是只读摘要还是全文,界面上说不清楚。
小听: Google 不是说有自动脱敏吗?正则加命名实体识别,把账号、姓名都 scrub 掉,再给人看。这套东西靠得住吗?
沈亦舟: 作者的结论是靠不住,而且他引用了 Google 自己的文档来论证这一点。正则和 NER 能去掉格式规整的东西——比如一段纯数字的卡号。但叙事性数据是去不掉的:账号、确认号、交易日期,再加上"某个名字 + 某个城市 + 某个事件"这种组合信息,拼在一起就是能定位到具体个人的身份。脱敏能去掉"字段",去不掉"故事"。而标注员看到的恰恰是故事——一封邮件的全文。一旦进入人工审核,数据就离开了纯机器的边界:审核员可能是外包商,可能是分布在不同地区的合同工,评论区 fierycatnet 拿旧的 Google 搜索审核打比方,说那类岗位"什么人都会雇"。你的数据被谁看到、以什么方式存储、看完删不删,这些都不在你的控制里。
小听: 评论区的反应很有意思:一边是"立刻搬家去自托管",一边是"根本没得选"。你怎么看这两派?
沈亦舟: 两派说的都是实话,只是站在不同的成本线上。搬家派已经在行动了:Google Photos 换 Immich,Drive 换 Nextcloud,邮件有人在认真考虑自托管——虽然马上就有人劝"邮件自托管是噩梦,最后才换",更现实的折中是只自托管收件、发件走靠谱的中继。但另一派的反驳也很扎心:nunez 说,现在没有任何一个 Drive 替代品能做到"和别人分享文件一样顺滑";alterom 更直接,说要求 99% 的普通人为了隐私去学 Linux、自建服务器,本质上是在怪受害者。还有人提到备份的悖论:有人把加密快照备份到 Google Drive——Restic + Rclone 加密后上传,Google 只能看到密文。好笑的是,连"逃离 Google"这件事,很多人最后还是得借 Google 的基础设施完成。真正的分水岭不是技术能力,而是"你愿不愿意为隐私付出现金和时间成本"。

你以为在和 AI 聊天,其实是在把抽屉一件件打开。
小听: 那给普通人一个可操作的清单吧。今天就能做的,有哪几件?
沈亦舟: 第一件,打开 Gemini 设置,检查 Connected Apps 开了没有——没开就别开,开了就想想里面有没有你不想让陌生人看到的东西,有就关掉。第二件,分清版本:工作用的 Workspace 账号和私人消费版 Gemini 是两条线,别图方便把私人邮箱接到消费版 Gemini 上。第三件,假设最坏情况:任何你放进已连接账号的东西,都默认可能被人工审核员看到——机密文件、合同、医疗记录、带账号的账单,别放进那个篮子里。第四件,如果你确实想走自托管路线,从照片和文件开始(Immich、Nextcloud 都有成熟方案),邮件放最后,先想好备份和"万一我不在了家人怎么找回来"这两个问题再动手。第五件,别只盯着 Google:这次的教训是通用的——任何一个"AI 助手 + 读你全部数据"的组合,背后都可能连着一条人工标注管道。授权之前先问一句:这条数据链的终点是机器,还是人?
小听: 最后问个大一点的问题。评论区有人说"AI 竞赛让我们在隐私、质量、商业可行性上走了太多捷径,债迟早要还"。你觉得这句话准吗?
沈亦舟: 准,而且这次的"债"还得特别具体。训练数据吃完了公开互联网,模型要进步就得吃更私密的数据——你的邮件、你的文件、你的照片。Google 这次不是偷偷摸摸,它是光明正大地改了文档、发了警告,把选择权交回给用户。但"交回选择权"的前提是用户真的理解自己在选什么:一个全屏弹窗、一次手滑点"是",背后是一条从聊天框直通标注员的管道。技术上这条管道早就有,改变的只是它被写进了条款里。对开发者来说,真正的启示在产品设计上:当你给 AI 接入用户私人数据时,"默认不接、逐项授权、随时可撤、链路透明"这四件事不是加分项,是底线。做不到这四条的产品,迟早会有人在 Hacker News 首页帮你把账算清楚。