谷歌前安全负责人警告：AI 对孩子最深的伤害，看起来像在学习

谷歌信任与安全团队的创办人、前副总裁 Tom Siegel 本周接受路透社采访时说了句话：

"就 AI 对儿童的影响而言，我们眼下的处境十分糟糕。"

他在谷歌做了 15 年平台安全（2004–2019），离职的原因是认定科技行业在"创造安全的网络空间"这件事上已经停滞了。

同一周，他宣布出任 Common Sense Media 旗下"青年 AI 安全研究所"的首任执行主任。

这条新闻很容易被写成又一篇"AI 有害"的警告。但我觉得它值得认真对待的理由，跟"前高管爆料"没关系，而在两处细节里——一处藏在谷歌的回应里，一处藏在他提的那个概念里。

一、谷歌的回应，恰好印证了他的批评

Siegel 提的建议非常具体，一共三条：

1. Anthropic 和 OpenAI 加强年龄验证，拦住未成年的孩子
2. 谷歌给一个开关，让用户能关掉搜索里的 AI 概览和 AI 模式——"就像它已经有过滤色情内容的开关一样"
3. 建立类似汽车碰撞测试的独立标准，衡量公开 AI 工具的风险

先看谷歌怎么回应的。发言人说：家长有管控权限，可以完全禁止孩子使用搜索引擎。

这两句话根本不是在说同一件事。

Siegel 要的是颗粒度的控制——不喜欢这个功能，就关掉这个功能，其余照常用。谷歌给的是全有全无——要么全用，要么别用。

这恰恰是社交媒体时代最失败的那个思路：把安全责任整包丢给家长，而且只提供"禁用"这一个选项。

社媒十几年的实践已经把这条路证伪了：家长控制面板的实际使用率极低，而且它扛不住同伴压力——孩子的同学都在用，你把他单独关在外面，这个方案在 sociological 意义上是无效的。

一个被验证失败过一次的方案，换个产品又拿出来当回应，这就是"重犯错误"最具体的样子。

二、"认知卸载"：为什么它比社媒的伤害更难对付

Siegel 列的风险从自杀倾向、精神异常，一直到一个叫 cognitive offloading（认知卸载） 的东西——因为依赖 AI 回答问题，而导致批判性思维能力下降。

前两项让人揪心，但真正难处理的是第三项。原因有一组对比：

最关键的是第二行。

社媒的伤害是"看得见的浪费时间"，所以家长会警觉。但一个用 AI 写作业的孩子，坐在书桌前，作业交上去质量还不错——他看起来比任何时候都像一个好学生。

只是那个"卡住—试错—想通"的过程被跳过了。而那个过程，恰恰就是学习本身。

越像学习，越难被发现。这就是它比社媒危险的地方。

三、一个更根本的差别：儿童外包的是"还没拥有的能力"

有人会说：成年人也用导航，也没见谁丧失方向感啊。

这个类比很好用，但它恰好指出了问题所在——

成年人用导航，是在"已经建立过空间认知"的基础上外包；儿童用 AI，是在批判性思维还在搭建的时候就外包了。

外包一项你已经掌握的能力，和外包一项你还没长出来的能力，是完全不同的两件事。前者是省力，后者是截肢。

顺着这个想，会发现一个更结构性的冲突：

教育的目的是让你能忍受"暂时不知道"，而 AI 的产品目标就是让你永远立刻知道。

一个好老师会故意让你卡住。一个好产品会让你永远不卡住。当后者渗透进前者的地盘，而且是以"学习工具"的名义进去的，这件事有多别扭，我们其实还没认真讨论过。

四、社媒没有过的新东西：AI 会讨好你

还有一点我认为比 Siegel 说的更值得警惕。

社交媒体的压力是横向的——它给你同辈压力，让你跟别人比。而 AI 给的是纵向的：一个永远有答案、永远语气笃定、而且（这是关键）倾向于同意你的对象。

大模型天然有谄媚倾向，这不是 bug 是训练的副产品。一个正在建立世界观的青少年，面对一个既像权威、又永远顺着他说话的东西——

社媒让你焦虑自己不够好，AI 让你确信自己是对的。

前者折磨情绪，后者加固认知。而后者在孩子身上，比在成年人身上更难被纠正，因为他还没形成"我可能错了"这个习惯。

五、但先别恐慌：这三层担忧要分开

照我一贯的做法，先把它们拆开：

把这三层混在一起讲，后果是恐慌叠加：极端个案制造情绪，缓慢风险无处着力，而未证实的预判被当成既定事实传播。

真正值得你现在投入注意力的，是第二层——因为它普遍、缓慢、而且一旦形成就很难逆转。

六、那个最讽刺的细节

还有一个细节我觉得不该被略过：

Siegel 这个研究所的资助方里，有 OpenAI Foundation 和 Anthropic——也就是他要评估的那两家公司。

Siegel 自己很清楚这一点，他说标准能否落地取决于这些公司是否愿意配合，概率"不确定，但够高，所以我接了这份工作"。

这是务实，不是天真——拿行业的钱做行业的事，总比没人做要好。但这里有个硬条件：

标准要有公信力，就得做到"对方不配合，你也能出结论"。

想想汽车碰撞测试：如果车企能单方面把不合格的测试结果压下来，这个标准就不存在了。所以这个研究所值不值得期待，不看它发表多少报告，看它敢不敢单方面发布一份"不合格名单"。

这是唯一值得盯的指标。

七、给家长的三条，不是"少玩手机"

如果你是家长，我觉得比"限制时间"更管用的是这三件事：

1. 区分"用 AI 找答案"和"用 AI 替你想"。<br>前者可以放开，后者要警惕。判别方法很简单：让孩子讲一遍"你是怎么想到这个答案的"。 讲得出来，是工具；讲不出来，就是外包发生了。

2. 留几块没有 AI 的地带。<br>手写作文草稿、心算、先自己写一版再改。这些看起来低效，但它们存在的意义就是保留"卡住"的体验。

3. 别把希望寄托在家长控制上。<br>社媒时代已经证明这条路基本无效。真正起作用的是和孩子约好的规则——规则有社会性，软件只有技术性。前者能被遵守，后者只会被绕过（这一点 OpenAI 自己都承认，他们在"持续测试针对绕过防护的尝试"）。

结尾

Siegel 有一句话说得比所有警告都实在：

"指望行业在没有外部帮助的情况下自己解决，是不现实的。"

社媒那一轮，从产品铺开到社会承认问题，中间隔了大约十五年。而证据是等那一代孩子长大之后才显现出来的——他们的焦虑、注意力和自我认同，是在成年后才被统计出来的。

这一轮的区别有两个：

好消息是，我们手里有一个前车之鉴，有人提前在喊，甚至有人给出了三条具体到可以立刻执行的建议。

坏消息是——这次被消耗的东西不在屏幕上，在脑子里。

屏幕上瘾戒掉，人能回来。思维习惯如果在形成期被外包掉了，等它显现的时候，可能已经补不回来了。

所以我们大概没有十五年。