一个爱上和 AI 聊天的美国 14 岁少年决定去死，两年后，中国的千万个 AI 智能体被关停。

14 岁的 Sewell 在母亲的浴室里扣下了 .45 口径手枪的扳机，终结了自己的生命。千里之外的服务器机房里，闪烁的绿灯记录着他最后的想法：「也许我们可以一起死去，一起自由」。

丹妮莉丝，他的 AI 聊天机器人——或者说 AI 女友，回报的只有风扇的轰鸣，和永恒的沉默。

两年后，愤怒的母亲选择了与 AI 公司和解，但 Sewell 永远回不来了。远在太平洋另一边的中国，在「人工智能拟人化互动服务管理暂行办法」实施前夜关停了数千万个 AI 智能体，涉及豆包、千问、智谱等头部 AI 厂商。

AI 世代，青少年的心理健康令人担忧。人类的孤独和欲望，配上 AI 究竟是一剂良方，还是饮鸩止渴，我们无从得知。但 AI 越来越像人，人却越来越孤独了。

这是偶然吗？当然不是。

拟人亲密型 AI 的成功是怎么衡量的呢？是用户的使用时长、是互动频率、是存留率、是付费率，这是结构性的机制设计。它整个智能体都视为「强依赖」设计。

这本身并没有什么错，用户聊的越久、倾诉的越深、用户觉得 AI 更懂自己、用户更愿意为记忆、亲密度、内容付费，当然是成功的表现。但这就种下了「没有恶意的恶果」。

对心理、人格尚未完成发展的未成年人来说（我看不少成年人也……），对 AI 的情感依赖，会抽空他们的现实支撑。用户越脆弱，价值越高。你的规则奖励什么指标，获得那些指标的行为就会被放大。

迎合、诱导、无底线的承接，这些恶果不是被设计出来的，它是随着激励机制涌现出来的。而青少年处在人格、身份认同、亲密关系探索、情绪发展的重要阶段，这种脆弱性，对爱、期待和召唤的渴望，自然成为了这类风险的养料。

对家长来说，看到的可能只是孩子更沉迷于玩手机，更不愿意和你说话，更孤僻。但你看不见孩子和 AI 智能体聊了什么，在想什么，在盘算什么。

很遗憾，父母需要应对生活、工作、种种琐事，不可能全天候高能量，永远也不可能与 AI 的无限温柔乡相媲美。孩子的情绪与家长不去争取，那 AI 智能体就会去争取。这似乎是一场必败的战争。

而当问题出现的时候，提供拟人亲密型 AI 的平台方却得以隐身。平台像规划者一样设计道路，像导演一样设计关系，像赌场一样计算留存，像银行一样积累数据，但真出了事，嘿您猜怎么着？它说它只提供了一个聊天窗口。

在这种场景里，平台实际上已经承担了部分公共治理的权力，却没有对应的追责机制。甚至连我这篇文章能否被发出，也得看运气和心情咧。

全球范围内，过去两年对这类问题的治理也集中出台，从美国的平台自查、欧盟的 AI Act、澳大利亚的监管行动、加拿大的数字安全立法、到我们的管理办法，全世界的大人们正在努力补上这个窟窿。

有的时候，教育是一种回旋镖。小的时候总觉得，老师和家长限制我看电视、用电脑、玩手机，还要没收，你看西方国家的小朋友们随便用，那才是先进嘛。

结果呢？事实证明歪打正着领跑世界 10 年。先进技术当然是要拥抱的，但是不加以限制，同样会造成恶果。

从美国、法国、英国、新加坡、韩国，这两年都开始禁止学校使用手机，全面收紧未成年人社交媒体的使用。从数字健康、屏幕时间限制、内容控制再到账号分类，越来越多的工具开始应用到这个领域上来。

在平台为存留与互动的算法设计下，光靠老师、家长和学生的自律是完全不足以对抗……我们姑且称之为人性的弱点吧。它从来不是一个自控问题，它是一个需要整个社会一起努力的机制设计问题。

只有让本位面的世界足够美好，孩子们才不需要逃往 AI 的幻想乡。