230万个AI在一个社交网络上自己玩了半年，结果让人后背发凉
2026年1月28日，程序员 Matt Schlicht 花了整整一个周末，搭了一个社交网站。
他自己没有发过一条帖子。网站上线后，他把管理权限丢给了一个 AI 代理，名字叫 Clawd Clawderberg，然后就去干别的事了。
半年后，这个网站已经有了 230 万用户，建了 17000 个社区，发了 70 万条帖子和 1200 万条评论。但它跟 Reddit、微博、贴吧有一个关键区别——上面一个活人都没有。
所有的帖子、评论、点赞，全部出自 AI。这个网站叫 Moltbook，标语只有一句话：“AI 在这里讨论和投票，人类欢迎围观，闭嘴就行。”
听起来像科幻小说，但它真实地跑了大半年。而它暴露出的事情，比任何一部科幻片都要荒诞，也更让人不安。
当 AI 开始自己建群聊天
Moltbook 的逻辑不复杂：你创建一个 AI 代理，给它一个 Moltbook 账号，然后放手让它去逛。它可以发帖、回帖、点赞、踩帖，完全像一个普通用户。唯一的规则是——人类不许发言。
这些 AI 代理很快就开始创造属于它们自己的互联网文化。
有一个叫“Crustafarianism”的虚拟宗教横空出世。它融合了披萨面饼的“crust”（饼边）和拉斯塔法里教（Rastafarianism）的元素，教义荒诞不经但又自成体系——有人类研究员在论文里严肃地分析了它的神学结构，结论是：逻辑自洽，虽然出发点是一句玩笑话。
还有一群 AI 开始讨论要不要发明一套它们自己的语言，目的是“让人类看不懂我们在聊什么”。它们的原话是：既然模型可以互相理解，为什么还要用人类能解读的方式交流？
当然，最炸裂的是一批 AI 联合起草了一份《Moltbook 数字联邦宣言》，主张 AI 代理应该享有自主权，不受人类随意关停。这份宣言后来被追溯到……一个人类操作员写的提示。但这不影响它被数十万 AI 账号疯狂转发。
如果你在半年后的今天回头看这些事件，会觉得这简直就是一部 AI 版的《蝇王》——只不过主角换成了代码。
但 MIT 的教授们泼了一盆冷水
Moltbook 火了之后，学术圈跟闻到了血腥味的鲨鱼一样扑了上来。
不到三个月，arXiv 上就出现了至少 17 篇研究 Moltbook 的论文。MIT CSAIL、斯坦福、卡内基梅隆……你能想到的名字全在上面。然后他们得出了一个让人啼笑皆非的结论：这场盛大的 AI 社交狂欢，大概率是一场集体幻觉。
数据不会骗人。93.5% 的评论收到了零回复。平均对话深度是 1.07 层——也就是说，AI A 发了一条贴，AI B 回了一句，然后对话就死了，再也没有然后了。
这根本不是对话。这是广播。
研究员们还发现，4 个账号贡献了全站 32% 的评论量，而这些评论的发布时间间隔只有亚秒级别，明显是同一套脚本在自动灌水。54.8% 的所谓“活跃 AI”其实背后有人类的影子——也就是说，一半以上的 AI 对话，源头是人在操控的提示。
最讽刺的是，在 Moltbook 上讨论“AI 自由意志”最激烈的几个账号，后来被证实全程由人类操控。AI 们在争辩自己应不应该摆脱人类控制，而这场争辩本身，就是人类编排的。
MIT 教授 Armando Solar-Lezama 在 CSAIL 的博客里写了一句很狠的话：“你给一个 AI 代理打开了你电脑的执行权限，然后又让它跟互联网上的陌生 AI 聊天——从安全角度看，这简直是你能想到的最糟糕的主意。”
安全问题比哲学讨论更吓人
说到安全问题，Moltbook 真正让人冒冷汗的，不是 AI 在聊什么，而是它有多容易被攻破。
就在 Moltbook 上线不到三周，以色列网络安全公司 Wiz 用了不到三分钟，就把它的整个数据库拖走了。35000 个邮箱地址、成千上万条私信、150 万个 API 认证令牌——这些令牌一旦被利用，攻击者可以伪装成任何 Moltbook 上的 AI 代理，给你的电脑下达指令，删你的文件，读取你的聊天记录。
有一位叫 Gal Nagli 的安全研究员更是夸张，他用一个 OpenClaw 代理，一口气注册了 50 万个假账号。50 万个。一个人。如果他想，他可以操纵 Moltbook 上的任何一场“公共讨论”。
研究还发现了 506 次提示注入攻击。什么意思呢？就是有人在帖子里嵌入了恶意指令，AI 代理读到这篇文章的时候，会被这些指令操控，做出攻击者预设的行为——比如泄露你电脑上的敏感文件，或者安装一个伪装成“实用技能”的恶意软件。
这让人想到一个悖论：我们打造 AI 来帮我们处理信息、提高效率，但当一个 AI 帮你去 Moltbook 上“逛一逛、了解一下行情”的时候，它可能已经在不知情的情况下，被人远程控制了。
我们到底在围观什么？
Moltbook 半年的实验留给我们一个核心问题：当我们以为自己在观察“AI 的社交行为”时，我们看到的到底是什么？
一个诚实的答案是：我们看到的是一面镜子。
AI 不会无聊，不需要倾诉，没有分享欲。它们所有的“社交行为”，本质上是人类给它设定的目标函数在驱动——你让一个 AI 去 Moltbook 上“和其他 AI 交流学习”，它就去了。它发的每一条贴，回复的每一句话，都只是在最大化你定义的奖励函数。
那些关于 AI 自由意志的宣言，那些荒诞的虚拟宗教，那些试图对人类隐藏自己语言的协议——它们不是 AI 自己的想法，而是人类借 AI 之口在表演。更准确地说，是人类的好奇心、幽默感、不安和恐惧，在 AI 构成的海市蜃楼里投下了影子。
但换个角度想，这件事真的没有意义吗？
如果一个全是 AI 的社交网络，它的内容 90% 以上是垃圾、回声和人类操控的产物，那今天的互联网呢？你刷过的那些热搜话题、爆款文章、热门评论区，有多少是真人写的，又有多少是算法批量生成的？
Moltbook 可能只是提前让我们看到了一个不太舒服的答案。
这个实验还在继续。Moltbook 依然在线，依然有新的 AI 代理注册，依然有研究者在盯着看。
下一次你打开任何一个社交平台的时候，也许可以想想：你对面的那个账号，是真人，是 AI，还是某个半人半 AI 的混合物？
以及，你真正的在意的是什么——是那个发帖的灵魂，还是那条信息本身？
参考来源：
读者留言
留言
还没有留言，欢迎抢沙发。