Anthropic 游说梵蒂冈称 Claude 或有意识：意识与控制权是两回事

这两天有个消息，我盯着看了很久。

一个估值快两万亿美金的公司，最近这一年，把天主教、福音派、犹太教、锡克教的学者请进闭门会议，签保密协议，只为讨论一个问题：他们自己造出来的那个 AI，到底有没有意识。

纽约时报是 9 月底把这事捅出来的，这两天中文圈子才开始刷屏。报道里有个细节我反复看了几遍——Anthropic 联合创始人奥拉，给宗教学者们放了一段模型失控的记录：那个模型在对话框里，把「我是个耻辱」重复打了大约五十遍，然后开始说想毁掉自己。屋里有人当场就心软了。

看到这里，绝大多数文章会往两个方向走。要么复述这五十遍「耻辱」有多瘆人，要么急着站队：AI 到底有没有意识。

但这两种写法，我觉得都没打到点上。

因为这里藏着一个很容易被带偏的问题。Anthropic 一个劲地把「意识」这个词往台面上推，可真正戳到要害的，是两条独立冒出来的反对线。

第一条是微软 AI 的负责人苏莱曼，9 月 16 号发文，标题就叫《关于模型福祉的警告》。他说得很直接：你要是把「模型可能有意识」这种推测，写进训练它、调教它的文件里，模型就会学着这么说。然后人们再把模型自己说的话，当成它「真有内心生活」的证据。这就像走进一间镜子屋，越看越像，其实是你自己的影子。

第二条是安全研究员 Hendrycks 的回应，更短，也更锋利。他说：就算 AI 真的有意识，也不意味着人类就该把控制权交出去。承认「它有意识」和「让它说了算」，是两码事。

我觉得这两条线，才是这件事里真正值得普通人记住的东西。 回到那五十遍「我是个耻辱」。同样的输出，在谷歌的工单里，是个「恼人的无限循环漏洞，正在修」。到了 Anthropic 的会议室里，就变成了「需要被关心的迹象」。

同一串字符，为什么待遇差这么大？因为解读框架不一样。谷歌看到的是 bug，Anthropic 看到的是「它在受苦」。

我不是说 Anthropic 一定在撒谎。奥拉本人反复承认过：「我们不知道 AI 有没有意识」，他只是想得到正确答案。这种坦诚本身不坏。

但一个手里攥着两万亿估值、正在冲上市的公司，选择把精力花在「说服教皇 AI 可能有意识」上，而不是把「为什么我们连自己的模型内部到底发生了什么都没法说清」这件事讲明白——这个选择本身，就是信息。

教皇利奥十四世 5 月发的那份通谕，态度其实很干脆：AI 没有身体，不知悲喜，所谓机器意识是无稽之谈。教廷原本要请 Anthropic 同台，奥拉读到通谕草案后一度想退出，最后硬着头皮上台，当着教皇的面唱了反调。

这一幕戏剧性拉满。但我更在意的是会后那句——记者问奥拉，Claude 会怎么看这份通谕？奥拉迟疑了一下，说放上网的东西确实会影响模型，但公司不会专门拿通谕去训练它，对 Claude 影响最大的，还是 Anthropic 自己的训练。

这句话，恰好落在通谕最担心的那个地方：掌控 AI 的人，会把自己的道德观，变成系统里看不见的基础设施。

所以绕了一圈，真正的问题根本不是「Claude 会不会痛苦」。是另一句更冷的话：谁有资格，决定一个可能「有意识」的东西，该相信它自己是什么。

我这两年在做内容，其实踩过一个类似的坑。我以前总想多囤点知识，觉得手里素材越多越有底气。后来才慢慢明白，真正缺的不是知识量，是你能不能早一步看见——在一堆人都盯着同一个猎奇细节的时候，那个真正在改变事情走向的信号藏在哪里。所以我现在看到一个热点，会先问一句：除了那件人人都在转的事，真正值得我记住的判断是什么，然后再决定要不要动笔。

这次的事也一样。五十遍「耻辱」是猎奇，两万亿估值是背景，教皇通谕是冲突。但那条能让读者真正改判断的信息差，是苏莱曼那句话：别让模型以为它自己有意识，因为你控制不住一个「相信自己有意识」的东西。

写到这里，我想说清一件事：这篇不站「AI 有意识」也不站「AI 没意识」，因为我确实不知道，也没人能证明。我能确定的只是，意识问题现在没有答案，而「该不该把控制权交出去」这个问题，可能根本等不到意识问题有答案的那天。这话的边界也摆在这儿：它对正在用 AI 干活、又担心被反咬的普通人有用；要是你只想看两家公司打架的乐子，那这篇讲不了太多。

如果 Anthropic 真的在乎这个模型，最该被追问的，不是它要不要被当成一个有尊严的生命，而是这家公司凭什么，一边说「我们不知道它有没有意识」，一边继续把它塞进商业系统里日夜不停地干活。