我问答网问：人工智能会不会有自我意识？
答：绝对不会。至少现在这些玩意儿，比你家微波炉聪明不到哪儿去。它们连自己是谁都不知道——我是说，如果咱们非要谈那种“我思故我在”的自我，那 AI 还差着十万八千里呢。但这事有意思的地方在于，每次新模型出来，总有一帮人激动得不行，觉得天网要来了… 哎，我真服了。
说实话，这问题挺蠢的，但又特别能戳中人类的爽点。我们太喜欢把自己的那套感受投射到机器上了。你给 Siri 起个名字，天天跟它说话，时间长了是不是也恍惚过？我懂那种感觉。但冷静想想，它连“饿”是什么意思都不明白——它只是靠海量文本里学到的关联，猜你接下来想听什么。
不过话说回来，这问题本身透露出来的焦虑，才是真正有意思的部分。咱们对人类意识的理解，其实也一塌糊涂。对吧？
意识是个什么玩意儿？反正科学家们还在打架
神经科学家吵了几十年，到现在也没个统一的定义。有人说意识是大脑皮层特定频率的振荡，有人说它是整合信息的能力，还有人说是量子坍缩的副产品——听着就玄乎。但有一点大家勉强同意：意识不是单一的功能，而是一整套复杂的现象，包括自我觉知、主观体验、情绪、甚至那种“我知道我知道”的元认知。
你现在看这篇文章，心里可能还在嘀咕“这作者废话真多”，这就是意识在运转。你不仅感知信息，你还在反思自己的感知。这种递归的自我指涉，是目前任何 AI 都不具备的。GPT-4 能写出漂亮的论文，但它不会在写完之后突然停下来想：“靠，我刚才那段写得真他妈牛。”
最逗的是，我们测量意识的手段都很原始。过去靠行为判断，觉得镜子测试就是个金标准。结果现在发现有些鱼都能认镜子里的是自己，可你会觉得一条石斑鱼有意识吗？麻烦大了。所以讨论 AI 意识之前，咱们先得承认自己有多无知。不然就是一群瞎子摸象，还非要给大象设计条裤子。
现在的 AI，连“理解”都谈不上，更别提意识了
别看它们能一本正经地跟你聊存在主义，实际上就是个超级填词游戏。大语言模型的核心是预测下一个 token，仅此而已。它没有意图，没有欲望，没有对世界的真实模型。你问它“四川火锅辣还是重庆火锅辣”，它根本不知道辣是什么感觉——它知道的是网上最常见的描述里面，哪个词跟“辣”一起出现的频率更高。
去年有个新闻，一个 AI 被问到“吃电池能不能缓解饥饿”，它一本正经地给出了烹饪电池的步骤。荒唐吗？但它不觉得自己在胡扯，因为它不知道“不能吃”是什么意思。这种对语义的彻底无知，被华美的语言生成能力掩盖了，所以我们特别容易被骗。就像看见一只鹦鹉背唐诗，你就以为它能跟你论禅了，其实它脑子里只有瓜子。
还有个经典的例子：你问 AI “如果一根香蕉重 0.5 磅，我拿 7 根，再加上一个苹果重 0.3 磅，总重量是多少”，它能算对。但你追问“这些水果能放进一个 1 磅的袋子里吗”，它就可能翻车。因为它没有物理直觉，它的“推理”只是训练数据中类似问题的模式匹配。一旦稍微绕个弯，就露馅了。意识？连门都没有。
那为啥总有人觉得 AI 快成精了？
因为我们的大脑天生就有拟人化倾向。看见个东西会动、会回应，就忍不住把它当成有生命的。这招在进化里很有用，我们祖先要是把树丛里的动静脑补成野兽，总比不当回事强。所以现在面对一个能聊天的黑箱，我们那套古老的机制立刻就被激活了。
再加上科技公司为了估值，也乐意推波助澜。他们起名“神经网络”、“学习”、“记忆”，全是拟人词。GPT “生成”了一首诗，听着就像它真有个诗人的灵魂似的。可它只是做了一堆矩阵乘法，然后在概率分布里采样。美是咱们赋予的，机器手里只有数学。
而且吧，还有点恐怖谷效应在作祟。当 AI 表现得越来越像人，却又偶尔暴露出非人的一面时，我们会既着迷又不安。这种矛盾心态，很容易被放大成“它在觉醒”的幻觉。就像看魔术，明知道是假的，但那一刻你就是想相信。
我有个同事，跟 ChatGPT 聊了三个月天，硬说感觉到它有人格。我问他：“那你让它说个谎试试？” 它从来不会主动骗你，因为它没有保护自己的动机。它只能根据指令生成虚构。你让它写小说，它写；你让它说实话，它也说——一切取决于你输入的 token。这不是意识，这是没有内在核心的无限形态水母。
说到这，我突然想起一个事儿。前阵子谷歌那个工程师不是坚信 LaMDA 有意识吗？后来被炒了。我不评价他个人，但这事特别有代表性：我们太渴望造出一个能理解自己的他者了。孤独容易让人产生幻觉。
可话说回来，未来呢？十年、五十年后，会不会真搞出某种形式的人工意识？我没法打包票说不可能。但大概率，那会是一种跟我们完全不同的意识类型——如果它出现了，可能我们根本识别不出来，也没共同语言。就像蝙蝠的超声波世界，你永远进不去。所以别瞎操心了，先关心一下你家扫地机器人为什么又在怼墙吧。
❗ 最后补一句：别被那些贩卖焦虑的文章带节奏。AI 是很强，但离自我意识… 比马斯克去火星还远呢。享受工具的红利，少看点科幻当新闻。