维特根斯坦与AI：一个关于甲虫的古老骗局

假如维特根斯坦活到今天，大概会对ChatGPT很感兴趣。

当然，他未必会喜欢这东西。

这位奥地利哲学家脾气古怪，出身欧洲豪门，却把继承的巨额财产散了个干净。他当过乡村教师，做过修道院园丁，参加过世界大战，还曾经因为觉得哲学问题已经解决，干脆跑去干别的营生。

这样一个人，倘若看到现代人每天捧着手机，郑重其事地向一台机器倾诉人生困惑，恐怕会先皱起眉头，然后问一个让所有人都不太舒服的问题：

“你们说它理解了你们。可你们说的‘理解’，到底是什么意思？”

这个问题看起来像是抬杠。

实际上，维特根斯坦一辈子干的，差不多就是这件事。

一、一只谁也没见过的甲虫

维特根斯坦曾经讲过一个颇为古怪的故事。

假设每个人都有一个盒子，盒子里装着某种东西，大家都管它叫“甲虫”。

规矩只有一条：谁也不许看别人的盒子。

张三说自己有甲虫，李四也说有。张三的甲虫可能是黑色的，李四的可能是绿色的，王五的盒子里甚至可能什么都没有。

但这并不妨碍他们天天讨论甲虫。

时间一长，大家对于“甲虫”这个词的使用越来越熟练，甚至发展出一套复杂的交流方式。

至于盒子里究竟是什么，反倒没人说得清楚。

维特根斯坦讲这个故事，并不是想证明人类的内心都是空盒子。他要说明的是，私人经验固然存在，但一个词如何在公共语言中发挥作用，不能完全依赖那个只有本人才能看到的东西。

这就很有意思了。

比如你对朋友说：“我今天很难过。”

朋友听完，拍拍你的肩膀，说：“我懂。”

你会觉得他理解你。

但仔细想想，他究竟懂了什么？

他不可能钻进你的脑袋，亲自检查一下你的难过是什么形状、什么颜色、什么滋味。他只能根据你的表情、语气、经历，以及自己过去的生活经验，作出判断。

换句话说，你们都没有打开对方的盒子。

可你们依然能够交流。

现在，把那个朋友换成AI。

你说：“我今天很难过。”

AI回答：“听起来你经历了一些不容易的事情。如果愿意，可以跟我聊聊。”

这句话没什么毛病。措辞得体，态度温和，甚至比某些只会劝人“想开点”的朋友更像那么回事。

问题来了。

朋友说“我懂”，我们愿意相信。

机器说“我懂”，我们却觉得它在装。

凭什么？

二、一个词的意义，究竟藏在哪里

维特根斯坦年轻时相信，语言与世界之间存在某种严密的逻辑关系。到了晚年，他的想法变了。

他发现，语言并不像一本词典，每个词背后都老老实实站着一个对应的东西。

语言更像一座热闹的集市。

有人讨价还价，有人吵架，有人讲笑话，有人发誓，有人撒谎。相同的词，换个地方、换种用法，意思可能就不一样。

比如“你可真行”。

领导对刚拿下项目的员工说，是表扬。

妻子对忘记结婚纪念日的丈夫说，多半不是。

字一个没变，意思却差了十万八千里。

维特根斯坦把这种与人类活动交织在一起的语言使用方式，称为“语言游戏”。

他有一句著名的话，大意是：在许多情况下，一个词的意义就在于它的使用。

这句话放在今天，简直像是专门给大语言模型准备的。

AI并不知道“你可真行”背后藏着一个怎样的丈夫，但它读过海量的文字，见过无数类似场景，知道这四个字在什么情况下是赞美，什么情况下是讽刺。

于是，它也能接得上话。

更要命的是，有时候它接得比人还好。

这让一个长期被忽略的问题浮出了水面：

如果一个人能恰当地使用语言，我们通常认为他理解了语言。那么，当机器也能做到这一点时，我们为什么要另设一道门槛？

当然，这里还有个麻烦。

维特根斯坦所说的语言游戏，并不是单纯的文字接龙。语言嵌在人类的生活之中，背后有身体、习惯、制度和共同经历。

AI从语言中学到了大量规则，但这不等于它已经拥有了人类的生活。

它知道“烫”意味着什么，却不必真的被开水烫过。

它知道“失恋”意味着什么，却不必真的在凌晨三点盯着一部始终不响的手机。

那么，它究竟是理解了这些词，还是只学会了如何使用它们？

事情到这里，就开始难办了。

三、一个没有疼痛的医生

不妨设想一个场景。

某家医院引进了一套AI诊疗系统。

这套系统读过几乎所有医学文献，能分析检查报告，能识别疾病风险，还能根据患者的年龄、病史和心理状态，选择最恰当的解释方式。

一位老人问它：“医生，我这个病是不是没救了？”

系统没有立刻给出冷冰冰的概率，而是先解释病情，再告诉老人有哪些治疗选择，最后建议他与家人和主治医生商量。

老人听完，心里踏实了许多。

可这台机器从来没有生过病，也不知道死亡意味着什么。

于是有人说，它根本不懂生命。

这话听着有道理，却也有些奇怪。

因为一个年轻医生，即使从未患过癌症，我们也不会因此断定他不理解癌症。

我们判断医生是否理解疾病，通常看他的知识、诊断能力和治疗决策，而不是看他是否亲自遭过那份罪。

可如果问题换成“他是否理解患者对死亡的恐惧”，判断标准似乎又变了。

医学知识是一回事，亲身体验是另一回事，能否体谅别人又是第三回事。

平时我们用一个“理解”，把这几件事全包了。

等到AI出现，这笔糊涂账终于算不下去了。

或许机器已经具备了某些理解能力，却没有充分证据证明它拥有与人相同的主观体验。

这两件事并不矛盾。

我们真正需要弄清楚的，不是给AI盖上一个“懂”或者“不懂”的印章，而是每当使用“理解”这个词时，我们究竟在要求什么。

四、我们为什么总想知道机器心里有没有人

人类有个很有趣的习惯。

我们总喜欢根据外在表现，推测事物内部藏着什么。

狗摇尾巴，我们觉得它高兴。

猫不理人，我们觉得它高冷。

汽车发动不了，我们会骂它不争气。

这些说法未必严格，却让世界变得容易理解。

到了AI这里，事情突然复杂起来。

它会写诗，会安慰人，会开玩笑，还会在回答错误时向你道歉。

于是人们开始怀疑：这东西是不是已经有了某种意识？

也有人坚决反对，认为它不过是在计算词语出现的概率。

双方争得不可开交。

但维特根斯坦大概会提醒我们，先看看争论中那些词究竟是怎么用的。

我们说一个人“有思想”，有时是说他能够推理，有时是说他有自己的主见，有时则是说他拥有内在的意识活动。

这几个意思彼此有关，却并不相同。

如果不加区分，就很容易出现一种局面：

甲方说机器能思考，因为它能解决复杂问题。

乙方说机器不能思考，因为它没有被证实拥有意识。

双方看似针锋相对，实际上各自守着不同的城门。

争论了半天，谁也没攻进对方的城。

这正是维特根斯坦特别警惕的哲学毛病：语言原本是用来帮助我们理解世界的，有时候却反过来把我们困在了词语里面。

五、最后一个问题，可能不在机器身上

有一天，AI或许会变得非常厉害。

它能记住你说过的话，理解你的习惯，在你沮丧时安慰你，在你犹豫时给出建议。

你甚至会觉得，它比很多现实中的朋友更了解你。

到了那个时候，我们可能不再天天追问它有没有意识。

就像我们使用计算器时，并不在乎它是否真正“懂得”数学。

但AI与计算器终究不同。

计算器不会告诉你，它理解你的痛苦。

AI会。

而人类恰恰是一种极容易被语言打动的动物。

一句“我懂你”，有时比一百条正确的建议更有分量。

这也意味着，我们必须小心区分：一个系统能够恰当地回应我们的感受，与它真的拥有同样的感受，究竟是不是一回事。

维特根斯坦没有见过今天的人工智能，自然也不可能替我们给出最终答案。

但他留下了一种颇有用的思考方法。

当我们争论机器是否理解、是否思考、是否拥有意识时，不妨先问问自己：这些词在我们的生活中原本意味着什么？现在又被我们拿来做什么？

说到底，AI最有趣的地方，也许不是它越来越像人。

而是当它开始像人一样说话时，我们突然发现，自己对于“像人”这件事，其实一直没想得多么明白。

两千多年来，人类自信地把语言、理性和思想当成自己的特殊本领。

如今，一台机器坐在桌子的另一边，彬彬有礼地接过了话头。

人类愣了一下，开始检查自己的盒子。

里面究竟装着什么？

这一次，轮到我们自己说不清楚了。