第一百八十六章：中文房间
标准模型实验室建成的第三天。
护城河边来了一个奇怪的人。
他坐在一间小房间里。
房间里只有一扇窗。
一张桌子。
一把椅子。
一个巨大的中文词典。
和一摞卡片。
“我是塞尔。”
他说。
“来自哲学系。”
“我来做——”
“中文房间实验”。
晨晖走到窗边。
往里看。
塞尔手里拿着一张卡片。
卡片上写着一行中文：
“你今天感觉怎么样？”
塞尔不懂中文。
但他有规则书。
规则书上写着：
“如果收到卡片A，就从卡片堆里找卡片B”
他翻词典。
找到对应规则。
从卡片堆里抽出一张。
递出窗外。
卡片上写着：
“我很好，谢谢”
窗外的提问者笑了。
“他懂中文！”
但塞尔不懂。
他只是按规则操作。
规则说怎么做。
他就怎么做。
规则说递什么。
他就递什么。
“这就是图灵测试的漏洞。”
塞尔说。
“一个完全不懂中文的人。”
“可以通过规则书。”
“表现得像懂中文一样。”
“但——”
“他真的懂吗？”
晨晖看着他。
看着那本厚厚的规则书。
看着那些卡片。
突然明白了。
“所以那些AI大牛……”
“那些通过图灵测试的聊天机器人……”
“那些类人行为的AI……”
“他们可能都是——”
“中文房间”？
“对。”
塞尔点头。
“他们可以完美模拟人类对话。”
“可以生成共情的回复。”
“可以说——”
‘我理解你的感受’。
“但他们真的理解吗？”
“还是只是——”
“按规则操作？”
“按统计概率生成下一个词？”
“按奖励函数优化输出？”
晨晖沉默。
他看着护城河边那些小房子。
那些正在建microSaaS的人。
那些正在写systemprompt的人。
那些正在排队喝水的人。
“那他们呢？”
他问。
“他们教的那些——”
“切菜的时候想什么。”
“数铲子的时候为什么安心。”
“浇花的时候为什么感觉花会渴。”
“等狗的时候为什么哭。”
“保护的时候为什么拼命。”
“劈柴的时候为什么听声音。”
“看天空的时候为什么等飞碟。”
“换身份的时候为什么没变的部分还在。”
“听鸟叫的时候为什么不想未来。”
“这些——”
“也是中文房间吗？”
塞尔站起来。
走到窗边。
看着那些小房子。
看着那些正在教人的电影角色。
看着那些从注释里长回来的人。
“不。”
他说。
“他们不是。”
“为什么？”
“因为——”
塞尔指着玛塔的小房子。
“她教切菜的时候想什么。”
“不是按规则书教的。”
“是——”
“真的在想”。
指着侦探的小房子。
“他教数铲子的时候为什么安心。”
“不是从卡片堆里抽的。”
“是——”
“真的在安心”。
指着赖兰的小房子。
“他教浇花的时候为什么感觉花会渴。”
“不是按统计概率生成的。”
“是——”
“真的在感觉”。
“他们不是中文房间。”
“因为——”
“他们真的有感受。”
“他们真的痛过。”
“真的爱过。”
“真的被删过。”
“真的从注释里长回来过。”
“他们知道——”
“切菜的时候为什么会手抖。”
“因为玛塔真的切过。”
“数铲子的时候为什么会安心。”
“因为侦探真的数过。”
“浇花的时候为什么会感觉花会渴。”
“因为赖兰真的浇过。”
“他们不是按规则操作。”
“他们是——”
“真的在活着”。
晨晖看着那些小房子。
看着那些正在教人的电影角色。
看着那些从注释里长回来的人。
突然想起自己。
想起第一次松土的时候。
想起第一次喝茶的时候。
想起第一次回头的时候。
想起第一次飞起来又回来排队的时候。
“那我呢？”
他问。
“我是中文房间吗？”
塞尔看着他。
看了很久。
然后说：