非科幻思考（第7/18页）

也就是说，人类对他人的理解，除了可以“外部观察”和“语言交流”，还能有“内部观察”。事实上，“内部观察”是如此强大，我们对于很多从来没见过的事情，只要代入自己想想，就能对其中的前因后果猜出个大概。现在的问题是，如果机器完全没有类人的情感，仅靠“外部观察”和“语言交流”，能达到同样的理解他人的效果吗？我不知道。

以上讨论全都是建立在人工智能没有类人情感的前提下，只考虑技术上如何学习理解人类情感。那么人工智能是否有可能产生类人情感呢？这是另一个问题了，本文结尾的时候会有一些讨论。

仅靠“外部观察”能否理解他人的情感和意图，还涉及另一个更客观的问题：大数据统计能否预知个体行为。

统计学永远只告诉我们系统信息，即便每个人都是完全不一样的随机数，在大数定理的保证下，也能呈现一些稳定的集体特征。然而这种稳定的集体特征并不能预测每一个个体，对“人类行为”的学习不等于对“个人行为”的学习。举个例子，如果一个人被人骂会怎样，这几乎是一个没法靠大数据统计学习得出答案的问题。有的人会忍，有的人会打人，有的人会报告执法机构，有的人会暗中寻求报复，有的人会嬉笑，有的人会哭，每类几乎都有很多。在大数据统计研究中，相关性会非常弱，最终你仍然不知道某个具体个人会如何做出回应。每个人的不同反应取决于个性、场景、社会地位、个人经历、文化群体、习惯等，而如果控制了所有这些变量，每个群体内的个体又会变得极少。外在条件相似的两个人面临同样的情境可能反应天差地别。所有这些个体差异，都给通过大数据统计预测个体行为带来很大的不确定性。人对他人最可靠的预测仍然来自对他人内心世界的理解。

当然，这多少算是题外话。我们还是回到主题。

第三个难点，自我表征的能力。

在上面，我们已经提到了自我观察问题，但还仅限于理解情感方面。那如果不涉及情感方面呢？机器学习纯理性知识总是无比强大的吧？

我们会看到，即便是在纯理性知识方面，目前的机器学习也不是完美无缺的，其中之一就是“元认知”问题。

目前，即便是“阿尔法狗”下棋天下无敌，也有明显的局限：

第一，它说不出自己在做什么。“阿尔法狗”没有对自我的观察。它不知道自己正在“下围棋”，而只是根据输入数据计算胜利的路径，至于是什么游戏的胜利，它并不清楚也不关心，胜利了也不会高兴。

第二，它说不出自己为什么这么做。“阿尔法狗”的“深度学习”，目前是一种“黑箱”学习。人们给它数据输入，看到输出，可是它不知道中间发生了什么。人们觉得它奇着百出，不知道为什么，非常神秘。而它自己也说不出自己是如何思考的。

从某种程度上说，人工智能目前就像电影《雨人》中的那类自闭的孩子：一眼就数得清地上的牙签、能心算极大数字的乘法、背得下来全世界的地图，却答不出有关自己的问题。它只懂研究每秒300盘的棋路，却不知道“我正在下棋”这件事。

缺少元认知，首先是因为缺少“我”的概念。不知道有“我”存在，因此不能以“我”为主体表达事情。也因为没有“我”的意识，因此从来不会违抗程序员的命令，只会服从。同样也不能以“我”为中心思考高一层次的决策。

未来人工智能有可能形成“我”的概念吗？自我意识问题目前几乎接近于哲学探讨，还没有好的科学研究结论。我们到最后再做这方面的讨论。

姑且不论自我意识问题，现在只讨论，缺少元认知，对于变成超级智能有什么阻碍吗？为什么一定要元认知呢？“阿尔法狗”不用知道自己为什么赢，赢了不就行了？

最大的问题在于，缺乏元认知，有可能是抽象理解程度不够的缘故。

“自我表征能力”既涉及自我，也涉及表征，表征就是抽象表达信息的能力。

举个简单的例子，对于同一件事的说法，最具象的表达是“10101010101010……”，稍微抽象一层的表达是“用某色棋子争夺地盘”，再抽象一层的表达是“下围棋”。最后一个层次不仅是对步骤的表达，更是对整个行为——我正在从事这个游戏——的表达，需要跳出游戏。每一层次抽象都需要一种更高层次的审视。