非科幻思考（第6/17頁）

人工智能識別人類情感和意圖，還有可能有更本質的困難，那就是人工智能無法以自己映照他人。

人類識別他人的情感和意圖，並不是因為大數據學習。實際上人一生能遇見的人、交談和交往的經歷都是很有限的。人能夠從少數經歷中學到有關他人的很多情感和行為知識，能直覺感知他人的心境，不是因為人類頭腦處理能力更快，而是因為人類能夠以自己映照他人，將心比心。

最直接的映照，是鏡面反射。人腦中有一些細胞，能夠直接反射他人的行為意圖，叫作鏡像神經元。這種神經元不僅人類擁有，在較高級的靈長類動物頭腦中也有。當一個人看見另一個人拿起錘子，自己即使手裏沒有錘子，與“動手砸”相關的神經元也會“亮”起來。

這種“讀懂他人”屬於生理性質的，大腦對他人的意圖直接有反映，反映出來的意圖，可以被觀看者直接感受到，因此叫“鏡像神經元”。人工智能可能生成這種直接的反映嗎？缺乏生理共同點，應該不太可能。

另一方面，人們可以用自我觀察映照出他人的情感和意圖。面對一個情境的分析，人們可以把自己代入同樣的情境，假想自己會有什麽樣的感情。能夠讓人悲歡離合的影視文學，就是因為人有代入感，才會讓人喜愛。這一方面來源於人類的情感相似性，都有人之常情，另一方面人可以通過讀取自己的心思過程，以己度人。

也就是說，人類對他人的理解，除了可以“外部觀察”和“語言交流”，還能有“內部觀察”。事實上，“內部觀察”是如此強大，我們對於很多從來沒見過的事情，只要代入自己想想，就能對其中的前因後果猜出個大概。現在的問題是，如果機器完全沒有類人的情感，僅靠“外部觀察”和“語言交流”，能達到同樣的理解他人的效果嗎？我不知道。

以上討論全都是建立在人工智能沒有類人情感的前提下，只考慮技術上如何學習理解人類情感。那麽人工智能是否有可能產生類人情感呢？這是另一個問題了，本文結尾的時候會有一些討論。

僅靠“外部觀察”能否理解他人的情感和意圖，還涉及另一個更客觀的問題：大數據統計能否預知個體行為。

統計學永遠只告訴我們系統信息，即便每個人都是完全不一樣的隨機數，在大數定理的保證下，也能呈現一些穩定的集體特征。然而這種穩定的集體特征並不能預測每一個個體，對“人類行為”的學習不等於對“個人行為”的學習。舉個例子，如果一個人被人罵會怎樣，這幾乎是一個沒法靠大數據統計學習得出答案的問題。有的人會忍，有的人會打人，有的人會報告執法機構，有的人會暗中尋求報復，有的人會嬉笑，有的人會哭，每類幾乎都有很多。在大數據統計研究中，相關性會非常弱，最終你仍然不知道某個具體個人會如何做出回應。每個人的不同反應取決於個性、場景、社會地位、個人經歷、文化群體、習慣等，而如果控制了所有這些變量，每個群體內的個體又會變得極少。外在條件相似的兩個人面臨同樣的情境可能反應天差地別。所有這些個體差異，都給通過大數據統計預測個體行為帶來很大的不確定性。人對他人最可靠的預測仍然來自對他人內心世界的理解。

當然，這多少算是題外話。我們還是回到主題。

第三個難點，自我表征的能力。

在上面，我們已經提到了自我觀察問題，但還僅限於理解情感方面。那如果不涉及情感方面呢？機器學習純理性知識總是無比強大的吧？

我們會看到，即便是在純理性知識方面，目前的機器學習也不是完美無缺的，其中之一就是“元認知”問題。

目前，即便是“阿爾法狗”下棋天下無敵，也有明顯的局限：

第一，它說不出自己在做什麽。“阿爾法狗”沒有對自我的觀察。它不知道自己正在“下圍棋”，而只是根據輸入數據計算勝利的路徑，至於是什麽遊戲的勝利，它並不清楚也不關心，勝利了也不會高興。

第二，它說不出自己為什麽這麽做。“阿爾法狗”的“深度學習”，目前是一種“黑箱”學習。人們給它數據輸入，看到輸出，可是它不知道中間發生了什麽。人們覺得它奇著百出，不知道為什麽，非常神秘。而它自己也說不出自己是如何思考的。

從某種程度上說，人工智能目前就像電影《雨人》中的那類自閉的孩子：一眼就數得清地上的牙簽、能心算極大數字的乘法、背得下來全世界的地圖，卻答不出有關自己的問題。它只懂研究每秒300盤的棋路，卻不知道“我正在下棋”這件事。