非科幻思考（第3/17頁）

最近我們都聽說了新版本的“阿爾法狗零”，依靠自我對弈的強化學習，用3天時間戰勝了老版本的所有“阿爾法狗”。這是很強大的方法。實際上，在“阿爾法狗”的最初版本中，自我對弈的時候也已經用到強化學習。隨機嘗試和正反饋能使得行為很快集中到特定的目標上。

現在問題就來了，還有什麽是人工智能學不會的嗎？

人工智能面臨的瓶頸

如果機器學習這麽厲害，人工智能什麽都能學會，是不是很快就要取代人類了？

可以肯定的是，目前的人工智能還不是什麽都能做，我們離萬能超級人工智能還有很遠的距離。

那是運算速度的問題嗎？如果芯片算力按照摩爾定律、指數增長一直持續，我們會不會很快達到智能的奇點？

我個人的觀點是，不完全是運算速度的問題，即便運算速度持續翻番，也還有一些階梯的困難需要一個一個地跨越。這些困難也許並不是永遠不可能跨越，但至少不是目前的算法能簡單跨越的，而必須有新的算法或者理論突破（其實現在也有很多別的算法，我後面討論）。

說到這裏，閑聊兩句。很多事物的發展是階梯狀的。我們往往容易從一件事的成功，推測未來所有事的成功，然而遇到了下一個挑戰，仍然需要新的等待和突破。

關於人工智能這件事，人們的議論往往太過於“now or never”，要麽認為目前已經條件成熟，只要算力增加，就能奇點來臨；要麽認為這都是癡人說夢，機器永遠學不會人類的心智。但實際上更有可能的是，很遠的未來有可能做到，但需要翻越一個又一個理論台階。

舉一個例子。

從牛頓力學和工業革命時期來看，因為牛頓定律的強大，人們就認為自己解決了世界上所有問題，未來只需要算，就能把一切預測出來。那個時候就有哲學觀認為人就是機械機器。但事情的實際發展是：牛頓定律解決不了所有事。20世紀初，人們把牛頓定律和電磁理論結合起來，相信人類物理學大廈已經完備，只剩下頭頂上的“三朵小烏雲”，然而正是這“三朵小烏雲”，牽扯出了後面的量子力學和相對論，直到現在人們也沒有算出全世界。未來呢？人類有可能完全揭曉宇宙的奧秘嗎？有可能。但仍然有一個一個新的鴻溝。

與之類比，超級人工智能有可能成真嗎？有可能，但不是立刻。技術上還有一個個困難台階需要跨越。“深度學習”不是萬能的，算力也不是唯一重要的因素。

我把人工智能目前還解決不了的問題，也稱為“三朵小烏雲”。

什麽是人工智能目前解決不了的問題呢？我們仍然從“阿爾法狗”說起。

“阿爾法狗”的強大是所有人工智能的強大，它面臨的困難，也是人工智能問題的縮影。

“阿爾法狗”對一些人類認為很困難的問題卻覺得很簡單，對人類認為簡單的問題卻覺得困難。舉一個很小的例子。這樣一個問題：如果一個人從超市的貨架上拿了一瓶酒就跑出門，店員會做什麽？為什麽？它就會覺得困難，難以回答。

如果是一個人，會如何回答這個問題呢？人會覺得這個問題太簡單了啊，店員有可能會直接去追，因為要把店裏的商品追回來；也有可能會打電話報警，因為自己不想冒險；或者告訴老板；或者喊路人幫忙。諸如此類。

但是目前的人工智能會覺得這個問題很難，無法回答。原因主要在於以下幾個方面：

第一，是綜合認知的能力。

第二，是理解他人的能力。

第三，是自我表征的能力。

為什麽人工智能會覺得這些問題難？我們一個一個看。

第一個難點，綜合認知的能力。

這個問題對於我們每個人而言都是非常簡單的，頭腦中甚至一下子就能想到那種畫面感。但對人工智能來說就是很難理解的。為什麽？

最主要的差別在於常識。

當我們理解這段話，我們頭腦中實際上是反映出很多背景信息，包括：（1）他想喝酒；（2）他沒有付錢；（3）酒擺在超市是一種商品；（4）從超市拿東西需要付錢；（5）他沒有付錢就出門是違規的；（6）他是想逃跑；（7）超市店員有義務保護超市商品，不能允許這種事情發生。在所有這些背景信息支持下，我們可以一眼辨認出這個動作畫面的情境。除了我們自然腦補的這些背景信息，也還是有一些小概率背景信息，有可能影響對情境的解讀。也許這個人是店主，有急事出門，如果是店主，自然不用付錢，店員也不會見怪，但這種可能性不大。任何一個情境的解讀都需要大量常識作為背景信息。

常識包含我們習以為常的知識總和，包含我們對整個環境和經濟系統的理解。這些理解都太平常，我們就稱之為常識。人工智能目前還沒有這些常識，它並不知道一瓶酒擺在超市裏和公園裏有什麽差別，也不知道超市買東西的慣例流程。從語法上說，從超市拿酒和從公園拿酒都是符合語法的表達，但我們知道，其中一個合理，另一個不合理。