原標題：Keras之父Fran?ois Chollet：棋下得好、游戲玩得棒未必就是真智能 來源：機器之心
作者：James Vincent
機器之心編譯
12 月 21 日，李世石在對戰(zhàn)圍棋人工智能「韓豆」的第三局比賽中再次落敗，以總分 1:2 惜敗于 AI。而縱觀李世石的圍棋職業(yè)生涯，他也是唯一擊敗過 Alphago 的人類。
可以這樣說，AI 在圍棋中表現(xiàn)出來的智能水平明顯要高于人類。那么究竟如何衡量 AI 的智能水平？目前所宣傳的「在 Dota 2 或圍棋等單個游戲競技項目中擊敗人類」是否宣示著超級智能 AI 即將出現(xiàn)呢？對超級智能 AI 的恐懼合理嗎？
在接受 The Verge 的郵件訪談中，Keras 之父、谷歌軟件工程師 Fran?ois Chollet 對這些問題進行了解答。
谷歌 AI 研究員、Keras 之父 Fran?ois Chollet。
衡量 AI 的智能水平是計算機科學領域最棘手、也最重要的問題之一。如果你不能判斷今天構建的機器是否比昨天更聰明，那你又如何知道是否有所進展呢？
乍一看，這似乎不成問題。常見的一個回復是「很明顯 AI 越來越智能。不信你看投入到該領域的金錢和人才，以及多個里程碑事件，如人工智能打敗圍棋冠軍、十年前無法實現(xiàn)的應用今天已經(jīng)變得普遍，如圖像識別。這怎么能說是沒有進步呢？」
而另一個回復是這些成就不能算是衡量智能水平的合適指標。人工智能擊敗國際象棋和圍棋人類選手確實令人震驚，但最聰明的計算機能否在解決通用問題時超越蹣跚學步的兒童甚至一只老鼠？這才是關鍵。
這是 AI 研究者 Fran?ois Chollet 提出的批評。Chollet 是谷歌軟件工程師，機器學習大牛，創(chuàng)造了 Keras 這一廣泛用于開發(fā)神經(jīng)網(wǎng)絡的程序，而神經(jīng)網(wǎng)絡正是目前 AI 的主干。他還著有大量機器學習教材，并經(jīng)常在 Twitter 上發(fā)表對人工智能領域的見解。
在其近期論文《On the Measure of Intelligence》中，Chollet 提出 AI 需要重新審視「什么是智能，什么不是智能」。Chollet 表示，如果研究者想要向著通用人工智能方向努力，那么他們必須超越之前的流行基準（如電子游戲和棋盤游戲），并開始思考使人類聰明的真正技巧，如泛化和適應能力。
最近，The Verge 對 Chollet 進行了一次郵件采訪，采訪中 Chollet 解釋了他對人工智能領域的想法，包括為什么他認為人工智能領域的當前成就被「歪曲」、未來我們要如何衡量智能，以及（Elon Musk 等人所說的）關于超級智能 AI 的恐怖故事為何對公眾想象產(chǎn)生不合理的影響。
AI 領域兩種不同的智能概念以及不斷變化的 AI 性能衡量指標
問題 1：您在論文中介紹了塑造人工智能領域的兩種不同的智能概念。一個認為智能是在大量任務中表現(xiàn)出色的能力，另一個則側(cè)重于適應性和泛化性，即 AI 面對新挑戰(zhàn)的能力。目前哪個框架影響力更大，其結(jié)果是什么？
Chollet：在人工智能歷史的前 30 年中，最具影響力的觀點是前者：智能是一組靜態(tài)程序和顯性知識庫?，F(xiàn)在，鐘擺搖向反方向：AI 領域中定義智能概念的主流方式是「白板」（blank slate），或者說是「初始化的深度神經(jīng)網(wǎng)絡」。不幸的是，這個框架很大程度上未經(jīng)挑戰(zhàn)和檢驗。這些問題已有幾十年的歷史，而我并未看到目前人工智能領域?qū)Υ擞懈嗾J識，可能因為現(xiàn)在大部分做深度學習的人是在 2016 年之后才進入該領域的吧。
這種知識壟斷從來不是好現(xiàn)象，尤其是對了解甚少的科學問題。它限制了被問的問題集合，限制了人們所追尋的想法的空間。我認為現(xiàn)在研究者應該清醒面對這一事實。
問題 2：您在論文中還提出 AI 要想有所進展需要對「智能」提供更好的定義。您認為現(xiàn)在研究者只在靜態(tài)測試（如電子游戲和棋盤游戲）中衡量 AI 性能。為什么您認為這一衡量指標存在不足？
Chollet：一旦你選擇了一個衡量指標，你將尋找所有可行捷徑來獲得成功。例如把下國際象棋作為衡量智能的指標（我們從 1970 年代到 1990 年代一直是這么做的），那么你最終將得到一個下國際象棋的系統(tǒng)，僅此而已。你沒法假設該系統(tǒng)適用于其他任務。你最終得到的只是樹搜索和極小極大（minimax）算法，而這無法傳授任何關于人類智能的知識。今天，將智能體在電子游戲（如 Dota 或星際爭霸）中的技巧提升作為衡量智能的指標無疑會使通用智能再一次陷入同樣的知識陷阱。
這對于人類或許并不明顯，因為技巧和智能是緊密相關的。人類大腦能夠利用通用智能獲取特定任務的技巧。擅長國際象棋的人智力肯定很高，因為我們知道他們從零開始，必須使用通用智能來學習下象棋。他們并不是專門為下象棋而設計的。因此我們知道他們可以將通用智能應用于其他任務，并用類似的方式高效學習執(zhí)行這些任務。這是「通用性」的意義。
但是機器沒有這種約束。機器可以專為下象棋設計。因此適用于人類的推斷——「會下象棋的人一定很聰明」不適用于機器。擬人化的假設不再可行。通用智能可以生成特定任務的技巧，但反過來，基于特定任務的技巧生成通用智能是不可行的。因此對機器而言，技巧與智能是完全無關的。你可以在任意任務上獲取任意技巧，只要你能采樣到該任務的無限數(shù)據(jù)（或者使用無限量的工程資源）。而這仍然無法使你接近通用智能半步。
其關鍵在于，不存在這么一種任務——在其上獲得的高級技巧是智能的標志。除非該任務是元任務，需要對大量之前未知的問題獲取新技巧。而這就是我所提出的智能基準。
目前基于游戲環(huán)境的 AI 既不具備泛化性也無法代表真正進展
問題 3：如果目前的基準無法幫助我們開發(fā)具備更通用靈活智能的 AI，那它們?yōu)槭裁催@么流行呢？
Chollet：致力于在特定的著名電子游戲中打敗人類冠軍，主要是由其后續(xù)的新聞報道所驅(qū)動。如果大眾不再對這些華而不實的「里程碑事件」感興趣（它們很容易被誤解為通往超越人類通用 AI 的一步），那么研究者會轉(zhuǎn)而做些別的事。
我對此有些傷感，因為研究應該致力于回答開放的科學問題，而不是為了公關（PR）。如果我打算利用深度學習以超人水平「解決」《魔獸爭霸 3》，那么大家可以確定只要我有足夠的工程人才和算力（大概需要數(shù)千萬美元），我就能達到目標。但是之后呢？關于智能或泛化性，我學到了什么呢？什么也沒有。充其量不過是得到了一些擴展深度學習的工程知識。
因此我認為這并非真正的科研，因為它并沒有教給我們新知識，它沒有回答任何開放問題。如果問題是「我們能否以超人水平玩某游戲？」，那么答案很確定：「能，只要你有足夠密集的訓練場景樣本，并將其輸入到足夠強大的深度學習模型中?！苟@一點我們早就知道了。（在人工智能在 Dota 2 和星際爭霸 2 中達到冠軍水平之前，我就已經(jīng)這么說了。）
問題 4：您認為這些項目的真正成就是什么？這些項目的結(jié)果多大程度上被誤解？
Chollet：我所見到的一個赤裸裸的誤解是：這些具備高超技巧的游戲系統(tǒng)代表通往「能夠處理真實世界復雜性和不確定性的 AI 系統(tǒng)」的真正進展（這是 OpenAI 在其開發(fā)的 Dota 2 AI——OpenAI Five 的新聞稿中所說的話）。然而事實并非如此。如果它們真能代表真正進展，那么這將是無比珍貴的研究領域，但這并不屬實。
拿 OpenAI Five 為例：首先它無法處理 Dota 2 的復雜度，因為它的訓練過程中只使用了 16 個英雄，無法泛化至全場游戲（全場游戲共有 100 多個英雄）。它使用 45000 多年的游戲視頻進行訓練，請注意對訓練數(shù)據(jù)的要求隨著任務復雜度的增加而增長。事實證明訓練得到的模型很脆弱：在 OpenAI Five 對大眾開放后不久，非冠軍人類選手就找到了擊敗它的策略。
如果你希望系統(tǒng)在未來某一天能夠處理真實世界的復雜度和不確定性，那么你必須開始問這樣的問題，比如什么是泛化？如何衡量和最大化學習系統(tǒng)的泛化性？而這與投入多 10 倍的數(shù)據(jù)、計算大規(guī)模神經(jīng)網(wǎng)絡無關，那些只能小幅度提升系統(tǒng)的技巧而已。
智能的衡量標準應更顯性地利用「類人性」
問題 5：那什么是這個領域更好的智能衡量指標呢？
Chollet：簡而言之，我們需要停止在事先已知的任務中評估技巧，比如國際象棋、Dota 或星際爭霸，轉(zhuǎn)而評估模型獲取技巧的能力。這意味著僅使用系統(tǒng)事先不知道的新任務，來衡量系統(tǒng)處理該任務時所具備的先驗知識以及系統(tǒng)的樣本效率（即系統(tǒng)學習完成該任務需要多少數(shù)據(jù)）。達到一定技能水平所需要的信息（即先驗知識和經(jīng)驗）越少，系統(tǒng)的智能程度越高。今天的 AI 系統(tǒng)真的算不上多智能。
此外，我認為我們對智能的衡量指標應該更顯性地利用「類人性」（human-likeness）?；蛟S存在不同類型的智能，但當我們談論通用智能時，類人智能才是我們真正要討論的。這包括理解人類先天具備的先驗知識。人類的學習過程異乎尋常地高效，我們只需少量經(jīng)驗就可以獲得新技能，而且無需從頭開始。人類利用先天的先驗知識以及一生累積的技能與知識。
我在近期的論文中提出一個新的基準數(shù)據(jù)集 ARC，它看起來很像 IQ 測試。ARC 是一組推理任務，其中每一個任務通過少量展示（通常是三個）來解釋，你能夠基于這些展示學習如何完成任務。ARC 主張評估系統(tǒng)所用的每一個任務都應當是全新的，且只能使用類似人類先天知識的知識類型。目前，人類可以解決所有 ARC 任務，且無需任何文字解釋或先驗訓練，但我們目前嘗試過的所有 AI 技術都無法解決 ARC 任務。這是一個巨大的警告，這其中必有什么貓膩，我們需要新的想法。
通用人工智能的進步是否仍然需要依賴算力的投入？
問題 6：投入更多算力可使 AI 繼續(xù)進步，您同意這個觀點嗎？有些人認為，從歷史上來看，這是提升性能的最成功方法。有些人則認為如果還沿著這條路走，我們將很快看到回報遞減。
Chollet：如果是針對特定任務，這個觀點完全正確。對特定任務投入更多訓練數(shù)據(jù)和算力將提升模型在該任務上的性能。但是它對如何獲得通用人工智能沒有任何有益的幫助。
如果你有足夠大的深度學習模型，并針對某個任務在密集樣本上進行訓練，那么該模型將學會解決該任務，不管這個任務是什么——Dota、星際爭霸等等。這非常珍貴，它在機器感知問題上有幾乎無限個應用。唯一的問題在于，你所需的數(shù)據(jù)是任務復雜度的組合函數(shù)，因此即使是稍微復雜的任務也需要極高昂的成本。
比如自動駕駛。數(shù)以億計的訓練場景仍不足以訓練一個安全駕駛汽車的端到端深度學習模型。這就是 L5 級自動駕駛尚未實現(xiàn)的首要原因；其次，最先進的自動駕駛系統(tǒng)主要是符號模型，它們使用深度學習連接這些人工工程模型和傳感器數(shù)據(jù)。如果深度學習可以泛化，那早在 2016 年我們就已經(jīng)實現(xiàn) L5 級自動駕駛了，而且還是以大型神經(jīng)網(wǎng)絡的形式出現(xiàn)。
