盤點:2018 年關於深度學習的10個預測

論文類別:計算機論文 > 互聯網研究論文
上傳時間:2018/1/10 17:39:41

  (免費論文下載中心訊)2018年,所有的事情都會發生巨變。我們在2017年看到的深度學習取得的驚人突破將會以一種強大的方式延續到2018年。2017年在深度學習領域的研究成果將會應用於日常的軟件應用中。

  下面是對2018年深度學習的10個預測:

  (1)大部分深度學習領域的硬件創業公司都將失敗

  很多深度學習硬件創業公司將在2018年開始交付他們的矽產品(深度學習硬件的核心部件是由晶體矽構成)。其中的大部分公司都將破產,因為他們忘了交付好的軟件來支持他們的新解決方案。這些創業公司的DNA是硬件。不幸的是,在深度學習領域,軟件與硬件同樣重要。這些初創公司大多不懂軟件,也不懂得開發軟件的成本。這些公司可能會交付矽產品,但是沒有任何東西能在這些產品上運行。

  研究人員將開始使用這些張量計算核心,不僅用於推理,還會用於加速訓練。英特爾的解決方案將繼續被推遲,很可能會讓人失望。記錄顯示,英特爾無法在2017年年中實現這一計劃,而且所有人都不知道該公司何時會發布這一消息。Google將繼續用機器學習芯片TPU來給世界帶來驚喜。也許GOogle通過將其IP授權給其他半導體廠商來進入硬件行業。如果它能繼續成為除英偉達以外唯一的真正玩家,它這麽做是有意義的。

  (2)元學習將會成為新的SGD

  2017年,在元學習領域出現了很多有分量的研究成果。隨著研究群體對元學習有更好的理解,舊的隨機梯度下降法(SGD)將會被擱置,取而代之的是一種結合了開發和探索性的搜索方法的更有效的方法。無監督學習的進展將會出現遞增,但它主要是由元學習算法驅動的。

  (3)生成模型驅動一種新的建模方式

  關於生成模型的科學研究將會越來越多。目前,大多數研究都是在生成圖像和語音領域開展的。但是,我們會發現這些方法將被集成到用於建模復雜系統的工具中,其中就包括深度學習在經濟建模裏的應用。

  (4)自我博弈學習是自動化的知識創造

  AlphaGo Zero和AlphaZero是從零開始通過自我博弈學習是一次巨大的飛躍。在我看來,它的影響與深度學習的出現帶來的影響是同等重要的。深度學習發現了通用的函數逼近器,強化式自我博弈學習發現了通用的知識創造方式。我期待看到更多與自我博弈學習相關的進展。

  (5)直覺機器將縮小語義鴻鴻溝

  這是我做的一個最雄心勃勃的預測。我們將會縮小直覺機器和理性機器之間的語義鴻溝。雙重過程理論(Dual process theory)(兩種認知機器的概念,一種是無模型的,另一種是基於模型的)將會成為關於我們應該如何構建新的人工智能的更普遍的概念。在2018年,人工直覺的概念將不再是一個邊緣概念,而是一個被普遍接受的概念。

  (6)解釋能力是無法實現的——我們必須偽造它

  解釋能力存在兩個問題。其中比較常見的一個問題是,這些解釋有太多的規則,人們通常無法完全掌握。第二個問題就不那麽常見了,那就是機器會創造出一些完全陌生的、無法解釋的概念。我們已經在AlphaGo Zero和Alpha Zero的策略中看到了這一點。人類會發現它們下棋時走的有些棋是違反常規的,但可能僅僅是因為人類沒有能力去理解它走這一步棋背後的邏輯。

  在我看來,這是一個無法解決的問題。取而代之的是,機器將變得非常善於“偽造解釋”。簡而言之,可解釋機器的目的是理解讓人類感到舒服的解釋或者在人類直覺層面上能夠理解的解釋。然而,在大多數情況下,人類無法獲得完整的解釋。

  我們需要通過創造虛假解釋來在深度學習中取得進展。

  (7)深度學習領域的研究成果會成倍增加

  2017年,人們已經很難掌握全部的深度學習研究成果了。在2018年ICLR大會上提交的論文數量約為4000份。為了趕上會議時間,一位研究人員每天必須要閱讀10篇論文。

  這個領域的問題還在進一步惡化,因為理論框架都在不斷變化中。為了在理論領域取得進展,我們需要尋找能夠讓我們擁有更好的洞察力的更先進的數學運算方法。這將是一個艱難的過程,因為大多數深度學習領域的研究人員都沒有相應的數學背景來理解這些系統的復雜性。深度學習需要來自復雜性理論的研究人員,但這類研究人員是少之又少的。

  由於研究論文太多和理論的欠缺,我們現在處在一種非常尷尬的境地。同樣缺失的是通用人工智能(artificial general intelligence)的一般路線圖。因為理論很薄弱,我們能做的最好的事情就是創建一個與人類認知相關的裏程碑路線圖。我們只有一個來源於認知心理學的推測理論的框架。這是一個糟糕的情況,因為來自這些領域的經驗證據是參差不齊的。

  在2018年,深度學習方面的研究論文可能會增加三到四倍。

  (8)工業化是通過教學環境實現的

  通往可預測性和可控制性更強的的深度學習系統的發展之路是通過具體的教學環境的發展來實現的。如果你想找到最原始的教學方法,你只需要看看深度學習網絡是如何訓練的就行。我們將在這個領域看到更多的進展。

  預計會有更多的公司披露他們的內部基礎設施,解釋他們是如何大規模地部署深度學習的。

  (9)會話認知的出現

  我們衡量通用人工智能(AGI)進展的方式已經過時了。需要有一種新的模式來解決現實世界的動態(即非平穩)復雜性。我們在2018年將能看到更多關於這個全新領域的報道。

  (10)我們需要人工智能應用於道德領域

  對人工智能更多地應用於道德領域的需求將會增加。現在,人們越來越意識到自動化失控造成的意想不到後果所帶來的災難性影響。我們今天在Facebook、Twitter、谷歌、亞馬遜等網站上發現的簡單的自動化可能會對社會產生副作用。

  我們需要理解部署能夠預測人類行為的機器的倫理道德。面部識別是我們擁有的最危險的能力之一。作為一個社會,我們需要要求自己只為了社會的整體利益而使用人工智能,而不是將人工智能作為增加不平等的武器。

  在接下來的一年裏,我們將會看到更多關於道德的討論。然而,不要期望會有新的規定出臺。在理解人工智能對社會的影響方面,政策制定者往往是落後好幾年的。我不期望他們停止玩弄政治、去開始解決真正的社會問題。美國人民已經成為眾多安全漏洞的受害者,但我們沒有看到政府通過新的立法或采取什麽行動來解決這個嚴重的問題。所以我們自己也不要盲目樂觀期待。(來源:網易智能 文/Carlos E. Perez 編選:中國電子商務研究中心)

下载论文

論文《盤點:2018 年關於深度學習的10個預測》其它版本

互聯網研究論文服務

網站聲明 | 聯系我們 | 網站地圖 | 論文下載地址 | 代寫論文 | 作者搜索 | 英文版 | 手機版 CopyRight@2008 - 2017 免費論文下載中心 京ICP备17062730号