分析:人工智能的腦子裏究竟在想什麽?

論文類別:計算機論文 > 互聯網研究論文
上傳時間:2016/2/21 14:24:00

  (免費論文下載中心訊)如今,神經網絡的用處非常廣泛——但我們並不知道它們究竟是如何工作的。現在,計算機科學家終於得以開始一窺AI的“思想”。

  了解某人心裏的想法,就更能理解他的行為。對人工智能(AI)也同樣如此。最近,一項新的技術能夠在神經網絡處理問題時“抓拍快照”,將能有助於我們了解神經網絡究竟是如何工作的,並能為我們帶來更好、更值得信任的AI。

  過去幾年,構建於神經網絡(多層相互連接的人工神經)之上的深度學習算法在AI的許多領域都取得了突破性的進展,包括自然語言處理、圖像識別、醫療診斷和下圍棋。

  但有一個問題困擾著人們,那就是我們並不知道它們是如何做到這些的。以色列理工學院的Nir Ben Zrihem說,深度學習系統是一個黑盒子。“如果它運轉良好,那很好。如果它不工作,你就慘了。”

  神經網絡遠遠大於它的各部分之和。它們的組成單元非常簡單——就是人工神經。Zrihem說:“你沒法指著神經網絡中的一個區域,然後說,智能就存在於此。”但是連接的復雜性意味著我們有可能追蹤深度學習算法到達某個給定結果的步驟。在這種情況下,機器表現得很像一個先知,而它的結果則不證而明。

  為了解決這個問題,Zrihem和他的同事創造出了深度學習的實時圖像。他們說,這項技術就像計算機的fMRI(功能性核磁共振),可以捕捉到算法解決問題時的行為。這些圖像允許研究者追蹤神經網絡進程中的不同階段,包括死胡同。

  為了得到這些圖像,這個團隊交給一個神經網絡一項任務——玩經典的Atari 2600電子遊戲:《打磚塊》(Breakout)、《海底救人》(Seaquest)和《吃豆人》(Pac-Man)。當這個深度學習算法玩遊戲時,他們收集了這個算法的12萬張“快照”。接著,他們采用一種技術繪制了這些數據的圖譜,這種技術允許他們對遊戲中反復嘗試的場景進行比較。

  結果真的很像真正的大腦掃描圖(如下圖,左邊是《海底救人》,右邊是《吃豆人》)。只不過在這個案例中,每個點都是一個“遊戲狀態(game state)”,也就是遊戲中每個時間點的一張快照。不同的顏色代表AI在那個時間點的表現如何。

  比如說,在《打磚塊》中,玩家必須用一根橫條和一個小球在彩色磚塊組成的墻上撞出一個洞。每次算法嘗試在墻上鉆出一條隧道並把小球逼入墻頂區域時,這個團隊就會在圖譜中發現一個明顯呈香蕉形狀的區域,這就是算法自己找出來的獲勝技巧。繪制過關技巧的圖譜,讓研究者能追蹤該算法如何成功地將技巧運用在後續的遊戲中。

  在《海底救人》中,玩家必須要躲避、收集或毀壞某些物體,並救起水下的潛水者才能獲勝。這個遊戲對AI來說更難掌握。在這些圖譜中,研究者發現了數不清的失敗策略,比如說在營救潛水者之前等待太長時間。Zrihem說,算法進行再次訓練時,這些細節可能十分有用。

  構建一個完美的遊戲策略是一件很好玩的事。對AI進行掃描則可以幫助我們磨煉算法,以設計出解決真實問題的算法,美國懷俄明州立大學的Jeff Clane如此說道。Clane對圖像識別算法的研究讓他創作出了一些可以迷惑神經網絡的“錯覺”,能讓神經網絡認為圖片上的某處存在一些實際上並不存在的東西。

  比如說,一個安全算法可能存在某些缺陷,讓它在某些特定的情況下很容易被愚弄。還有一些算法,本是設計來確定銀行是否應該向某人發放貸款,結果它可能會對某些特定種族或性別的人產生偏見。Clane說:“如果你將這項技術部署到真實世界,你會想要理解它究竟是如何工作的,以及它在什麽情況下可能會失效。如果我們能更好地理解神經網絡,那我們就能理解它們的弱點,並增強它們的長處。”(來源:機器之心 編選:中國電子商務研究中心)

下载论文

論文《分析:人工智能的腦子裏究竟在想什麽?》其它版本

互聯網研究論文服務

網站聲明 | 聯系我們 | 網站地圖 | 論文下載地址 | 代寫論文 | 作者搜索 | 英文版 | 手機版 CopyRight@2008 - 2017 免費論文下載中心 京ICP备17062730号