了解某人心里的想法，就更能理解他的行為。對人工智能(AI)也同樣如此。最近，一項新的技術(shù)能夠在神經(jīng)網(wǎng)絡處理問題時「抓拍快照」，將能有助于我們了解神經(jīng)網(wǎng)絡究竟是如何工作的，并能為我們帶來更好、更值得信任的AI。

　　過去幾年，構(gòu)建于神經(jīng)網(wǎng)絡(多層相互連接的人工神經(jīng))之上的深度學習算法在AI的許多領(lǐng)域都取得了突破性的進展，包括自然語言處理、圖像識別、醫(yī)療診斷和下圍棋。

　　但有一個問題困擾著人們，那就是我們并不知道它們是如何做到這些的。以色列理工學院的Nir Ben Zrihem說，深度學習系統(tǒng)是一個黑盒子?！溉绻\轉(zhuǎn)良好，那很好。如果它不工作，你就慘了。

　　神經(jīng)網(wǎng)絡遠遠大于它的各部分之和。它們的組成單元非常簡單——就是人工神經(jīng)。Zrihem說：「你沒法指著神經(jīng)網(wǎng)絡中的一個區(qū)域，然后說，智能就存 在于此?！沟沁B接的復雜性意味著我們有可能追蹤深度學習算法到達某個給定結(jié)果的步驟。在這種情況下，機器表現(xiàn)得很像一個先知，而它的結(jié)果則不證而明。

　　為了解決這個問題，Zrihem和他的同事創(chuàng)造出了深度學習的實時圖像。他們說，這項技術(shù)就像計算機的fMRI(功能性核磁共振)，可以捕捉到算法解決問題時的行為。這些圖像允許研究者追蹤神經(jīng)網(wǎng)絡進程中的不同階段，包括死胡同。

　　為了得到這些圖像，這個團隊交給一個神經(jīng)網(wǎng)絡一項任務——玩經(jīng)典的Atari 2600電子游戲：《打磚塊》(Breakout)、《海底救人》(Seaquest)和《吃豆人》(Pac-Man)。當這個深度學習算法玩游戲時，他們收集了這個算法的12**理解它們的弱點，并增強它們的長處。