「神經生成」研究催生最新AI演算法

2017-09-01
作者 R. Colin Johnson, EE Times前瞻技術編輯

IBM開發的一種新演算法解決方案,是以生物學家在神經生成方面的最新發現為基礎。

為何人腦能每天學習新事物,而且不必拋棄舊有記憶為新記憶騰出儲存空間?正在開發模仿人腦的機器演算法之研究人員,試圖尋找各種答案。

一個相對較新的演算法解決方案,是以生物學家在神經生成(neurogenesis)──也就是新腦細胞(神經元)的成長,以及舊腦細胞的消滅,還有這些腦細胞之間的大大小小連結(較強或較弱的突觸);主要是在海馬迴(hippocampus)內──方面的最新發現為基礎。

IBM Research的一個研究團隊假設,神經生成是海馬迴內稀疏字典學習(Sparse dictionary learning)的關鍵;他們認為,其功能是將最高效率的大腦編碼保持在最新狀態。

為了證實他們對於海馬迴內的神經生長、死亡功能之假設,IBM Research研究人員開發了神經生成線上字典學習(neurogenetic online dictionary learning,NODL)演算法,號稱表現超越標準的ODL演算法,透過建立更精簡的表示方法(representation),改善了重建的準確度。

IBM是在8月底於澳洲墨爾本舉行的IJCAI 2017國際人工智慧聯合會上發表其最新研究成果;IBM Research的AI基礎研究團隊科學家Irina Rish接受EE Times專訪時表示:「人們總是認為,所有的腦細胞都是跟我們一起誕生,這些細胞可能會死亡,但是不會有新的腦細胞出生;但事實證明,很多大腦的幹細胞(stem cells)是可以被打開,例如可取代受損的細胞。」

她表示,在海馬迴內的大腦幹細胞一直處於開啟狀態,以製造新的神經元支援更好的大腦編碼;同樣的,糟糕的編碼會讓該神經元死亡。

20170901_IBM_NT01P1

IBM的研究團隊用標準化影像資料集來評估其NODL演算法;從圖中可見NODL (藍色)表現超越ODL (紫色),藉由建立了更精簡的表示方法改善了重建準確度
(來源:IBM Research)

Rish是專攻人工智慧的電腦科學家,她第一份工作是在IBM的機器學習團隊,研究如何利用AI來診斷疾病;後來她轉調IBM的運算神經科學(computational neuroscience)團隊,現在則是加入AI基礎研究實驗室(AI Foundations Lab),負責開發深度學習以外模擬人腦各方面微妙功能的演算法:「我們是第一個針對海馬迴幹細胞神經元生/死功能進行詳盡分析的團隊。」

IBM在IJCAI大會上,以「神經生成啟發字典學習:適應世界變化的線上模型」(Neurogenesis-Inspired Dictionary Learning: Online Model Adaption in a Changing World)為題,分享了其神經生成線上字典學習模型,具備能適應環境改變的加強能力,並展示了其NODL演算法在準確度上超越標準ODL的成果。

Rish的團隊並沒有嘗試模仿海馬迴內的神經生成,因為歐盟的Blue Brain研究專案正在進行這方面的研究;IBM研究人員試圖揭開神經生成功能奧秘,然後將結果導入軟體演算法,以執行相同的功能。Rish的團隊並假設海馬迴中的齒狀迴(dentate gyrusof),能改善認知功能,包括識別與分辨圖形。

深度學習演算法通常是模仿人腦的神經可塑性(neuroplasticity)──也就是突觸的使用增加就能使之強化,反之突觸很少使用就會萎縮;而神經生成透過新生成稀疏神經網路來完成全新任務,又藉由讓老舊、很少使用的神經元死亡來徹底抹除過時任務,如此為機器學習添加全新的面向,能定義全新的感知資料集「字典」、同時淘汰舊的,以回應環境的改變。

Rish表示:「神經生成解釋了人類的終身持續學習是如何完成──也就是那些新的、經壓縮的資料編碼是如何能精煉過去非常大的架構,例如將龐大的深度神經網路以簡潔的版本取代,如此在運作上就能更快速、性能更好;」她指出,IBM的NODL模型對於今日快速變化的環境特別具有優勢,神經的死亡與神經新生、還有以突觸為基礎的深度學習同等重要,

編譯:Judith Cheng

(參考原文: IBM Boosts Brain Understanding,by R. Colin Johnson)

活動簡介
未來寬能隙半導體元件會在哪些應用成為主流?元件供應商又會開發出哪些新的應用寬能隙元件的電路架構,以協助電力系統開發商進一步簡化設計複雜度、提升系統整體效率?TechTaipei「寬能隙元件市場與技術發展研討會」將邀請寬能隙半導體的關鍵供應商一一為與會者解惑。
贊助廠商
訂閱EETT電子報