寒武紀科技 神經網路 邊緣運算 AI 人工智慧 智慧城市

從遠在雲端到近在邊緣 人工智慧吹起精簡高效風

2018-02-05
AI產業發展從雲端逐漸轉移到終端,其中重點包括精簡神經網路架構、降低資料量需求、採用AI專用晶片等,AI的邊緣運算帶來下一波產業成長契機,能夠認清自身優勢積極投入就可望開創全新的局面。
五十年前就開始發展的神經網路(Neural Network),近年來在資料、運算、演算法三大基礎要素到位之後,正式於2016年如平地一聲雷般的爆發,2017年整個科技產業都為人工智慧(Artificial Intelligence, AI)而瘋狂,拜AlphaGo所賜,深度神經網路是目前AI發展的焦點,在機器學習的眾多演算法中,模仿人類腦神經架構的神經網路是目前發展的焦點。 

而經過一整年的追逐,科技產業發展AI的腳步逐漸出現較有秩序的步伐,其中神經網路很迅速地從追求高層數、高準確率的龐大架構,走向精簡網路層數與準確率,並將運算從不具效率的雲端往邊緣移動。而神經網路的深度學習演算法,需要大量平行與矩陣運算,有別於傳統CPU的高效序列運算,而模仿人類腦神經架構所製成的晶片,可提供更好的運算效能。 

縮小網路層數  降低資料量  

過去幾年在著名的機器視覺競賽ImageNet,為求準確率,幾百甚至上千層的神經網路模型不斷被提出,但大型神經網路深度學習模型需耗費大量運算資源。目前一般影像辨識模型大小約500M以上,自然語言處理約10G以上,機器翻譯模型則達500G,加上這些模型需要大量運算資源,以目前個人隨身裝置最需要AI功能的智慧型手機而言,導入這些功能模型有相當的難度。 

因此,透過模型壓縮技術將模型縮小,維持運算效能且不犧牲準確率,有以下幾個方式如:剪枝,將權重小的網路分支直接剪掉;參數共享,把相近參數的網路直接用相同的參數替代;降低精度,把原始參數32bit浮點數降低;二進位化,將所有參數改為二進位等。另外,人類獨有的深層認知能力,是機器所沒有的,人類只要少數樣本便能學習特定事物,比如認出一隻貓,機器需要透過數百萬張照片的訓練,人類只要一張。 

降低資料需求是AI發展邊緣運算(Edge Computing)的另一個趨勢,尤其是多數企業僅有小數據或欠缺大數據,即使資料量足夠,但現有監督式學習仍需要標籤後的資料,而逐一為資料加上標籤的成本很高。2017年人工智慧會議AAAI 2017的最佳論文得主,即為可利用無標籤資料進行學習之演算法;部分廠商如Mumenta與Geometric Intelligence也致力於發展模仿人腦的演算法,讓深度學習降低資料需求,或是透過自行創造資料滿足神經網路資料運算需求。 

AI專用晶片開發大戰 

除了為網路與資料瘦身之外,眾所周知CPU不適合神經網路運算,繪圖晶片GPU的浮點與平行運算能力適合神經網路運算,但功耗較高,亦不適合終端可攜式產品應用;而FPGA的可編程特性,具備運算靈活性,但單價高產量少,可協助神經網路早期運算需求;近期則有越來越多廠商投入開發AI專用晶片,如AI優化處理器(AI-Optimized Processor)、深度學習處理器(Deep Learning Processor)、AI加速器(AI Accelerator)、神經處理單元(Neural Processing Unit, NPU)。 

AI晶片理論上是以生物神經系統的構成、訊號傳遞與運算記憶功能進行電子電路材料、元件、電路模擬、電路設計、運算架構、演算法、系統等的工程仿真,包括突觸、神經元、脈衝神經網路,概念上如同每顆處理器皆搭配專用記憶體。IBM於2012與2014年相繼發表神經突觸(Neurosynaptic)晶片TureNorth,但因為架構差異,導致程式撰寫困難,在商業化量產時卡關。 

Intel近年大舉併購多家AI新創公司,展現進軍該領域的決心,也有消息傳出該公司正在研發AI晶片Loihi,有128核心,每核有1,024個人工神經元,總計一顆晶片有13萬個神經元與1.3億個突觸連接,預計2018年發表供學術研究。而Google自2013年起收購11家AI團隊,申請超過120個專利;Apple則併購7家AI公司並申請15個AI相關的專利。Samsung、Amazon、Facebook等也都積極布局相關技術與產品。 

2017年同時在業界掀起一股AI晶片的研發風潮,除了上述的大廠之外,也有許多新創團隊積極投入,大陸新創團隊寒武紀科技(Cambricon Technologies)2017年8月已經完成1億美元A輪融資,吸引阿里巴巴、聯想、中科圖靈等資金。另外,華為更率先於其手機中搭載由海思開發的AI晶片,台灣也出現有Qualcomm AI部門經驗的新創團隊Kneron(耐能)。 

掌握產業契機  認清自身優勢  

由於AI已經展現初步的能力,雖然目前還不知道AI的技術功能可以提升到甚麼境界?接下來會遭遇到甚麼瓶頸?但可以預期的是,在未來二~三年,AI都還會是科技產業重要的話題之一,台灣的公私部門在這波浪潮下也躍躍欲試,希望能占有一席之地。 

每次新的科技趨勢都是一個新的機會,從AI的技術需求來看,台灣的機會並不差,包括人才與軟硬體技術,AI的邊緣運算發展對台灣更是有正面的幫助,台灣缺少超大型科技公司,邊緣運算的重點就是簡化的神經網路與資料庫,與台灣科技業特性相符,還有適合行動終端的AI專用晶片,新的改變帶來新的機會,AI的邊緣運算帶來下一波產業成長契機,能夠認清自身優勢積極投入就有機會開創全新的局面。

本站使用cookie及相關技術分析來改善使用者體驗。瞭解更多

我知道了!