滿足多元應用效能 AI專用神經網路加速器登場

2017-11-06
人工智慧(AI)商機水漲船高。支援AI技術的卷積神經網路(CNN)、迴圈神經網路(RNN)和長短期記憶網路(LSTM)在內的神經網路,正推動各個產業的爆發性技術進展;為進一步提升AI應用效能,Imagination於日前發布全新神經網路加速器--PowerVR 2NX NNA,支援無人機、智慧汽車、行動裝置與工業自動化等,實現神經網路的高性能運算。
Imagination PowerVR市場行銷資深總監Chris Longstaff表示,神經網路加速的專用硬體將成為未來SoC的標準IP模組,能有效地執行所有常見的神經網路運算層。
神經網路可用到各式不同範圍,且這也是現在正在發展當中的關鍵技術。Imagination PowerVR市場行銷資深總監Chris Longstaff指出,在這些領域中,若要成功一定要有高性能的神經網路加速器硬體支援,才能達到應有效能。舉例而言,無人機防撞系統,一般而言只有10~15公尺的防撞距離,若導入AI神經網路加速器,支援飛行速度每小時超過150英里的高速,可在不到1公尺的範圍內避開物體,並滿足多網路同時運行,以同時辨別及追蹤物體,避免碰撞發生。 

事實上,高階GPU已可以滿足大多數的AI應用,在此狀況下,新型的AI神經網路加速器與高階GPU差異在哪裡呢?Longstaff以影片的案例分析,若使用手機錄影,透過神經網路加速器,可在影片拍攝過程中,即時在影片內容貼上標籤,例如針對某個人、事、物上貼上不同的標籤,讓手機校能體驗達到最佳化。而現階段的GPU效能,根本無法實現這類型的同步網路功能應用。 

此外,神經網路加速器亦可滿足手機同時進行不同任務的功能,例如手機在進行語音通訊過程中,可執行語音指示或做讀唇的動作,提供異於以往的革命性應用出現。 

一直以來,神經網路非常耗費頻寬,因此記憶體的頻寬需求會隨著神經網路模型規模的增長而增加,這會為SoC設計人員和OEM在設計系統時帶來重大的挑戰,以求提供NNA所需的頻寬。神經網路加速器能最小化外部DDR記憶體的頻寬需求,確保系統的性能不會受到頻寬的限制,且提供各種不同位元深度的數據類型。 

Longstaff談到,神經網路加速器和系統其他布建連結很有彈性,具備可擴充架構,支援未來開發的不同性能與特點的內核,以滿足不同的市場需求。再者,該公司本身具有DNN API,同時可與其MIPS GPU和PowerVR 2NX硬體支援溝通,提升相對於其他競爭對手的優勢。

本站使用cookie及相關技術分析來改善使用者體驗。瞭解更多

我知道了!