帳號:
密碼:
CTIMES / 文章 /   
邊緣運算四大核心 實現海量資料處理的最佳佈局
AIoT即將引爆數據海嘯

【作者: 吳雅婷】   2020年06月03日 星期三

瀏覽人次:【3181】
  

物聯網的概念開啟了科技應用的新視野,然而,當越來越多元件走向微型化、智慧化,數據海嘯也隨之而來,如何讓這些裝置以最有效率的方式運作,互通有無,並發揮大數據的優勢,成了當務之急。邊緣運算便是實現運算資源佈局最佳化的關鍵途徑。


要說邊緣運算之於物聯網,可以弔詭地比作自由經濟之於全球化社會。兩者之間的共通點在於進行整合平台上的有效資源分配,經濟探討的是生產資源分配,而邊緣運算則聚焦運算資源分配。


利用不同運算單元的地緣特性,邊緣運算讓特定應用場域中的大小元件得以分工進行資料處理,依終端應用的個別需求實現低延遲、低傳輸成本或功能智慧化。



圖一 : 據ITIS計畫的報告分析,邊緣運算依照應用場域對資料傳輸時間、成本和效能的不同需求,可分為四大應用。(製圖/CTIMES)
圖一 : 據ITIS計畫的報告分析,邊緣運算依照應用場域對資料傳輸時間、成本和效能的不同需求,可分為四大應用。(製圖/CTIMES)

根據ITIS計畫的報告分析,未來科技朝向智慧化發展,有兩大趨勢:智慧裝置本身的運算和感測功能結合,以及裝置間強化溝通能力,後者指的便是邊緣運算。他們進一步剖析邊緣運算的四大應用:


1.成本導向的大規模資料傳輸應用:智慧城市、智慧製造、智慧建築、智慧能源、高畫質影音傳輸、VR


2.效能導向的即時協作應用:智慧金融、智慧安全、智慧電網、智慧農業;ITIS以「服務可及性」描述此類應用,亦即透過縮短延遲來提升自動化應用的效能。


3.效能與時間導向的體驗優化應用:人臉辨識、語音服務、智慧零售、VR


4.時間導向的安全應用:自駕車、無人機、智慧交通、智慧醫療


ITIS指出,市場需求最強勁的是安全應用,但這類應用的技術門檻也最高,因為對系統可靠性和運算即時性有較高要求,實際導入需要較長的開發時程。


相對而言,工業4.0或智慧製造是相對較早開始部署邊緣運算的應用場域。邊緣運算不僅能實現低延遲的即時資料處理,甚至能以低功耗提供終端足夠的頻寬來執行AI推論,這能大幅提升元件智慧化的可行性與效能。


過去以資料中心為主的集中式運算架構,在人工智慧普及化的時代,仍會負責執行大量且複雜的運算,像是機器學習、AI建模,方便管理並確保資料安全性,但其缺點是傳輸資料、運算和維護需要高成本。而邊緣運算的出現,可以補足這塊運算需求,協助分擔不需複雜運算,卻仍大量的資料處理工作,像是AI推論。


運用分散式架構,邊緣運算除了讓智慧化元件得以開枝散葉,更重要的是提供了整體運算系統一套高效率的管理機制。未來雲端和邊緣的運算系統將各自完善並相互整合,實現物聯網的理想。


針對邊緣運算的技術優勢與限制,思科技術行銷資深經理Mirko Grabel表示,邊緣運算節省了資料傳輸的時間和營運成本,但在運算方面,不見得能發揮優勢,因為建模或進行大型決策需要大量數據的累積,而邊緣運算傳輸到雲端或伺服器的資料已經過處理,在質或量上不見得有利。


此外,賦予眾多終端裝置高規格運算性能並不合乎成本效益,AI演算法還會佔據終端裝置大量的儲存空間,增生資料壓縮和修剪(pruning)成本。因此,如何在雲端和邊緣間有效調度運算與儲存資源,成了邊緣運算能否發揮效益的關鍵。而邊緣運算的系統可分為近裝置的邊緣端與裝置內的邊緣終端來解析。


邊緣設備的四大運算核心

邊緣運算設備指的多半是鄰近運算需求的裝置,其主要功能有兩大面向:分散處理與整合管理。一方面,邊緣設備要進行大量或即時的資料運算與儲存,甚至要進一步預先分析資料,利用閘道器判斷運算工作要在雲端或邊緣端進行;另一方面,分散式運算架構仍要連結不同終端元件,並與其他設備進行資料傳輸,因此,網路建構(networking)功能不可或缺。


其實,邊緣運算的網路管理功能在行動應用上便受到額外矚目,5G的發展與之相輔相成,VR、影音串流、直播等需要高頻寬與低延遲的行動通訊功能,可藉由邊緣運算縮短資料傳輸距離,實現高效率的資料處理。


Intel便與Nokia、騰訊雲、中國聯通攜手推出了多存取邊緣運算(multi-access edge computing;MEC)解決方案,在上海Mercedes-Benz文化中心,利用既有的4G網路基礎設施,提供近似5G等級的通訊服務,建立低延遲、低傳輸成本的智慧場域應用案例。


該案例中,Nokia開發了AirFrame伺服器,以判斷個別運算工作是否該在邊緣端進行,其採用的是Intel Xeon處理器,配備加速封包和加密的功能,以確保資料安全與傳輸效率。結果顯示,不僅直播放映的延遲時間從30秒銳降至0.5秒,邊緣裝置還能擴充像是即時聊天等社群功能,提升物聯網應用的服務範圍與系統效能。



圖二 : 近裝置的邊緣運算設備具備四大運算核心,分別負責執行運算、儲存、建構網路與加速AI。(source:synopsys.com;製圖/CTIMES)
圖二 : 近裝置的邊緣運算設備具備四大運算核心,分別負責執行運算、儲存、建構網路與加速AI。(source:synopsys.com;製圖/CTIMES)

AI加速器則是邊緣運算設備中的另一關鍵元件。邊緣運算雖然善用了鄰近運算需求的資源,但邊緣設備的硬體規格與規模卻不比資料中心,物聯網元件又必須滿足人工智慧應用的運算需求,AI加速器便能有效加速執行AI推論,以助終端裝置進行資料預測或分類。


EDA廠商新思科技(Synopsys)AI策略行銷經理Ron Lowman便指出,新一代邊緣運算與傳統邊緣運算的差異便在於導入AI加速器,且依照邊緣運算伺服器的不同規格,AI加速器的功耗和運算效能也有等級差距。



圖三 : 新一代邊緣運算與傳統邊緣運算的差異在於導入AI加速器,且依照邊緣運算伺服器的不同規格,其功耗和運算效能也有等級差距。(source:synopsys.com;製圖/CTIMES)
圖三 : 新一代邊緣運算與傳統邊緣運算的差異在於導入AI加速器,且依照邊緣運算伺服器的不同規格,其功耗和運算效能也有等級差距。(source:synopsys.com;製圖/CTIMES)

邊緣終端晶片的兩大趨勢

和邊緣裝置呼應,邊緣終端元件的開發目標便是要晶片具備即時執行智慧功能的能力,且在部分物聯網應用中,這些晶片的功耗甚至必須低於5W。因此,採用異質整合和FPGA將是這類晶片的兩大趨勢。


手機鏡頭感光元件大廠SONY日前便宣布推出首款具備AI處理的影像感光晶片IMX500和封裝版的IMX501。他們將結合AI引擎與記憶體的邏輯元件堆疊在感光元件下方,讓影像資料蒐集的所在地具備AI運算功能,能夠即時辨識影像中的物件。


諸如Sony晶片的異質整合晶片將運算、儲存與APU或ASSP結合,能夠有效縮短資料處理的延遲時間和成本,將成為Edge AI晶片開發的重點設計之一。


Microchip則同樣聚焦智慧視覺應用,推出了VectorBlox加速器軟體開發套件,協助晶片開發人員快速且靈活設計神經網路應用的FPGA。他們主張FPGA相較於CPU或GPU,可實現低功耗,同時保有高運算力,適合用來設計Edge AI晶片,因此積極優化PolarFire系列FPGA的開發資源,包含簡化設計流程與擴充IP。


近來,FPGA在面臨邊緣終端晶片的設計選擇時討論熱度不減,除了因為其整體運算處理量穩定,不會受到應用程式工作量影響外,FPGA還可進行高密度和大規模的平行運算,利於執行高並行或高相依性的演算法。


結語

邊緣運算透過分散式的運算架構,展現低延遲與低傳輸成本的資料處理優勢,在物聯網應用中,近裝置的邊緣運算設備透過四大運算核心執行運算、儲存、建構網路與加速AI,並進一步連結分佈各智慧應用場域的邊緣終端元件,未來更將與現有的雲端運算架構更高度整合,實現智慧物聯網的願景。


相關文章
在物聯網中添加【物】的六種方法
邊緣持續發酵 AI邁出應用新步調
一日購足!台灣打造完整AI產業供應鏈
企業建置資安防護措施刻不容緩
為AI注入理解力
comments powered by Disqus
相關討論
  相關新聞
» 後疫時代產業須數位轉型 工研院倡議轉向智慧價值思維
» 科技部創新創業激勵計畫 五團隊獲百萬獎勵金
» AI+5G技術交流南台灣 打造醫療物聯網新趨勢
» 慈善科技創新力道 國研院與慈濟四大志業簽訂合作備忘錄
» 台灣AI雲驅動產學技術深化及創新服務成效
  相關產品
» 宸曜推出新款IGT-30系列工業等級物聯網閘道器
» Digi-Key宣佈推出供應商主導的KiCad資料庫
» Canon全方位智慧商務解決方案聚焦企業轉型未來
» 紅帽開放原始碼技術協助樂天行動網路公司端對端雲原生行動網路
» Marvell革新邊緣資料中心交換技術

AD


刊登廣告 新聞信箱 讀者信箱 著作權聲明 隱私權聲明 本站介紹

Copyright ©1999-2020 遠播資訊股份有限公司版權所有 Powered by O3
地址:台北市中山北路三段29號11樓 / 電話 (02)2585-5526 / E-Mail: webmaster@ctimes.com.tw