邊緣運算帶動新的市場商機,大量裝置如何管理、人工智能如何導入、安全防護如何實現等,讓市場對硬體有新的需求,但隨著開發難度上升,許多廠商著手升級開發工具的完整和便利性,讓開發者可以專注在自身業務的投入,造就了新一波開發風潮。
邊緣運算的觸角已涵蓋各領域并得到落實,但架構從集中式轉為多節點的分散式、邊緣端(如終端和閘道器等)的自主性提升,使得底層的裝置管理更復雜、網路技術的融合也更重要,而且安全防護的機制需要更加謹慎,因此開發過程需要考量的內容越來越多元,增加開發的難度。
也因此,越來越多上游廠商積極改善開發工具的實用和便利性,協助開發者專注于自身創新業務開發,而非工具的學習。以下分析上游IP廠商ARM、芯片廠商英特爾與云端廠商微軟等在開發工具和平臺的布局與進展。
ARM從多方切入積極布局邊緣運算,于2017~2018年推出各式相關IP,并協助開發者降低開發難度。除了三大芯片IP系列產品外,ARM先前已推出ARM Mbed平臺,包括Mbed Cloud和Mbed OS兩大部分,Mbed主要是基于ARM架構,針對IoT服務發展的基礎建設框架,并搭配自家Cortex-M芯片建立生態系。Mbed Edge則透過物聯網閘道器讓使用者能將Mbed Cloud裝置管理功能進一步拓展,如對裝置進行導入、控制與管理等。
Mbed Edge有三大特點:一、通訊協定轉譯:可將非IP協定的聯網裝置(如LoRa和Modbus)轉譯成IP based,共同在Mbed Cloud進行管理。二、閘道器管理:提高IoT閘道器的復原能力和降低停機時間,并新增如發送警報、程式、資源、診斷與介面管理。三、進行邊緣運算:使用者可依需求將復雜程度不同的運算資源或演算法置于閘道器中,就算與云端斷線仍能獨立運作。
ARM進行全方面IP擴增
讓物聯網閘道器具備運算資源有兩大好處,一是閘道器不必從云端接收指令就能做簡單的應用與判斷,例如監控生產線的壓力值,一旦系統自動判定預設門檻便會自動關閉生產線,過程不再需要經過云端,二是可節省網路流量,藉由閘道器或終端自行決定是否要傳送資料或舍棄。
2018年后ARM翻新Mbed Cloud,廠商可利用新版Mbed Cloud部署更有彈性的物聯網。雖然云端已為多數廠商採用,仍有廠商受限于安全和法律議題無法跟進,新版Mbed Cloud便是針對此而增加內部部署裝置管理,讓Mbed Cloud可支援多個公有、私有、混合云與內部部署等環境,并讓受限裝置得以連網。由于廠商得以使用、管理并整合新設備和既有設備,新版Mbed Cloud亦有助邊緣運算的推動。
在邊緣運算的布局上,ARM在2018年推出Project Trillium機器學習運算平臺,以因應大量人工智能應用導入終端裝置的趨勢。終端裝置在符合大量運算需求時,也要能維持同樣能源效率,該平臺除了提供使用者彈性和擴充性,也將更多人工智能應用帶進各類終端裝置。
在安全防護方面,ARM則推出PSA框架,與首款針對物理安全防竄改的處理器ARM Cortex-M35P,搭配如TrustZone、CryptoCell與CryptoIsland等技術和IP,讓終端裝置在面對網路、軟體與物理等多方面攻擊時,有更強防護能力。
從上述新產品和服務可以看出,ARM從邊緣端的安全、運算與擴充彈性等各方面升級,積極朝向2035年前達到全球1兆連網設備的目標前進。2018年5月中ARM與南韓電力廠商KEPCO合作儀表系統升級,利用Mbed Edge讓KEPCO部署各類智能閘道器,連結電網和公共事業服務,以及對各種家用電器進行資料即時分析,協助優化能源的使用。
身為全球最重要芯片廠商之一,英特爾積極布局物聯網、人工智能與邊緣運算相關策略和產品線。在2018年初CES展,英特爾便推出許多邊緣運算相關展示,例如與多家廠商合作智能家庭產品,包括京東新一代語音助理京東叮咚PLAY,內含英特爾Atom處理器,除了支援語音辨識外,亦可直接從裝置執行臉部辨識。
英特爾重視視覺應用
此外,英特爾也與宏碁、華碩、惠普與聯想等PC品牌廠商合作,推出搭載亞馬遜Alexa語音助理的電腦。英特爾參與協助改善Alexa使用體驗,使其支援語音控制,并透過智能音效強化音訊品質和語音喚醒,讓使用者可利用語音指令喚醒電腦。
CES展后,英特爾接著以2017年推出的英特爾Xeon可擴充平臺為基礎,推出新型Xeon D-2100系列處理器,將更多運算與智能能力結合在消費者和商用裝置上(如手機、物聯網感測器與自駕車等),直接在網路邊緣端搜集資料,并于當下做出回饋。
該處理器將智能功能內嵌于功耗更低的系統單芯片,支援各種過往因空間和功耗限制而無法導入智能應用的邊緣環境,如此一來有機會將芯片尺寸縮小,并優化邊緣端瞵體裝置的安全、網路、加速與功耗等,未來可因應5G、網路虛擬化與串聯云端資源等應用。
在邊緣運算相關范疇中,英特爾特別著重視覺應用技術,近期併購了Nervana、Movidius、MobilEye與Altera。在Computex 2018前,英特爾更針對機器視覺應用,開放視覺推論和類神經網路工具套件OpenVINO,協助開發者快速將邊緣裝置和物聯網裝置收集到的影像資料,轉換成有價值的資訊。
OpenVINO可讓開發者結合搭配CPU、GPU、FPGA與VPU等硬體,并搭配套件中三組主要API,分別是Deep Learning Deployment Toolkit(深度學習部署工具)、OpenCV(開源電腦視覺及影像處理工具)與OpenVX(電腦視覺API標準),再利用英特爾旗下深度學習編譯器nGraph做開發。該開發套件亦與市場間主流框架如TensorFlow、MXNet與Caffe等相容,讓開發者得以更多元工具進行開發。
目前該開發套件已與工業電腦廠商凌華合作辨識條碼,來追蹤產品,亦與神基ALPR系統合作開發自動擷取車牌影像,并與威聯通和威強電合作進行醫療影像收集,利用影像強化AI推論能力,協助診治老年性黃斑部病變。
微軟提升研發便利性
微軟近年積極發展邊緣運算,微軟執行長于2018年開發者大會上表示英特爾ligent Cloud和英特爾ligent Edge時代已來臨,將大力投入AI技術、產品與服務開發,并以社會公益角度出發,除了之前啟動的AI for Earth,另一個針對殘疾人士AI for Accessibility的5年計畫也跟著開啟,預計將投入2,500萬美元。
微軟最初以物聯網相關業務切入,推出Azure IoT套件,協助廠商做IoT業務轉型,其中,與邊緣運算較有關系的為Azure IoT Hub和2017年推出的Azure IoT Edge。Azure IoT Hub主要處理云端和裝置間的溝通,包括通訊模式和協定支援、裝置安全性與裝置狀態監控,Azure IoT Edge則是導入在Azure IoT Hub之前,主要是將云端分析結果或自定義邏輯演算置入裝置中,讓裝置不再只是收集資料或資料管理的管道,而是可確實將AI應用落地的解決方案。
微軟對英特爾ligent Edge的認知在于,未來智能裝置并不需時刻處于連網狀態,就能讓使用者觀看、傾聽、理解與進行預測,亦即智能裝置需擁有更多運算和自行處理的能力。
微軟也于2018年升級Azure IoT Edge,若從開發端來看,首先是將Azure IoT Edge進行開源,讓客戶可自行修改Edge端應用,提高掌控度,第二為既有Azure認知服務中的Custom Vision服務,已得以部署至Azure IoT Edge中,讓無人機和工業設備等邊緣端裝置不需連網就能進行關鍵決策。預計未來微軟將會在Azure IoT Edge上開放更多認知服務。
第三便是容器化解決方案的簡化,微軟的Azure Kubernetes Service(AKS)大幅整合開發工具、工作空間、DevOps功能、網路與監控工具等功能,讓開發者可專注于開發而非工具的學習和轉換,也讓開發者能迅速上手Kubernetes,微軟預計也會讓Azure IoT Edge設備支援Kubernetes服務,從微軟對AKS的重視,也可看出Kubernetes對開發者社群的重要性日增。
由上述微軟各項發展可知,從Azure IoT Edge進行業務擴展和生態圈布建已是未來策略主軸,除了簡化與強化Edge端的開發過程和功能外,也會將既有的認知服務逐步與Azure IoT Edge結合,讓人工智能得以在邊緣端落實,達到英特爾ligent Edge目標。
隨著運算能力提升加上人工智能導入,邊緣端將能實現更多智能化和自動化的應用,其中視覺應用將會成為邊緣運算主流之一,例如物件辨識、人臉辨識、行為辨識、即時偵錯與即時警示等,都會開始應用于各場域中,涵蓋制造業、智能城市、自駕車、智能家庭與智能零售等,成為邊緣運算興起的第一波亮點。
邊緣運算不同于過往連上云端時,需時時保持連網狀態,加上邊緣端的運算和執行能力提升,可以加入更多安全防護措施,但邊緣運算將云端架構分層處理,在數據的篩選、傳遞、儲存與應用上差異極大,整體架構將更復雜,便利性高的開發工具將日漸增加。(本文作者為拓墣產業研究院研究員劉耕睿)。