隨著itle="物聯網" target="_blank">物聯網和人工智能的發展，邊緣計算逐步走入了人們的視野，且其應用正在普及當中。當下，在IT和物聯網行業里，都在討論邊緣計算的概念。在中國，邊緣計算這個概念是在兩年半之前正式推出來的。

邊緣計算是發展趨勢。具體原因，第一是數據量的增長，因為數據量的增長不可能把所有數據都通過網絡傳到后端，代表帶寬增長的速度小于、慢于數據增長的速度。另外一方面，對于一些實時性要求比較高的應用場景，他們需要在邊緣對數據進行處理和判斷，尤其像工業類，或者自動駕駛、無人駕駛這樣一些領域。

第三，使用場景是在一些對于隱私保護要求比較高的場景，比如人的醫療信息，也是不允許、或者用戶不愿意把這些數據進行云端的分享，需要在本地進行存儲，所以，這些因素造成在物聯網應用里，邊緣計算是發展趨勢。

邊緣計算面臨挑戰

不管是消費端數據，還是行業數字化產生的數據，有越來越多的數據在邊緣產生，這直接擠壓到了存儲和帶寬的要求，隨之而來的邊緣大數據概念在過去兩年也提出來了。

傳統的物聯網，更多的是線性思維，即物體產生數據，通過互聯網傳到云端，分析產生價值，而今天的物聯網完全是三維立體的概念。而關于邊緣計算，業界已經有共識。首先是實時的運用，二是成本，三是分析和預測，過去的能力只能是分析已經發生的事件，怎么樣通過對發生事件的了解預測將來；四是精準性問題，甚至是信息安全、信息保密的問題。

要把人工智能真正推向邊緣并不是一個很簡單的事情，在今天來看也沒有一個一勞永逸的方案。對此，英特爾副總裁兼物聯網事業部中國區總經理陳偉博士表示：“我過去總是講，一個是量大，一個是碎片化，碎片化叫Fragmentization，很難解決，英特爾作為一個平臺化的公司，在這些方面，我們過去幾年確實做了持之以恒的努力。關于視頻技術方面，今天很簡單，就是從英特爾產的帶有顯核的GPU，加上我們最近的幾個加速器，像Movidius，還有Novana這些技術，還有FPGA，至少從硬件的角度來講，我們是可以根據應用去勾勒出一個功耗、成本最大化的優化解決方案的，這些應用是和合作伙伴一起去優化、研發的。”

陳偉博士，英特爾副總裁兼物聯網事業部中國區總經理

邊緣計算對IC設計的要求

邊緣計算有一些關鍵的技術點，這些關鍵的技術點對于芯片的發展路線圖設計至關重要。一個技術點是計算，尤其是AI的計算，在整個邊緣會越來越突出，而邊緣的設備和云端的設備是不一樣的，因為邊緣設備能夠承載的功耗，能夠支持的操作系統，能夠提供的內存容量都是不一樣的，所以在邊緣這一側，算法要做一些特定的優化，對工具也有特定要求。

對此，英特爾中國區物聯網事業部首席技術官兼首席工程師張宇博士表示：“像我們的Movidius、FPGA設計，引入到這里面，也有這樣的考量，因為他們的性能功耗比比通用處理器會有一個更好的體現。”

此外，邊緣計算還有一些其他關鍵的技術要素，比如在工業領域，要在確定的時間里得到一個確定的響應，我不可能給它很長的延時，所以需要一個TCC支持，這在我們的芯片設計時也會考慮進去。

張宇博士，英特爾中國區物聯網事業部首席技術官兼首席工程師

還有一些關鍵技術點，比如公共安全的使用場景，在工業機器人的使用環境里面，怎么保證機械手、機械臂不會對人身安全造成傷害，這些在我們的芯片設計里，也會把這些因素考慮進去。

總之，我們在做芯片設計，尤其是在邊緣芯片類設計的時候，會考慮它的計算要求，也會考慮它的數據連接的要求，也會考慮它的功能安全和信息安全等方面的要求。

陳偉表示，從宏觀的產品目標規劃來講，有幾位業界標桿人物加入了英特爾，我相信在視覺芯片方面，一定會加速我們的進展。

英特爾有幾個對外的事業部，有數據中心、物聯網，還有存儲，他們不見得有自己的單獨產品目標，我們有些技術是分享的。就物聯網事業部來講，早期是一個嵌入式的事業部，當時的出發點是PC的芯片可以用到很多非PC的應用當中，比如取款機，我們有一個非常成熟的生態鏈，就是板卡上硬件的生態鏈。物聯網事業部將來的發展方向，會更加強調視覺，強調負載整合，但是這兩點都需要芯片技術的支撐。所以，第一，在CPU和GPU方面，一定是研發更適合于這兩個應用場景的芯片。

第二，我們會整合一些加速器，Movidius就被整合到英特爾IoT事業部里面來了，當然，不僅僅用于IoT應用場景，別的應用場景也可以用，但是主流，從產品的規劃是在IoT里面走的。根據這個戰略，我們會更自主地研發一些更適合于物聯網應用場景的芯片。

計算機視覺和

深度學習開發工具OpenVINO

靈活、多元、高質量的硬件是必要條件，今天，要用這些硬件直接應用到人工智能上，還有很多的壁壘，主要是怎樣能深度挖掘并充分利用硬件的能力，如計算、圖像分析和加速能力。

對于各種應用和挑戰，英特爾推出了軟件SDK平臺——OpenVINO，OpenVINO于今年5月16號在全球發布，7月27號，推出了OpenVINO的視覺推理和神經網絡優化工具套件。它包括模型的完善、模型的充實和插件的優化，其目的是提供從邊緣到云的計算，基于視覺和深度學習，提升整體開發能力。

據張宇博士介紹，OpenVINO是英特爾給進行計算機視覺和深度學習應用開發的開發者提供的工具。人工智能、深度學習是當下的一個風口，AlphaGO的出現使大家感覺到人工智能新一輪的春天已經到來了，其實不僅僅是AlphaGO，如果我們看一下周圍會發現，現在有很多基于機器學習、人工智能的應用正在服務于我們的生活。比如說大家比較熟悉的安防領域，通過對一些經過標注的視頻數據的訓練，我們已經可以從視頻里面分析出人、車、物等特征，我們能夠知道這個車的車型是什么，是哪款，它的顏色以及車標。

對于人，我們已經可以用刷臉的方式進行支付，準確度已經很高，除了對于視頻的分析，其實在自然語言處理等領域，人工智能已經得到很好的應用，現在市場上有非常多的智能音箱產品，比如谷歌推出了Google Home、亞馬遜推出了Alexa，百度推出了小度，小米也推出了小愛，這些都是人工智能的典型應用。

但是，從人工智能演進過程可以看到，從最早的人工智能的計算，不管是訓練還是推理，實際上都是發生在數據中心，這是因為深度學習需要大量的運算量，只有在數據中心運用一些通用處理器，才能提供如此巨大的計算并提供這些計算所需要的電力消耗。但是，近年來隨著人工智能技術的發展，無論算法還是芯片，人工智能都達到了一個很高的水平。

在算法方面，很多網絡壓縮的算法已經在被廣泛使用，從而使得人工智能的計算量在降低。同時還有很多用于人工智能的專用芯片以及FPGA使用，使得一些深度學習的運算可以從云端推送到邊緣，所以，像智能攝像機、智能網絡視頻存儲器、NVR等產品在市面上都涌現出來了。

同時可以看到，在整個系統端到端的網元里面，不同的網元所能提供的計算量是不一樣的，它能夠支撐的操作系統也各不相同，因此，有各自不同適用的芯片架構。比如在攝像機里，一個攝像機的功耗大概15瓦，從15瓦里能夠提供給做智能運算的能量有2~3瓦，對于這樣的使用場景，ASIC架構是最適宜的。

數據中心需要一定的靈活度，對于一些通用的處理器可能又是最適宜的，因此不同的網元有不同適宜的架構，不同的芯片往往有各自不同的開發方法，這樣對開發者而言就帶來一定的困擾，也就是說如果我為某一種芯片所開發的軟件換了一個架構以后，它可能是不適用的，這樣無形中就增加了開發的門檻。

張宇表示：“我跟很多從事人工智能應用開發的開發者交流，我們發現，目前在進行人工智能開發的時候，還有很多的問題沒有解決，比如，我作為一個開發者，已經有了一個經過訓練完以后的網絡模型，但是由于我的推理平臺相對來說能力有限，我需要把現在網絡模型的一部分，而不是全部能夠下載到我的推理平臺之上，這是我的一個困擾。另外一個困擾是我現在一個訓練的模型，如果把它推送到一個推理平臺之上，我發現它的性能不高，我如何來提升這個性能？再或者，我在做深度學習、人工智能應用開發的時候，我所用到的框架并不被現在英特爾的一些架構所支持，比如Movidius或者是FPGA，我現在不能把它用起來，那么如何進行使用？這是我們發現開發者的一些困擾。”

我們推出的OpenVINO，實際上就是解決以上這些問題的，OpenVINO是一個可以加快高性能計算機視覺和深度學習視覺應用開發的一個工具套件，它能夠支持英特爾平臺的各種加速器，包括CPU、GPU、FPGA以及Movidius的VPU，來進行深度學習，同時它能夠直接支持異構的執行。它使用的對象是軟件開發人員以及開發、監控、零售、醫療、辦公自動化以及自動駕駛等領域的數據科學家。

OpenVINO工具套件的優勢主要體現在：

首先，性能方面的提升，通過OpenVINO，可以很方便地使用英特爾的各種硬件加速資源，包括CPU、GPU、VPU、FPGA，這些資源能夠幫助大家提升你的深度學習算法在做推理時的性能，而且執行的過程中是支持異構處理和異步執行的，這樣能夠減少由于系統資源等待所占用的時間。

另外，OpenVINO使用了經過優化的OpenCV和OpenVX，同時提供了很多應用示例，可以縮短開發時間。這些庫都支持異構執行，如果編程的話，編寫一次，以后我可以通過異構接口支撐跑在其他的硬件平臺之上。

在深度學習方面，OpenVINO帶有模型優化器、推理引擎以及超過20個預先訓練的模型，大家可以利用這些工具，快速實現自己基于深度學習的應用，而且OpenVINO使用了OpenCV、OpeenVX的基礎庫，大家可以利用這些基礎庫去開發自己特定的算法，實現自己的定制和創新。

用戶體驗

圖像處理的算法是非常多樣化的，除了人臉識別以外，還有車輛分析、結構化分析、行為分析等等。

宇視研發副總裁AI產品線總監湯立波表示：“我看到這個領域里已經很難有一個場景只需要一種算法，絕大部分都是要多種算法融合。OpenVINO可用于不同的硬件平臺，可以加載不同的神經網絡，實際上就是可以加載不同的算法。”

據湯立波介紹，在與英特爾合作的過程中，在整個開發過程中，相互之間可以共享經驗、一同解決問題。在整個產品開發過程中，其實大量的過程并不是開發本身，而是解決問題的本身，所以，只有非常有經驗的企業才能夠做出一款穩定、能夠快速解決問題的、用于產品化的芯片。