智東西（公眾號：zhidxcom）
作者 | 韋世瑋
編輯 | 心緣
智東西8月4日消息，近日，英特爾在AI計算盒主題分享會上與眾多合作伙伴一起，分享了AI計算盒一系列最新落地成果。
同時，英特爾公司高級首席工程師、物聯網事業部中國區首席技術官張宇博士，以及英特爾物聯網事業部技術銷售經理劉波等英特爾高管和技術專家，圍繞AI計算盒的軟硬件技術優勢進行剖析，并分享了他們對邊緣AI技術發展趨勢的看法。
“人工智能的發展離不開計算、通訊、存儲技術。”張宇談道。同時他認為，邊緣AI的發展分為三個階段，目前我們還處于第一階段，也就是邊緣推理階段，而自主學習是最終目標。
會后，張宇、劉波等英特爾高管和技術專家還與智東西等媒體進行了深入交流，在探討英特爾AI計算盒過去一年創新應用的的同時，還分享了英特爾在邊緣AI計算賽道的布局和規劃。
▲英特爾公司高級首席工程師、物聯網事業部中國區首席技術官張宇博士
一、AI計算盒：AI推理加速能力高達8倍，已落地數十個場景
何為英特爾AI計算盒？
簡單來說，該方案融合了第11代英特爾酷睿處理器、OpenVINO工具套件、英特爾Media SDK等軟硬件產品和技術，通過英特爾成熟的平臺級能力，幫助各層面合作伙伴與最終用戶加速邊緣AI應用的開發和工程化落地。
而AI計算盒的誕生也與邊緣人工智能的發展息息相關，尤其是細分的智能視頻分析市場。相關行業預測數據，到2022年，智能視頻分析市場的規模或將超過1800億人民幣，復合增長率為34%。
同時，智能視頻分析解決方案也將在智慧城市、智能交通、智能制造、智慧零售等10余個領域得到廣泛運用。
為了順應智能視頻分析市場強勁的增長態勢，為行業提供發展所需的強大算力，英特爾在2020年就正式推出了AI計算盒參考設計，在基礎算力、AI加速和軟件棧配置等方面都有著不少優勢。
基礎算力層面，AI計算盒基于英特爾10nm SuperFin制程工藝，擁有更低的功耗設計，支持最新PCIe 4.0高速擴展接口，使得處理器的單線程處理能力提升23%，多線程處理能力提升19%，為智能視頻分析提供強勁的算力支撐。
AI加速方面，通過集成英特爾銳炬Xe顯卡、英特爾GNA 2.0神經加速器，以及面向深度學習優化的VNNI指令集等，AI計算盒可獲得高達8倍的AI推理加速能力。
在軟件棧配置上，英特爾Media SDK通過統一的API訪問接口、優化的媒體庫訪問，能夠讓AI計算盒提升視頻播放、編解碼以及格式轉換效率，獲得實時4K視頻通信所需的60 FPS HEVC視頻編解碼能力。
同時，AI計算盒所集成的英特爾OpenVINO工具套件，能夠有效支持從邊緣到云端的深度學習推理。
基于AI計算盒的一系列技術創新和設計，英特爾已和各行業合作伙伴共同構建了面向各垂直領域的端到端解決方案，覆蓋智能支付、智能停車、智慧社區、智慧樓宇、智能VDD、智能會議等數十個場景。
尤其是面向智慧城市和智慧生活場景，英特爾聯合智芯原動、趨視科技、開域集團、中科創達、小鈷科技等公司打造的AIoT解決方案，已實現全面落地。
二、張宇：自主學習是邊緣AI的最終階段
分享會現場，英特爾公司高級首席工程師、物聯網事業部中國區首席技術官張宇博士還圍繞AI浪潮的發展，談了他對邊緣AI發展趨勢的看法和未來展望。
在他看來，推動本輪AI高潮的核心因素主要涉及算力和數據兩個方面。
算力方面，當1994年全球超級五百強算力榜單第一次公布時，排名第一的超級計算機的每秒浮點運算峰值速度達到了13000/次。而在今年的榜單上，這個數字已經達到了53億億次。
“在摩爾定律的推動下，算力得到了極大提升，能夠幫助我們在更短時間內完成網絡模型的訓練，或處理更加復雜的AI網絡系統。”在張宇看來，這可以拉近AI技術與商業訴求的距離，推動AI技術落地。
數據方面，“現在AI是離不開數據的，不然得不到好的結構。”張宇提到，以Lecunet為例，普通的開放數據池中包含了超過1400萬兆經過標注的圖片，利用這些圖片，算法開發人員可以進行圖像分類的識別，而這些圖片數據增加的背后，實際上是基于通訊技術與存儲技術的不斷提升。
“人工智能的發展離不開計算、通訊、存儲技術。”他說。
此外，張宇還談到了邊緣AI發展的三個階段，一是邊緣推理，二是邊緣訓練，三是自主學習。
他提到，AI技術已經在越來越多的邊緣計算領域得到了普及，比如工業互聯網領域會用AI技術做產品缺陷檢測。不過，目前大多數的運作模式是，利用數據中心的算力和大量AI數據來訓練網絡模型，再把模型推送到邊緣端進行推理。
現階段，由于邊緣AI更多的模式是在邊緣推動，邊緣推理實現起來就較為容易些。
但張宇認為，邊緣設備的算力和存儲都是有限的，讓邊緣設備做邊緣推理盡管合理，但也有一定的弊端，那就是模型的更新會受到限制。“因為模型的更新是由數據中心控制的，不可能隨時隨地為新進的數據更新。”他說。
同時在一些使用場景對模型更新頻率的要求較高，需要對模型不斷進行動態訓練和更新。因此在今后的AI發展過程中，邊緣訓練是必然的發展趨勢。
“邊緣訓練是AI在邊緣發展的第二個階段，但不是最終階段。”張宇談道，因為在當下的AI技術中，人依然扮演著重要角色，并不是完全的人工智能化。
他解釋，雖然現在可以用極大的算力和大量數據訓練一個網絡系統，但網絡模型的結構需要人提前設計，在這個過程中，人的許多意識已經嵌入到模型中，陷入到模型的使用場景和范圍。
“展望五年、十年以后的邊緣計算和AI物聯網的發展，一定會有自主的發展。”張宇描繪了這幅畫面——系統會自主化決定應該選擇模型、策略、算法，會自動收集數據訓練模型，把訓練的結果用于實際系統。
“最終一定是自主化的過程，也就是業界說的OpenPose技術將在業界普及。”張宇說，這一階段也是邊緣AI發展的最高階段。
三、新技術路線圖為AI計算盒提供持續動力
正如張宇所說，人工智能的發展離不開計算、通訊技術、存儲的不斷提升。而英特爾作為一家領先的半導體公司，其產品也恰恰涵蓋了通訊、計算、存儲行業。
在計算方面，英特爾開發的CPU、GPU、FPGA不同的產品組合，能滿足用戶對計算不同的需求。
在5G基礎設施方面，英特爾推出了一系列軟硬件產品，包括基于英特爾架構并用于5G無線基站的SO芯片，可以實現從通訊的核心網到網絡邊緣的復用，極大降低開發門檻，加速軟件開發速度。
在存儲方面，英特爾還擁有Optane技術，能大大提升閃存的讀寫速度，提高存儲能力。
“總之，英特爾所提供的是一個端到端的人工智能解決方案，通過將5G、AI、智能邊緣三者的融合，將邊緣計算、人工智能推向新的發展方向，這是我們大的思路和大的戰略。”張宇說。
▲從左到右分別為趨視科技事業部副總經理夏晶，英特爾物聯網事業部技術銷售經理劉波，英特爾公司高級首席工程師、物聯網事業部中國區首席技術官張宇，開域集團數字科技負責人應翔翔
在會后與智東西等少數媒體的交流中，英特爾物聯網事業部技術銷售經理劉波也向大家分享了英特爾AI計算盒在過去一年的軟硬件創新。
他談道，在過去一年多的時間里，英特爾AI計算盒經歷了幾方面的創新。例如，芯片平臺從上一代的Whiskey Lake更新到了Tiger Lake，其中Tiger Lake與上一代相比性能有了較大提升。
“一是在CPU側引入了向量指令集，二是在GPU方面，Tiger Lake的EU個數最低為48，而Whiskey Lake為24個EU，i7是96個EU。”劉波說，這樣AI性能、媒體編解碼性能都會有大幅提升。
同時在算法生態方面，今年英特爾在零售、工業、智慧社區算法合作伙伴的基礎上，又引入了其他幾個算法領域的合作伙伴，從以往“打點”的形式變成“打面”，以此更好地服務更多客戶。
另一方面，基于張宇在演講中談到的“自主邊緣計算是邊緣AI發展的最高階段”，英特爾目前在這方面有何布局？
“算力方面，AI到了自主學習后對算力的要求會更高，同時也對數據處理的方法提出新挑戰。”張宇解釋，尤其在邊緣AI方面，如何做數據標注等都是有別于數據中心的學習特點。
在這個方向上，英特爾一直在做相關工作，針對數據標注不斷地擴充英特爾軟件方面的能力，這些能力也將體現在以后的版本中。
與此同時，英特爾提供了SPU算力戰略，包括CPU、GPU、FPGA、AI加速芯片VPU等產品組合，芯片不同的架構也在不斷迭代，還區別于不同的芯片工藝。
“昨天，我們發布了今后幾年英特爾非常清晰的工藝路線圖，我們會更多地利用最新技術幫助客戶提供更新一代的產品，這些產品不僅可以滿足用戶對算力的要求，同時也是異構的。”張宇談道。
英特爾可以通過封裝技術將不同模塊整合在一起，滿足異構的計算平臺，滿足用戶對算力和功能的多樣化需求。“這些都是為我們今后實現自主學習提供堅實的物質基礎。”他說。
那么，英特爾最近公布的新制程工藝和封裝技術路線圖，將會給AI計算盒帶來多大的提升？
“第11代的Tiger Lake處理器和第10代相比，EU數量增加了三倍，整體媒體編解碼能力和AI推理能力得到了相應倍數的提升。”張宇提到。
在后續的產品里，AI計算盒的集成顯卡都將采用Xe架構，與獨立顯卡架構一致。“這樣就保證我們可以通過類似的軟件接口，能讓用戶的AI網絡模型在集成顯卡、獨立顯卡，甚至在不同CPU和AI加速芯片之間進行遷移，帶來極大的編程易用性。”他說。
結語：英特爾助力邊緣AI應用生態落地發展
隨著5G、物聯網、云計算、邊緣計算等技術的發展，給我國新基建帶來了重要的變革力量。其中，AI技術作為其中的核心技術引擎，也在持續推動多種技術向各個行業賽道的融合發展。
英特爾作為一家全球科技巨頭企業，其領先的軟硬件技術也為各行各業的AI生態建設提供了不可小覷的力量。未來，我們也期待英特爾能夠和更多合作伙伴一起，為共同推動邊緣AI應用向更多領域落地，實現行業智能化成熟發展。
