英特爾透過5G和AI邊緣運算實現產業轉型
升級的邊緣運算產品組合讓開發者和產業生態系能夠進行無縫佈建OP人優勢長榮5G、人工智慧(AI)應用和運算能力的興起,以及物聯網的爆炸式成長正推動著零售、工業、智慧城市、醫療保健等產業的轉型。邊緣數據和應用程序的快速成長推動了分佈式計算架構的需求,在這種新的架構中,運算將貼近於數據源或服務點。為了使企業能有效運用5G和AI邊緣運算,業界需要設計出可滿足邊緣運算獨特需求的產品和工具,具開放性且易於使用的軟體工具,更需致力於相關解決方案的開發和佈建。
英特爾邊緣運算處理器
英特爾擁有無與倫比的邊緣運算實力—從Atom到Core再到Xeon處理器等,可提供不同的運算需求、效能與功能。除了透過FPGA、Movidius VPU、Nervana ASIC等產品加速特定工作,英特爾還可以透過SSD、Optane 記憶體和乙太網路等進行資料儲存和連接等應用,有效的在分佈式架構中移動和儲存資料。針對邊緣運算,英特爾公布新一代視覺運算處理器:
視覺運算處理器 (Visual Processing Unit, VPU)
英特爾新一代Movidius VPU(代號為「Keem Bay」),是專為深度學習(Deep Leaning)、視覺(Vision)和媒體(Media)所設計、具備低功耗(4~15瓦)的高效能邊緣推論(Edge Inferencing)產品,預計於2020上半年上市。具有可靈活彈性運用的外型及尺寸,客戶可將晶片置於相機內,或整合在小型的M.2介面擴充卡以用於像是自助服務資訊站(kiosk)和機器人等應用,同時也可整合在全功能的 PCIe介面擴充卡上,也可透過同時運行多個VPU,以實現以高密度,擴充邊緣AI伺服器的加速能力。
全新邊緣運算開發者工具與計畫
英特爾推出了一系列開發工具和新計劃,使開發人員能夠在5G、人工智慧和媒體的工作負載中進行產品原型開發進而生產。這些工具都是開放的,容易取得並易於部署,開發人員還可同時應用英特爾不同的產品組合和傳統基礎架構上擴展深度學習,從而滿足邊緣運算的獨特需求。
最新Intel® OpenVINO™工具套件 (Intel® Distribution of OpenVINO™ Toolkit) (2019 第三代發行版):
• 異構推論(Heterogeneous Inferencing)—可加快Intel®加速器和彈性運用異質架構(CPU、GPU /Intel® Processor Graphics、FPGA和VPU) 的深度學習推論與效能。
• 深度學習工作台(Workbench)工具—為易於使用的工具,可為深度學習模型的流量、延遲性和準確性進行分析與視覺化。
• 網路載入最佳化—透過更快的模型載入時間提高效能。
• 佈建腳本—使開發者能夠在更小的佔用空間下快速從原型過渡到生產階段。
專為邊緣所設計的Intel® DevCloud開發雲—開發者可於此專屬雲端上對各種英特爾處理器進行試用、製作原型和測試AI解決方案。目前為止,已有超過2,700位客戶使用Intel® DevCloud測試版,可自由測試全系列Intel® Edge晶片。
英特爾與優達學城(Udacity)合作推出Edge AI Nano線上課程—此課程將幫助培訓新一代開發者如何在邊緣產生資料之處運用AI。英特爾將為該課程提供750個獎學金名額。首月已有超過30,000人報名參加此課程。
連結5G 網路邊緣運算—此新計劃著重於服務產業生態系(ecosystem)開發者和新一代5G雲端開發者的創建和佈建:
• OpenNESS—此軟體工具套件易於使用,可在安全的多重存取邊緣雲端運算,無縫地橫跨網路邊緣或就地部署(on-premise),以進行開發、佈建和管理網路服務與其他應用。 OpenNESS使製造商、零售商、智慧城市和其他產業能夠輕鬆部署和管理專用無線網絡,從而達到網路的民主化。該工具套件支援以第三代合作夥伴計畫(3GPP)規格為基礎的5G佈建,以及在雲端原生環境上跨網路邊緣的端至端佈建。OpenNESS也將與OpenVINO和Open Visual Cloud等其他工具套件整合,以最有效率和效能的方式提供分析、媒體和網路工作負載的融合。
• Open Visual Cloud—為開源程式碼專案,提供可視化雲端服務的核心要素,協助縮短包括媒體處理、媒體分析、沉浸式媒體、雲端繪圖和雲端遊戲等關鍵服務中的現有產業科技差距。Open Visual Cloud為各種目標視覺雲端服務提供了一組預定義的參考工作流程。開發者也可以使用FFMPEG、GStreamer、OpenVINO、TensorFlow和其他深度學習(DL)架構。Open Visual Cloud中的模組化方法使開發者可在需要將工作負載從CPU移轉至加速器時,簡單地運用外掛程式,使整個工作流程中的高階軟體維持一致。
產業生態系邊緣運算解決方案支持計劃
英特爾擁有無與倫比的邊緣運算生態支持體系,有1,100多個合作夥伴提供硬體、軟體和服務, 200多種邊緣運算解決方案,可提供針對企業使用需求的解決方案,從管理庫存的自動機器人到防止沙門氏菌爆發的冷凍食品鏈監控解決方案。僅今年一年,已有6,600多家企業開始應用相關解決方案。以下為諸多產業生態系邊緣運算解決方案支持計劃當中,最新的服務進展:
融合邊緣運算參考架構(Converged Edge Reference Architecture,CERA)平台—此平台將無線基礎架構網路技術與物聯網進行統和,以簡化邊緣運算的工作負載,同時增強無線網路的密度。
• 威聯通科技 (QNAP Systems Inc.) 提供QuCPE邊緣伺服器,在Intel伺服器上使用CERA來構建具備AI架構的平台,以滿足零售商店的需求。
• 鴻海科技集團 (Foxconn Technology Group)正在開發兩項以CERA為基礎的高效能邊緣運算解決方案。該架構結合Intel運算處理能力與強大的軟體基礎,鴻海利用此參考架構為工業邊緣運算和專用無線應用提供新解決方案。
英特爾與微軟(Microsoft)工具整合—提供 (Execution Provider,EP)外掛程式,整合兩樣重要的工具:Intel® OpenVINO™工具套件 和 Open Neurol Network Exchange (ONNX) Runtime。EP外掛程式可在微軟的GitHub網頁上取得,讓AI開發者能在雲端訓練模型,然後輕鬆地在邊緣將其佈建在各種不同的硬體類型上,例如英特爾的CPU、整合GPU、FPGA或VPU,包括 Intel® 神經運算棒2 (Intel Neural Compute Stick, Intel NCS 2)。使用容器(container)意味著可以在雲端或者邊緣部署相同的應用程式。
英特爾正與研揚科技(AAEON)等硬體廠商合作,推出整合AI開發者工具套件以及AI加速器的應用產品,這些工具套件包括Intel® Movidius™ Myriad™ X和預先安裝的OpenVINO 工具套件,以及深度學習佈建工具套件。
OpenVINO物聯網市場就緒解決方案(MRS)和物聯網RFP開發套件(RRK) —MRS是可擴充並可重複執行的端至端解決方案。RRK為結合英特爾的硬體及軟體、並且支援特定客戶需求的解決方案套件。兩者均透過OpenVINO進行最佳化,將AI視覺功能加入通過認證的解決方案當中。截至2019年11月,台灣企業已完成88個認證的解決方案,其中有13個為OpenVINO解決方案,一同推動全球產業轉型。