讓物聯網邊緣自行管理

當今的物聯網客戶期望能以邊緣運算的成本及延遲目標,實現集中式雲端架構的備援性、靈活性和可擴充性。如果遠端解決方案需具高度的可靠性,則解決方案應該具有功能強大的備用功能。如果一個端點失去連接,它應仍能夠繼續操作,直到重新建立連接為止; 斷電並不表示資料會遺失。

然而,物聯網邊緣節點卻是單點故障的代表,節點因為失去連接、供電不穩定或硬體故障,任何時間都可能發生故障。而且與雲端資料中心不同,物聯網邊緣節點的分散式特性代表如果確實發生故障,IT 人員可能幾天或幾週內都無法有所因應。

隨著企業的期望與營業邊緣的現況不斷融合,物聯網系統設計師正在藉助超融合基礎架構(HCI)尋找折衷方案。

最佳的雲端與邊緣運算

HCI 是一種物聯網架構,可將類似資料中心的資源驅動到邊緣(圖 1)。通過將類似資料中心的運算、網路與儲存資源移至更接近邊緣應用程式或一直到邊緣本身,HCI 可在分散式端點中提供雲端效能。

超融合基礎架構填補了邊緣節點與資料中心平台之間的技術差距。(資料來源:NodeWeaver)
圖 1。超融合基礎架構填補了邊緣節點與資料中心平台之間的技術差距。(資料來源:NodeWeaver)e

HCI 硬體的範例包括搭載 Intel® Core 或 Intel Atom® 處理器的高效能邊緣閘道、會在未來 5G 網路中佔據重要地位的行動邊緣運算基地台、及已部署在內部物聯網使用案例中的搭載 Intel® Xeon® 的 uCPE 伺服器。請閱讀「SD-WAN 與 uCPE:簡介」,以進一步瞭解。

這些平台由於可支援多核心處理器、大容量儲存空間與虛擬化技術,因此在遠端物聯網部署中變得愈來愈受歡迎。這些平台可提供:

  • 透過在虛擬機(VM)中代管冗餘工作負載來避免硬體故障及各種故障
  • 在邊緣執行分析的能力,因此即使失去雲端連接也可以繼續正常作業
  • 未來有機會透過新的應用程式與服務更新邊緣部署

當然,大多數 HCI 平台都不支援現成的 OT 需求。例如,遠端物聯網邊緣部署往往需要:

  • 在出現系統故障、新增或更動時,自動重新配置或自我修復的能力
  • 即使整個實體節點發生故障也能繼續作業的能力
  • 裸機效能與原生硬體相當,甚至對於在 VM 中執行的應用程式亦然

需要智慧軟體來實現這些可靠性與效能上的特色。NodeWeaver 邊緣叢集執行平台就是這樣一種解決方案,它將賦予在邊緣運作的 HCI 系統這些功能。

讓節點自行管理

NodeWeaver 是一種編排與管理解決方案,可將多個端點「編入」到大型、虛擬化邊緣運算基礎架構中。這表示您可以在完全獨立的實體節點上將工作負載部署在 VM 中,如果一個端點發生故障,其應用程式仍可繼續在基礎架構中的其他位置執行。

每個節點都在整合了分散式檔案系統、軟體定義網路 (SDN)以及虛擬化元件 ,並搭載以裸機運行 x86 目標的作業系統 (圖 2)。整個堆疊僅消耗 4 GB 記憶體,因此適合大多數 HCI 系統。

NodeWeaver 建立了冗餘的虛擬化邊緣運算基礎架構,提升了可靠性。(資料來源:NodeWeaver)
圖 2。NodeWeaver 建立了冗餘的虛擬化邊緣運算基礎架構,提升了可靠性。(資料來源:NodeWeaver)

虛擬網路是用於將這些節點加入叢集,叢集可包含 2 到 25 個節點。)然後,分散式檔案系統會從一個節點複製應用程式資料(或稱「區塊」),並使用一種隨機過程將資料傳輸到其他節點中的 VM,來將這些區塊分配到具有效能最高、可用儲存空間最大的節點。

為了確保區塊始終可用,NodeWeaver 會執行一個檢查整個叢集的程序。如果該程序發現某個區塊丟失或損壞,它會指示檔案系統協調器在叢集中的其他位置複製一個新區塊。例如,如果儲存磁碟發生故障或當機,NodeWeaver 便可透過將另一個作業資源上的新區塊實體化來「修復」系統。無需使用者干預。

透過此程序, NodeWeaver 可以找出是否有新增的資源,或者管理員是已對現有資源有所更動。

免動手即時虛擬化

如上所述,NodeWeaver 會在實體上和地理上分散的節點之間建立了一個完全虛擬化的環境。因此,請務必注意,應用程式不會將節點視為個別的資源。相反地,他們將整個基礎架構視為資源匯聚之處。

然而,這不表示每個節點上都有無限的資源。

NodeWeaver 使用自主的負載平衡器確保在此環境中能有效執行工作負載。負載平衡器採用了名為動態適應性的功能,不斷地對整個叢集中執行的各種工作負載進行效能標竿測試。接著,它會根據服務品質(QoS) 需求在最有效率的可用硬體上排定工作負載。這個硬體可包括 x86 CPU、GPU、FPGA,甚至是 Intel® Movidius 加速器。

此外,底層的 NodeWeaver OS 提供了彈性的即時保證,使工作負載能以接近裸機的效能執行。同樣地,這無需人力干預即可達成。

人工智慧能否進一步將邊緣自動化?

為了滿足物聯網客戶對備援能力、靈活性和可擴充性的期望,物聯網系統設計師必須在設計端點時考慮到雲端功能。這不僅可以避免單點故障,還能使自主邊緣環境無限期運行,即使沒有本機 IT 支援亦然。

然而,如果在這些自主邊緣環境加入了人工智慧,它們還能達成什麼目標呢?這樣的平台可以長時間監控硬體的效能,並預測磁碟機或軟體何時會發生故障,維修技術人員可以依此將自己的服務排程最佳化。諸如 NodeWeaver 之類的平台已經開始整合能實現此目標的概率引擎。

讓邊緣自行管理。

5G 網路的零接觸佈建

5G 的實體變化之一是基地台之間的距離必須更近;通常只有幾百公尺之遙。這是因為 5G 使用的波長比之前更短,但功率更大。

基地台的增加以及網路節點的相應而生,表示潛在的安全漏洞和受攻擊面的數量將大大地增加 (圖 1)。

5G 網路呈現出更大的受攻擊面。(資料來源:SDXCentral)
圖 1。5G 網路呈現出更大的受攻擊面。(資料來源:SDXCentral)

驗證可以改善潛在的安全性問題

提升 5G 網路安全性的一種方式是使用更強固的裝置驗證。這項技術雖非最新推出,但需要對 5G 進行一些調整。

所有驗證都涉及網路基礎結構的三個部分:

  • 設備要求資訊
  • 承載要求的網路
  • 要求終止的端點

公開金鑰交換之類的過程會使用這些網路元素來驗證通訊中涉及的各方身分。5G 網路也一樣,除了網路元素是:

  • 設備要求資訊
  • 承載要求的網路
  • 要求終止的端點網路 (或區域網路)

此處的區別在於,要求資訊必須先透過邊緣網路驗證,然後才能到達端點本身 (圖 2)。如果不良行為者以某種方式進入網路,這種稱為「主要驗證」的方式便可減輕可能發生的風險。例如防止可能波及數十部裝置的旁路攻擊。

5G 網路需要「主要驗證」。(資料來源:5G Americas)
圖 2。5G 網路需要「主要驗證」。(資料來源:5G Americas)

為了達此目的,來源網路和目的地網路之間運作的安全功能可讓驗證網路拒絕任何驗證要求。端點網路本身擁有最終權限,可決定對傳入要求進行驗證或拒絕。這在所有 5G 網路都是強制性的。

因此,在主要驗證過程中,一般會與儲存密鑰的端點網路上的驗證伺服器共享一個密碼編譯金鑰。然後透過網路來回傳送要求,以確保使用這些共享密鑰時保有安全性,就像您的標準 PKI 一樣。

保護網路節點

當然,所有驗證都是基於信任網路上裝置身分的能力。這表示必須保護每個端點,這是物聯網和其他連線裝置 OEM 的責任。

維護這些裝置身分的完整性需要結合硬體安全性和全面的裝置管理。

Telit OneEdge 為例。此物聯網裝置管理平台即服務 (PaaS) 可與該公司支援 5G 的行動數據模組搭配使用。在製造時,所支援的模組預先佈建了獨一無二的 ID、裝置認證和 SIM 功能,這些全都鎖定在硬體的受信任區域中。

每個模組的對應認證儲存在安全的雲端環境中,進而使裝置只要一加入網路就可以透過 OneEdge 平台進行驗證。此過程稱為零接觸佈建,可確保裝置自嘗試註冊的那一刻即得到身分信任。 (圖 3)。

零接觸佈建功能會在連線裝置加入網路時進行身分驗證。(資料來源:Semantic Scholar)
圖 3。零接觸佈建功能會在連線裝置加入網路時進行身分驗證。(資料來源:Semantic Scholar)

連接後,OneEdge 使用者可自基於雲端式儀表板順暢地監視裝置。此儀表板支援自動化動作、警示和警報,可用於識別和防止可疑的網路活動 (圖 4)。它也透過 Telit AppCenter 整合裝置管理與無線更新功能,使裝置 OEM 可快速解決漏洞。

Telit OneEdge 包括具備自動化警示和遠端裝置管理的監控儀表板。(資料來源:Telit)
圖 4。Telit OneEdge 包括具備自動化警示和遠端裝置管理的監控儀表板。(資料來源:Telit)

Telit OneEdge 與多家營運商網路相容,包括 Verizon、AT&T、Vodafone、T-Mobile 與 Telefonica 等。雲端連接器也可安全整合其他企業物聯網平台,如AWS、Google Cloud、Microsoft Azure、IBM Watson、SA、MindSphere 和 Oracle Cloud 等。

超越 5G

「主要驗證」功能為 5G 網路提供了新的保護層。然而,「主要驗證」功能並非萬能。防止探查、中間人、拒絕服務 (DoS),旁路和其他始於每個網路端點中受信任身分的網路攻擊。

得益於 NB-IoT 和 LTE Cat-M 等 5G 技術,隨著愈來愈多的物聯網裝置上線,保護網路將需要行動網路營運商 (MNO)、網路設備供應商(NEP) 和連線裝置製造商之間共同努力。

主要驗證、零接觸佈建和受信任的硬體為 5G 物聯網網路提供了縱深防禦的安全性策略。為了保護資料、裝置和品牌聲譽,每個人都必須扮演好自己的角色。

系統整合商如何解決龐大的物聯網挑戰

一個完整統包的解決方案通常比東拼西湊的結果來得更好。但對系統整合商 (SI) 來說,找出這些零件可能十分困難。

在 SI 面對的解決方案需求中,有越來越多人要求結合 IT 領域的要素與新興的物聯網技術。舉例來說,製造商想要預測性維護功能,以將他們設備保持在最佳狀態。農業企業想要能植物健康狀況的自動化監控功能。不動產公司則想要具有臉部識別能力的視訊系統。

為這些複雜系統找出所有技術本身就已經具有很高的挑戰性,要找出將一切整合在一起的方法,可能更加困難。因此,有越來越多的 SI 向他們的經銷商尋求協助。

在這樣的情況下,經銷商逐漸轉變成一種全新的「統合」角色。Synnex Metrodata Indonesia (SMI) 總監 Lie Heng 說道:「統合商可連結 IT 廠商與物聯網廠商。

僅負責傳遞產品、對解決方案一無所知的一般 IT 經銷商已經無法滿足市場需求。他們需要具備的能力包括整合多種不同類型的解決方案、配合多家不同的合作夥伴,然後為我們的客戶打造出最合適的解決方案。」

合作夥伴結盟

SMI 最近與 Intel® 締結合作夥伴關係,作為印尼的物聯網解決方案統合商。從農業、製造業到保全、醫療保健等各種產業,這間公司運用業務培育架構,與 B2B 新創企業合作。

SMI 吸引了擁有獨特解決方案的獨立軟體廠商與解決方案供應商,尤其是在電腦視覺、雲端分析、AI、深度學習等領域。廠商與解決方案供應商著重於創新,而 SMI 則專注於擴充與配送他們的解決方案(圖 1)。

統合商負責結合許多不同來源的技術
圖 1。統合商負責結合許多不同來源的技術。

Heng 表示:「與 Intel 合作,我們便能透過成為市場就緒解決方案,獲得驗證這些程序的方法。我們十分開心,也極度想要為印尼帶來更多市場就緒解決方案。」

電腦視覺激發創新解決方案

嶄新的想法往往來自個人。為了激發並創造更多解決方案,SMI 運用可提供電腦視覺的 Intel® OpenVINO 工具組,每年在印尼舉辦四場黑客松 (Hackathon)。Heng 表示,約有 450 位開發者參與了 SMI 的黑客松活動,創造了全新產品,也為企業締結了嶄新的合作夥伴關係。

在黑客松所激發出的想法與解決方案令人極為印象深刻。

舉例來說,印尼是世界上最大的捕撈鮪魚國家,但盜獵行為卻不斷消耗著該國的配額。印尼每年因違法捕撈損失約 40 億美元。在最近一場 OpenVINO 黑客松中,一位開發者打造了一台無人機,能識別非法漁船,並向監管機構發出警報與位置資訊。

Heng 說:「印尼的國土中有百分之 70 是水體。透過實體偵查方式來保護這些領域需要花費太長的時間。運用無人機來辨識旗幟並識別盜獵者的想法十分有創意,並有助於解決我們的違法捕撈問題。」

垃圾數量不斷增加,則是印尼正面臨的另一個頭痛問題。該國是世界海洋塑膠垃圾的主要來源之一,僅次於中國。政府的計畫之一是提高回收率,並改善廢棄物收集率。一位黑客松開發者也著眼於這個問題。

Heng 說:「另一個廢棄物分類箱的解決方案十分有意思。運用電腦視覺,它能識別廢棄物是有機物、塑膠,或是紙類。偵測後,廢棄物便會分類至正確的回收箱內。」

長期展望

隨著經銷商與 SI 的角色進化,Heng 認為效能標竿與案例研究將會帶動他們的業務,並協助他們打造更廣泛的解決方案。

他說:「我們已經從銷售產品轉變為提供建置服務,再成為許多解決方案的供應商。其中的挑戰是打造上市架構。最終目標是擁有可在未來重新販售的套裝解決方案。」

但是,尋找創意解決方案只是 SMI 對黑客松寄予厚望的原因之一,Heng 表示:「我們有更長遠的策略定位,我們試著在印尼市場中運用 AI 技術。我們正嘗試打造一個開發者社群。」

「我們的宏大願景,是讓印尼能為印尼市場及全世界打造所需的解決方案。若開發者打造了優秀的解決方案,並經過 Intel 程序驗證,便可在當地以外的市場銷售,在推廣解決方案的同時打響國家知名度。」Heng 這麼說。

系統整合商如何發掘新商機

編者註:insight.tech 支持終結種族主義、不平等與社會不正義行為。我們不容忍我們贊助商的產品用於侵犯人權,包括但不限於政府濫用視覺化技術。insight.tech 上所提到的產品、技術和解決方案皆假定為以負責且合乎道德的方式使用人工智慧以及電腦視覺工具、技術和方法。

 

選擇能解決特定需求,且沒有昂貴多餘功能的工業物聯網解決方案可能十分困難。即使在單一產業內(例如智慧製造產業),一家客戶的理想解決方案,也可能無法滿足其他廠商的困境。

本質上,在智慧零售、智慧城市,以及智慧製造等不同產業中,都必須採用不同的方法來處理工業物聯網、硬體、軟體及功能性。這種高層級的專用性,也使系統整合商 (SI) 面對更為嚴峻的挑戰。

整合商可協助 SI 選擇最能滿足客戶需求的解決方案。在某些案例中,這代表要從多個解決方案中擷取最佳元素,並打造能符合客戶需求與預算的特定解決方案。

Dennis Niu 是 WPI Group 亞太區域物聯網解決方案部門的副總裁,他與我們解釋如何運用 Intel Market Ready Solution 及 Intel RFP Ready Kit 方面的深入知識,協助 SI 找出合適選項,其中也包括並未受人熟知的解決方案。

「我們讓他們瞭解,他們可以解構多個解決方案。他們能與 ODM、OEM,甚至 ISV 等供應商合作,並採用模組化的方法,」Niu 說。

為 Intel Market Ready Solution 社群的成員提供教育,強化其價值(圖 1)。

WPI 協助解決方案整合商與 Intel Market Ready Solution 企業為客戶提供更好的服務
圖 1。WPI 協助解決方案整合商與 Intel® Market Ready Solution 企業為客戶提供更好的服務,同時改善自身的企業。

工業物聯網:不用多,只要精

Giada 亦稱為 Shenzhen ASL Intelligent Systems Ltd.,是 WPI 的客戶,亦是 Intel Market Ready Solution 企業。這間公司想要尋找能在他們的 Giada Digital Signage Management System(Giada 數位招牌管理系統)上增加臉部識別功能的人工智慧 (AI) 解決方案。

「我們考量了許多可能性,並建議 Giada 與同為 Intel Market Ready Solution 企業的 Gorilla Technology 合作,運用後者智慧影片分析錄影機 (IVAR) 解決方案的特定元件,」Niu 說。

IVAR 提供許多功能,包括臉部偵測與識別、車輛偵測與識別、行為分析,以及商業智慧等。但 WPI 推薦的解決方案經過修改,僅具有含性別與年齡辨識的臉部識別功能。

「Giada 不需要車輛偵測或行為分析等功能,」Niu 說:「企業經常認為現成解決方案不能根據需求來量身打造。但在與 Giada 和 Gorilla 的合作中,我們協助兩個企業從合適的解決方案中獲得利益。」

在 WPI 經手的過程中,他們確保 Gorilla 能獲得 Giada 的 IPC 媒體播放器,並讓 Giada 取得 Gorilla 的軟體。「這讓兩個企業能完整測試對方的系統,」Niu 說:「而不是單純提供規格與功能需求,希望他們能找出解決方法來。」

在這個例子,還有 WPI 參與的許多其他案例中,Intel OpenVINO 工具組都是十分重要的角色。WPI 亦與 OEM 和 ODM 合作,協助他們更深入瞭解此工具組,以及如何使用工具組來改善解決方案。

有越來越多的開放平台在尋找運用工業物聯網應用的方法,WPI 也協助 SI 將 AI 與軟體即服務 (SaaS) 帶到邊緣,提供分析與即時回應的能力。「透過分離功能,並以可各別組裝的方法提供,我們就能為 SI 擴展客戶群的規模,」Niu 說:「我們協助 SI 在為客戶打造符合需求的解決方案時,能探索更多的選項。」

在「為何系統整合商需要進化」中進一步瞭解此主題。下載。

系統整合商的大規模轉變

「適者生存。」對系統整合商 (SI) 來說,這不僅是一句有名的格言。這是業務的根本原則。

SI 只需要單純組裝零件的日子已經過去了。現今的客戶想要 AI 與機器視覺等進階功能,這需要極為專業的技術。

加上物聯網將技術進一步推向現場運作,SI 也需要瞭解客戶的業務細節。不限產業的方法已經無法解決問題。

簡而言之,SI 的角色正在快速進化。尋找 SI 服務的客戶們不再只是廠商,更像是合作夥伴。他們希望 SI 協助他們解決複雜的特定應用程式挑戰。

WPI Group 亞太區域物聯網解決方案部門的副總裁 Dennis Niu 告訴我們他的觀察結果:「想要介入零售、製造,或智慧城市領域的 SI 需要能節省成本或增加獲益的產品,」。為了達到這樣的目的,SI 提供的解決方案必須:

  • 高度整合,最小化客戶的技術負擔
  • 開源並具有彈性,可搭配現有基礎架構運作

為了理解為何這些是最重要的需求,讓我們來觀察一個來自海運產業的範例。

案例研究:物流

在過去一百年內,船運產業的進步並不明顯。但隨著物聯網日漸普及,一切都改變了。

現代的貨櫃船具有大量的高科技系統。推進系統受到密切監控,以確保運作的效率,並可預測維護需求。高價值的貨物採用連接雲端的貨櫃,可追蹤溫度與其他因素。艦上網路提供可與岸上基礎架構一較高下的精密度。

這還僅是船艦本身而已。當船隻接近目的地時,可通知港口其抵達細節、搭載的貨物,以及貨物需要前往的位置。靠岸後,船隻可與智慧吊車通訊,以自動化卸貨。

除此之外,港口管理員亦可得知是否有任何危險物質送抵港口。這樣進階的警示可提高安全性,並縮短停機時間。港口可做好迎接船隻的準備,而不是使其停在隔離區,等待符合資格的團隊與合適泊位。

從機組人員的娛樂系統到智慧吊車,其中任何一項系統都是浩大的工程。讓一切能在全球的港口與船隻互相搭配運作,更加提高了複雜度。

這樣的範圍與規模,彰顯了 SI 需要變得更加專業的原因。以及客戶需要 SI 協助的原因。

經銷商的角色改變

SI 的角色正在轉變,經銷商也不例外。對經銷商來說,光是提供零件目錄已經不夠了。取而代之的,他們正在處理之前由 SI 所完成的工作。

事實上,SI 之前所擔任的部分角色,是從經銷商一路延伸到他們的技術供應商。舉例來說,技術供應商現在提供 Intel® Market Ready Solution (Intel® MRS) 與 Intel® RFP Ready Kit (Intel® RRK),這是一系列適用於特定應用的預先整合解決方案。

透過這樣的角色轉變,經銷商能讓自己的身份轉換為整合商。擁有這樣的新能力,整合商可結合預先整合與自訂的系統,為 SI 提供合適的解決方案。

WPI 的 Niu 解釋他的公司如何運用 Intel MRS 和 Intel RRK 解決方案。

「結合專為在特定使用案例中完成特定任務所設計的硬體與軟體,通常在許多情況下都能運作良好,」Niu 說:「不過整合商們發現了一個趨勢,那就是從多個廠商的解決方案中分解或解構元素。」(圖 1

WPI 等整合商與系統整合商合作,打造合適的解決方案
圖 1. WPI 等整合商與系統整合商合作,為特定使用案例打造合適的解決方案。

在解構初始解決方案後,整合商便可加入 AI 等功能。他們也能最佳化所結合的解決方案,例如移除因移轉解決方案所產生的冗餘硬體等。

如此便為 SI 帶來了恰如其分的起始點,可提供所需的技術,且無需昂貴的多餘功能。

不斷演進的 AI 與工業物聯網市場

除了打造經過最佳化的解決方案,以及處理更多之前由 SI 負責的無區別作業,整合商還能以其他方式為 SI 提供支援。舉例來說,WPI 提供針對 Intel® OpenVINO 工具組的訓練,協助 SI 快速掌握機器視覺。

「現在的 Intel® 不再只是一間 CPU 公司,」Niu 說:「他們是一間資料公司。他們參與了智慧製造、智慧零售,以及智慧城市等多種領域,在過程中都產生了該領域的專業知識。我們協助將這些專業知識分享給 SI,讓他們能為客戶提供更好的服務。」

這樣的知識分享也能延伸到其他令人出乎意料的領域中。例如,當 SI 的專業知識不斷增加,在特定領域中擁有出色的表現後,他們可能會需要其他領域的支援。除此之外,許多 SI 著重於 IT 或 OT 上。

「大型的 SI 可能擁有開發多種領域實作的資源,」Niu 說:「他們能為智慧城市、零售或製造產業提供解決方案。但在專業領域之外,許多還是需要與 IT 或 OT 方面的夥伴共同合作。」

整合商可針對特定專案,結合兩家互補的 SI。「這樣的協調能為 SI 帶來更多作業機會,也能帶來更多成功的專案,」Niu 這麼說。

 

在「為何系統整合商需要進化」中進一步瞭解此主題。下載。

軟體定義 WAN 為 5G 世界重新塑造邊緣網路

5G 網路將能為消費者使用案例提供強化行動寬頻 (enhanced Mobile Broadband, eMBB) 連線能力、為工業部署提供超高可靠度低延遲通訊 (Ultra-Reliable Low-Latency Communications, URLLC),並為物聯網提供大規模機械式通訊 (massive Machine-Type Communications, mMTC)。

如此廣泛的應用範圍幾乎能影響一切領域:擴增與虛擬實境、即時翻譯服務、自動駕駛車輛網路,以及全面性的環境感測等(圖 1)。

5G 使用案例
圖 1。5G 將在企業、消費者,以及工業領域中支援多種不同的應用程式與使用案例。(資料來源:Ericsson)

邊緣網路必須具備最低的延遲與最高輸送量,才能支援所有的這些流量類型。在許多使用案例中,企業在嘗試支援採用 5G 技術的新應用程式與服務時,也會需要翻新他們的基礎架構以獲得行動邊緣運算 (MEC) 能力。

5G 對企業的影響

舉例來說,如 Citrix 等公司展示了 5G 為現代企業帶來的商機與挑戰。

一方面,該公司提供數位工作環境解決方案,讓客戶能透過虛擬線上應用程式與桌面環境協同合作。另一方面,他們也為醫療保健、製造,以及金融服務等市場的客戶提供網路基礎架構服務,如智慧流量管理、負載平衡,以及防火牆等(圖 2)。

為 5G 做好準備
圖 2。Citrix 等企業軟體公司必須為 5G 做好準備。(資料來源:Citrix Systems, Inc.

隨著 5G 網路上線,不僅使用者對工作環境解決方案的延遲容忍度下降,他們也期望線上協同合作環境中能搭載額外的高頻寬特色與功能。此外,網路服務產品必須要更加進化,為無數受到 5G 影響的產業、客戶,以及他們的應用程式支援可靠度和服務品質 (QoS) 需求。

為了提供這種類型的效能,代表邊緣需要更多的智慧功能。但為了以永續、可擴充的方式持續提供軟體解決方案與服務,Citrix 等公司無法負擔為每一種使用案例和部署情況使用專用硬體設備的成本與複雜度。

取而代之是,這些企業正在設法利用 SD-WAN 等軟體定義基礎架構支援 5G 需求。(如需詳細資料,請閱讀「SD-WAN 與 uCPE:簡介」。)

SD-WAN 與 uPCE 強化擴充性

類似資料中心內的軟體定義網路 (SDN),軟體定義廣域網路仰賴軟體式控制器而非專用硬體,將流量路由至網路上。因此,工程師可使用通用硬體與軟體,為不同的 5G 流量設定服務等級協議 (SLA)。

與 5G 部署相同重要的一點,就是 SD-WAN 可利用標準的硬體基礎架構。這種一般用途的平台稱為通用客戶端設備 (uCPE),可根據使用者需求提供多核心網路處理器、充足的儲存容量與記憶體、足夠的網路連接埠,以及經過硬體加速的安全機制。

但 uCPE 真正的優勢是其使用如 Intel® VT 等虛擬化技術,讓系統上的每一個核心都能做為單獨的網路設備使用。舉例來說,一個四核心的系統可將兩個核心分配於網路協調和管理功能,第三個核心用於防火牆或負載平衡,並將第四個核心保留給客戶應用程式。

如此可提供高度整合的系統,只受可用核心數量的限制,這樣能降低測試、管理和維護多種硬體設備的總持有成本 (TCO)。

除了節省成本以外,還有一點對 Citrix 這類的公司格外重要,就是這樣的基礎架構與資料中心環境中已經部署的架構類似。

uCPE 系統的設計是用於客戶的設施或是小型分公司內部,因此,其本質為一種為邊緣提供智慧的架構移轉(圖 3)。這代表 5G 網路、應用程式及服務都能在更近的位置擁有更多的可用效能,確保輸送量最高和延遲最低。

透過 5G 網路連結的 SD-WAN 架構
圖 3。SD-WAN 架構可讓企業透過 5G 網路連結,將雲端的智慧功能轉移至小型辦公室或分公司位置。(資料來源:NETSCOUT

擁有一致的硬體基礎架構也代表軟體供應商能在 5G 的邊緣至雲端連續體中擁有龐大的擴充性。

加速促成 5G 和行動邊緣運算

在組織開始為邊緣網路標準化 uCPE 硬體的同時,在效能、安全性和 I/O 方面還是需要可擴充性。為了滿足這些需求,Intel®CASwell, Inc. 等合作夥伴提供了一系列的 uCPE 設備解決方案。

例如,要求嚴苛的企業部署可運用 CASwell CAR-3080 網路設備,採用具有最多 16 核心的 Intel® Xeon® D2100 處理器,支援 40 Gigabit 乙太網路,並可透過網路模組提供多達 40 個乙太網路連接埠(圖 4)。做為經過驗證之適用於 uCPE 的 Intel® Select 解決方案之一,CAR-3080 出廠時已通過初審,可提供百分之 100 的線路速率封包處理效能,並為運用多種高輸送量應用程式或服務的設施提供 100 Gbps 的加密能力。

適用於 uCPE 的 CAR-3080
圖 4. CAR-3080 是首部經過驗證之適用於 uCPE 的 Intel® Select 解決方案的設備之一。(資料來源:CASwell, Inc.)

運用如 CAR-3080 等適用於 uCPE 的 ISS 解決方案的網路營運商與服務供應商,可採用已知所需軟體整合測試最少的技術。在為了滿足未來的網路需求而擴充基礎架構時,他們也可確保具有可用的相容選項。

另一方面,uCPE 解決方案產品是以多核心 Intel Atom® C3000 伺服器 SoC 為基礎,可提供合適的價格、功耗及無風扇效能組合,滿足大部分小型辦公室的入門級需求。CASwell CAD-0263 是其中一種白牌設備,提供 4 核心和 16 核心之間的選項、Intel® QuickAssist Technology (Intel® QAT)、多個乙太網路連接埠,並支援 LTE 與 Wi-Fi 模組(圖 5)。

CAD-0263 支援無風扇運作
圖 5。搭載 Intel Atom® C3000 的 CAD-0263 支援無風扇運作。(資料來源:CASwell, Inc.)

為當今企業啟用 5G 基礎架構

雖然 5G 規格的第一個 eMBB 元素剛獲得 3GPP 核准,但對現有企業應用程式帶來的優勢已經非常明顯。比方說,透過 1 Gbps 資料傳輸速率和可支援更高的連線密度等功能,可為視訊會議和虛擬化環境等多種使用案例帶來明顯的影響。

但 eMBB 的功能也一定會帶動全新的應用程式與服務商機,更不用說將會隨著此標準的後續部分出現的開創性決定能力與機器對機器通訊能力。越接近這些功能受到核准,部署此基礎架構的競爭也會更加激烈。

SD-WAN 與 uCPE 提供一個方向,讓現今的基礎架構能提供軟體廠商所需的彈性,並為服務供應商提供經濟效益。您還在等什麼?

新世代的網路邊緣需要 SD-WAN

根據 Cisco 視覺網路指數 (Visual Networking Index),全球的 IP 流量將會以每年百分之 26 的幅度增加,到 2022 年時,每個月將會達到可觀的 396 艾位元組 (exabyte)(圖 1)。這樣的成長由智慧型手機、物聯網裝置,以及其他傳統上並未連接至網際網路的平台所帶動。

這些流量都需要使用頻寬,以及特殊的網路服務。此狀況為現有的邊緣網路基礎架構帶來了沈重壓力,同時也影響到仰賴這種架構的企業,尤其是我們正在轉移至 5G 環境。

舉例來說,企業或網路服務供應商可能會使用深入封包檢查 (DPI) 功能來分析公共資料流量,以偵測病毒或簡化流經他們基礎架構的網路流量。他們可能也會使用虛擬私人網路 (VPN),以支援具有不同服務等級 (QoS) 與安全需求的即時物聯網流量。他們也很可能會使用防火牆和工作階段邊界控制器等技術。

Cisco 的視覺網路指數所指出的全球 IP 流量
圖 1。Cisco VNI 表示到 2022 年之前,全球 IP 流量將以每年百分之 26 的幅度增加。

傳統上,這些服務需要運用各種專用硬體設備來提供支援。不僅維護成本昂貴和管理困難,也無法在現代邊緣網路現在必須支援的應用程式與服務的資料流量和類型增加時隨之擴充。

與其將以硬體為中心的方法帶到邊緣網路服務,您可以採用替代方案,以運作於通用硬體上的軟體來提供這些功能。這能將管理專用設備的成本與複雜度降到最低,並確保網路架構能符合未來日益增加的需求與多樣化流量。

網路設備供應商現在透過適用於 SD-WAN 的通用客戶端設備 (uCPE),積極支持這種軟體定義基礎架構。閱讀「SD-WAN 與 uCPE:簡介」。

滿足未來需求的邊緣網路

適用於 SD-WAN 的 uCPE 以網路功能虛擬化 (NFV) 技術為基礎,可在多核心網路處理器上以虛擬網路功能 (VNF) 提供網路服務。

因此,可將單一 uCPE 網路平台部署於供應商網路的邊緣或企業設施的內部,提供動態流量協調與管理、安全性、工作階段控制,以及其他服務。

這能實現軟體定義分支等使用案例,讓安裝的服務數量與效能僅會受限於可用的處理器核心(圖 2)。

適用於 SD-WAN 的 uCPE
圖 2. 適用於 SD-WAN 的 uCPE 可使一系列服務以較低成本部署在獨立位置。(資料來源:IDC

因為此基礎架構完全為軟體定義,營運商可將這些服務做為不同的遠端管理產品,提供給不同的企業客戶,一切皆採用單晶片硬體架構。

與其將網路功能與關鍵企業應用程式代管在遙遠的資料中心內,您可以將服務部署與代管在貼近資料來源的 uCPE 平台。這有助於減少網路傳輸成本,並提高即時 5G 應用的判斷效率。

為全新邊緣網路加速平台部署

通用網路硬體並非新的概念,在資料中心內的部署已經行之有年。但許多網路營運商與服務供應商卻難以測試這些平台是否符合他們的輸送量與效能標準。這可能會耗費昂貴的成本、大量的時間,並拖延 SD-WAN 基礎架構的部署。

為了確保效能並減少與 uCPE 平台相關的測試,Intel®Advantech 等合作夥伴共同打造適用於 uCPE 的 Intel® Select 解決方案(適用於 uCPE 的 Intel® ISS)。

這些平台具有基本與加強組態可供選擇,提供 4 核心與 16 核心的 Intel® Xeon® 處理器、至少 16 GB 的記憶體、至少 256 GB 的儲存空間,以及 4 個 10 GbE 連接埠(圖 3)。加強組態亦支援 Intel® Quick Assist Technology (Intel® QAT),減輕來自主處理器核心的加密程序。

適用於 uCPE 的 Intel Select 解決方案
圖 3. 適用於 uCPE 的 Intel® Select 解決方案提供 SD-WAN 網路部署的參考平台,這裡顯示的是加強組態。(資料來源:Advantech)

適用於 uCPE 的 ISS 參考平台具有可擴充性,專為 SD-WAN 部署提供量身打造的一組基準技術。

如此,像是 Advantech 的企業就可在 FWA-3050 系列網路設備等白牌解決方案中提供額外的效能。但為了擁有適用於 uCPE 平台的 ISS 品牌,系統必須通過最低效能需求的效能標竿測試(圖 4)。這包括百分之 100 的線路速率封包處理效能,以及高達 100 Gbps 的加密能力。

適用於 uCPE 的 Intel Select 解決方案品牌產品最低效能需求
圖 4. 無論是哪一間製造商,所有擁有適用於 uCPE 的 Intel® Select 解決方案品牌的產品皆必須滿足最低效能需求。(資料來源:Intel®

在軟體方面,所有適用於 uCPE 的 ISS 解決方案皆採用以開放原始碼為中心的堆疊,結合 Intel® Data Plane Development Kit (Intel® DPDK)、Ubuntu Linux,以及 KVM/QEMU 監管程式。

使用者能放心,不會受困於專用解決方案之中,並可最小化重新測試專用軟體修補程式或額外堆疊元件的相關成本。也能確定任何適用於 uCPE 的 ISS 產品皆可為防火牆、加密,以及邊界控制等其他功能提供標準效能。

舉例來說,Advantech 的 FWA-3050 是適用於 uCPE 的 ISS 網路設備,該公司透過 BIOS 最佳化,讓軟體堆疊能在他們的硬體上更有效率地運作(圖 5)。該公司亦整合了智慧平台管理介面 (IPMI) 控制器,讓使用者能輕鬆進行遠端管理、維護,以及升級系統。

Advantech 的 FWA-3050 網路設備
圖 5。Advantech 的 FWA-3050 網路設備是經過驗證,適用於 uCPE 的 Intel® Select 解決方案。  (資料來源:Advantech)

除了這些功能以外,此公司的 FWA-3050 產品之所以與眾不同,是因為其具有優異的能源效率和額外的 I/O 等特色,並支援廣大的軟體合作夥伴價值鏈體系,同時也將這些夥伴的解決方案調整至 Advantech 硬體設備之中。

以符合成本效益的方法擴充 5G

當企業開始透過採用 5G 網路的新服務獲利,邊緣基礎架構也需要隨之更新。這些高頻寬、低延遲的應用程式需要更多的邊緣網路智慧,以及高度的彈性,讓基礎架構可適應快速變動的網路需求。

而目前的網路架構無法提供這樣的能力。管理與維護專用硬體設備不僅需要過於昂貴的成本,在設備故障時也需要專業的網路工程師與 IT 人員採取動作。

另一方面,以軟體為中心的方法可讓網路營運商與企業應用程式供應商針對故障進行遠端診斷與應對,並將停機時間縮減到最短。

透過通用 uCPE 和 SD-WAN 所提供的彈性,服務供應商便能快速適應網路的新興趨勢。有了適用於 uCPE 的 ISS,他們可以放心部署此基礎架構,確保架構能提供期望中的效能。

SD-WAN 如何帶動統合商務

為了在現代變化快速的零售環境中蓬勃成長,商家必須迎合客戶的習性。這代表要透過社群媒體、行動商務、文字訊息、電子郵件,以及包括傳統實體店面購物在內的其他途徑來吸引消費者。

這也意味著零售商需要可靠的網路基礎架構,以支援店面、網站、應用程式、客服中心、製造設施,以及其他支援服務。如圖 1 所示,統合商務環境中的不同功能之間必須進行快速且可靠的通訊,以確保完成工作。

圖 1. 零售商必須為多種不同的實體與虛擬店面提供邊緣網路支援。(資料來源:Perficient, Inc.

這些部門分別仰賴不同類型的連線能力。例如:

  • 辦公室使用的固定式寬頻網路
  • 工業設施所使用的 IP 封裝式現場匯流排協定
  • 特定零售 POS 系統或連線購物體驗所使用的 Bluetooth、Wi-Fi,以及行動數據

除了不同的網路拓撲、連線類型,以及服務品質 (QoS) 需求以外,這些通道與服務部門也需要一系列的網路服務。這可能包括防火牆、深入封包檢查 (DPI)、廣域網路 (WAN) 最佳化、路由,以及各種其他功能。在傳統的網路架構中,這樣的服務需要特別的專用硬體設備,大幅提高了成本與網路複雜度。

管理這些網路與服務可能十分麻煩,對大型或快速成長的零售組織而言更是如此,這可能導致公司無法專注於銷售商品的核心任務上。

軟體定義廣域網路 (SD-WAN) 可減輕在內部管理這些複雜網路的負擔,並降低網路服務的成本。搭配通用客戶端設備 (uCPE) 時,SD-WAN 亦可改善網路的彈性與可靠度,為客戶保持暢通的通訊線路。

SD-WAN 提供購物體驗

之前的文章中,我們已經討論過 SD-WAN 所提供的彈性。此技術使用以軟體為基礎的流量協調與管理控制器,藉由使用一般用途的 uCPE 硬體,使多種有線與無線連接能力得以連接至網路。

SD-WAN 支援的通訊技術包括 MPLS、寬頻、纜線、Wi-Fi,以及 LTE 連結等(圖 2)。因此,語音與資料流量可隨時根據應用程式的 QoS 需求,經由最佳化、最高頻寬的通道傳輸。

圖 2. SD-WAN 技術支援一般用途通用客戶端設備 (uCPE) 上的多種有線與無線網路連線。(資料來源:Cell Code

支援 SD-WAN 的硬體架構運用來自資料中心的軟體定義網路 (SDN) 與網路功能虛擬化 (NFV)。在此架構中,uCPE 可提供強大且具有彈性的一般用途網路平台,以虛擬網路功能 (VNF) 支援多種網路服務。因此,uCPE 可取代前述昂貴、複雜的硬體設備(圖 3)。

圖 3. 通用客戶端設備 (uCPE) 以虛擬網路功能 (VNF) 支援各項服務,為昂貴的網路設備提供通用硬體替代方案。(資料來源:Techplayon

對商家與提供支援的網路服務供應商來說,SD-WAN 可為多種具有特殊需求的網路提供最佳化解決方案,並且降低成本與複雜度。

為了回應這樣的需求,市場上的網路設備供應商 (NEP) 正在推出可擴充的 uCPE 解決方案,滿足打算在整個零售營運環境中部署 SD-WAN 的公司。

零售創新的通用平台

舉例來說,Intel®Lanner Inc. 等合作夥伴協力打造適用於 uCPE 的 Intel® Select 解決方案,加速 SD-WAN 在客服中心、製造設施,以及複合零售設施等架構上的大規模部署。適用於 uCPE 平台的 ISS 是可擴充的系統,採用多核心 Intel® Xeon® D 處理器,以及一系列輔助網路技術。

圖 4 概略列出適用 uCPE 解決方案的 ISS 最低硬體需求,且有基本與加強組態可供選擇。

圖 4. 適用於 uCPE 的 Intel® Select 解決方案為 SD-WAN 邊緣環境提供多核心 Intel® Xeon® 處理器的效能。(資料來源:Intel®

如上表所示,所有適用於 uCPE 產品的 ISS 至少都搭載四核心的 Intel Xeon D 處理器。這能為封包加速提供足夠的效能,同時確保核心可用於代管 VNF 服務。舉例來說,一個核心可能專門用於網路協調與管理,其他的則支援防火牆、DPI,以及 QoS 監控等。

此外,適用於 uCPE 系統的 ISS 亦搭載 Intel® Data Plane Development Kit (Intel® DPDK),這是可最佳化網路通訊的封包處理軟體套組。透過調整硬體與軟體元件,Intel 與他們的夥伴實現了百分之 100 的線路速率封包處理效能,現在已經是所有適用於 uCPE 解決方案的認證 ISS 之標準品質。

對商家來說,這代表關鍵資料可即時傳送至多個零售中心、服務部門和物流中心,確保不會流失銷售機會,並可快速解決相關問題。

此外,所有適用於 uCPE 系統的 ISS 也整合了 Intel® QuickAssist 技術,這是可卸載加密與壓縮工作負載的硬體加速功能。這有助於確保資料在零售基礎架構中移動時保持安全。同時會保留主處理器核心,專供確保營運順暢的 SD-WAN 協調與虛擬功能使用。

適用於 uCPE 平台的 ISS 硬體與軟體堆疊經過 Intel 的測試、驗證與認證,確保不論來源為何,零售商的 SD-WAN 投資都能維持永續發展。

適用於統合商務的現成 uCPE 解決方案

Lanner 的 NCA-4020 是最早適用於 uCPE 解決方案的 ISS 之一,即搭載四個 16 核心 Intel Xeon 處理器的 1U 的網路設備,可支援基本與加強組態(圖 5)。擁有這樣的品質與效能基準,零售商現在便可善用 SD-WAN 功能的優勢,並加以擴充來滿足未來的需求。

圖 5. Lanner 的 NCA-4020 是最早適用於通用客戶端設備 (uCPE) 的 Intel® Select 解決方案之一。(資料來源:Lanner Inc.

想要逐漸轉換至 uCPE 的店家可選擇 Lanner 的入門級 LUNA D-125 白牌網路設備(圖 6)。LUNA D-125 搭載雙核心 Intel Atom® C2000 處理器,可使用一個核心處理網路管理或協調作業,並為安全性等 VNF 保留另一個核心。

圖 6. Lanner Inc. 的 LUNA D-125 白牌設備搭載雙核心 Intel Atom® C2000 系列處理器。(資料來源:Lanner Inc.

Lanner 自行進行了大規模的測試、驗證和實務驗證,以確保 LUNA D-125 等系統的系統品質。

無論效能等級為何,營運商與 IT 部門都會喜歡在整個 SD-WAN 基礎架構中採用 Intel 架構系統。這樣的共通性能為統合商務部署的生命週期提供更優異的軟體重複使用性、上市時間,以及管理能力。

LUNA D-125 等平台可放置於小型辦公室或店面中,以開始轉換至具有更高彈性的網路,並為 NCA-4020 等適用於 uCPE 解決方案的強大、多功能 ISS 打下基礎,以便在合適的場合與時間發揮作用。

適用於 SD-WAN 的 uCPE:讓零售連線能力更臻完美

零售商開始要求高輸送量且可靠安全的通訊能力,以支援零售分析與擴增實境等進階功能,採用 Intel 技術的可擴充性則提供順暢的移轉路徑。適用於 uCPE 的 ISS 等解決方案乃軟體定義的可虛擬化架構,可在使用案例改變或發生之際,即時修改工作負載。

零售市場已經準備好迎接 SD-WAN 所帶來的成本與彈性優勢。現在就是邊緣零售創新的時機。

SD-WAN 與 uCPE:介紹

隨著傳統企業廣域網路 (WAN) 在容量與距離的擴展,它們經常運用多載波網路,將應用程式與服務提供至區域辦公室和本地辦公室等分散的場所。這樣的跨網路交遞可能會對協調、管理和效能造成負面影響,同時也會提高 CAPEX 和 OPEX。

企業 WAN 越來越頻繁地必須支援如串流 HD 影片等需要大量頻寬的應用。同時也越來越常使用如網路電話 (VoIP) 和視訊會議等容易受延遲影響的服務。

為了因應這些趨勢,電信服務供應商 (CSP) 與企業正在轉向使用軟體定義廣域網路 (SD-WAN) 與通用客戶端設備 (uCPE)。這些新技術為彈性、效能和成本方面帶來顯著的進展,讓電信商與使用者都能受惠。

軟體定義 WAN 與動態連接通道

SD-WAN 技術最值得注意的技術成就,就是一個邏輯 SD-WAN 可以同時支援多種連線類型。這包括了混合式 Wi-Fi、LTE、DSL、乙太網路,以及其他高速通訊形式。

圖 1 所示,SD-WAN 經由中央控制器管理,運用虛擬化技術,與底層的硬體基礎架構加以分離。因此,SD-WAN 控制器可設定原則,將流量動態地路由至最高頻寬的連結、優先排序流量,並確保符合服務等級協議 (SLA)。

圖 1. 軟體定義廣域網路 (SD-WAN) 運用資料中心網路概念,最佳化企業流量管理與效能。(資料來源:CSSTECH

此外,SD-WAN 通訊的軟體為中心 (software-centric) 方法代表可將專用設備替換成一般用途的硬體。這樣的一般用途硬體可以來自多家廠商,而且部署、管理和擴充都更容易,因此相較於傳統的 WAN 架構,SD-WAN 可大幅降低整體成本。

uCPE 為企業通訊標準化 SD-WAN

在轉移至一般用途硬體後,亦可實現網路功能虛擬化 (NFV)。透過使用 NFV,可將用於會談邊界控制、負載平衡、網路位址轉換、防火牆、深度封包檢測 (DPI),以及 WAN 加速等服務的專門網路設備移轉至現成的平台,將這些服務以虛擬網路功能 (VNF) 的方式提供。

VNF 可在雲端或資料中心代管,並透過網路遠端提供。但在電信存取網路的邊緣本地代管它們時,有助於滿足許多企業要求的較高頻寬和較低延遲服務的需求。uCPE 是可在邊緣支援 VNF 的平台。

一般用途邊緣網路虛擬化

uCPE 定義了一系列現成的硬體與開放軟體技術,將資料中心雲端和虛擬化功能帶到電信存取網路。如圖 2 所示,這些平台必須:

  • 夠彈性,可在單一系統中支援多個第三方 VNF
  • 夠強大,能滿足網路效能需求
  • 夠小巧,以部署在小型分公司內

圖 2. 通用客戶端設備 (uCPE) 結合了現成的硬體與開放軟體架構,在電信存取網路中支援虛擬化功能。(資料來源:CLADIRECT

對企業來說,uCPE 代表現場需要較少但更多樣化的網路設備,能夠在本地提供高頻寬、低延遲的服務。對 CSP 來說,一般用途的 uCPE 平台仍可透過遠端管理與升級,進而最小化維護成本。

此外,由於 SD-WAN 控制器從底層基礎架構抽離,一般用途的 uCPE 硬體便可提供部署 SD-WAN 所需的一切資源。

標準化 uCPE 以確保可靠度並降低成本

uCPE 硬體的一般用途性質促使多家廠商致力於標準化。這會讓 uCPE 技術以盡可能最低的成本被快速部署與擴充。

Intel®、Supermicro、Advantech、Lanner,還有其他廠商都為 uCPE 參考設計開發了 Intel® Select 解決方案。這些設計以 Intel® Xeon® D 2100 系列處理器為基礎,提供一系列可擴充的解決方案,協助 CSP、電信設備製造商 (TEM)、網際網路服務供應商 (ISV),以及各家企業順利進行 uCPE 與 SD-WAN(圖 3)。

圖 3.  適用於 uCPE 的 Intel® Select 解決方案提供可擴充的平台參考設計,加速 SD-WAN 的採用。(資料來源:Intel® 公司

Intel Select 解決方案的硬體和軟體堆疊經過 Intel 驗證,可確保 uCPE 參考設計的穩健性。參考設計分為兩種,可為 CSP 與企業提供微調運算、儲存和網路資源的基準線,滿足小型辦公室或大型設施的需求:

  • 適用於 uCPE 的 Intel Select 解決方案基本組態 – 專為中小型企業所設計;最基礎的 uCPE 基本組態整合四核心 Intel Xeon D 處理器、Intel® QuickAssist Technology (Intel® QAT)、2 個 10 GbE 乙太網路連接埠、充足的儲存容量與記憶體,並支援兩台虛擬機器 (VM)。
  • 適用於 uCPE 的 Intel Select 解決方案加強組態 – 專為大型企業設施所設計,uCPE 加強組態採用 14 核心的 Intel Xeon D 處理器、Intel QAT、4 個 10 GbE 乙太網路連接埠,以及更多的記憶體與儲存容量。

Super Micro Computer, Inc.SuperServer 5019D-FN8TP 是最先推出的幾款適用於 uCPE 的 Select 解決方案之一,提供 8 核心、16 執行緒的 Intel Xeon D 處理器,內建 Intel QAT,並具有大量的 I/O,以供網路安全與邊緣運算等 SD-WAN 服務使用,全部濃縮在一個 1U 外型規格中。

雖然適用於 uCPE 的 Select 解決方案可以在購買後直接部署,但也能運用 Intel® Data Plane Development Kit (Intel® DPDK) 等工具,針對部署或特定 VNF 最佳化。圖 4 展示 Super Micro 如何運用 Intel DPDK 將 DPU 和 IPSec 服務部署在 SuperServer 5019D,並與 SD-WAN 整合。

圖 4. Intel® Data Plane Development Kit (Intel® DPDK) 搭配 Super Micro Computer SuperServer 5019D 等適用於 uCPE 的 Intel® Select 解決方案,可加速像是安全性這類的虛擬網路功能 (VNF) 的實作。(資料來源:Super Micro Computer, Inc。)

標準式解決方案為 SD-WAN 提供彈性並節省成本

隨著對網路頻寬與延遲的要求日益增加,加上隨之衍生的服務,運用現成硬體與開放軟體架構來智慧管理網路基礎架構的能力,已經成為企業的當務之急。有鑑於此,我們無法忽略 SD-WAN 在效能、彈性和節省成本方面的優點。

根據研究公司 IDC 在 2017 年 7 月提出的報告,採用 SD-WAN 會看到「驚人的成長」,到 2021 年的年複合成長率 (CAGR) 可望達到百分之 69.6。剛開始進行 SD-WAN 評估程序的 CSP 與企業已經稍微落後,但適用於 SD-WAN 的 uCPE 解決方案可快速彌補差距。

透過 FPGA 協同處理器實現深度更深、速度更快的學習

對眾多產業而言,深度學習是一項顛覆性技術,但是其運算需求遠大於標準 CPU。這個問題導致開發者考慮替代架構,不過要從熟悉的 CPU 轉移至更深奧的設計極具挑戰,實非易事。與其翻新現有的基礎結構以支援深度學習,相關組織不如改採混合式 CPU + FPGA 運算架構。

即使從效能觀點來看,也有多個讓人不要全面放棄 CPU 的合理理由。首先,許多此類處理器可有效執行隔離式深度學習的推斷工作負載,因為個別推斷屬於循序運算。但當推斷運算批次或大量出現時,CPU 就難以跟上需求。

GPU 和其他大規模平行架構為循序處理提供替代方案。大規模平行處理十分適合批次處理推斷工作負載,以及具有大量輸入資料集的深度學習模型之訓練。

當然,平行運算通常不足以應付循序處理。針對需要快速循序推斷的應用,例如自動駕駛汽車的電腦視覺,以及其他要求時效性的應用上,GPU 不盡理想。

為了同時滿足低量推斷和大批次處理的要求,整合 FPGA 和多核心 CPU 的裝置是具有吸引力的選項。由於 FPGA 原本即具有大規模平行的性質,因此能夠隨時準備好執行大量深度學習批次。於此同時,CPU 則可處理較小量的循序運算。另外一種方式是讓 FPGA 和 CPU 分擔工作負載,藉此優化類神經網路的效率。

由於這種異質架構具有架構靈活性,所以不必修改現有運算基礎結構就能達成最佳化。

利用 FPGA 實現 AI 加速:內嵌與協同處理

為深入瞭解 FPGA 如何加速深度學習,讓我們看看 FPGA 如何做為內嵌與協同處理運算元素,與多核心 CPU 共同運作,。

做為內嵌處理器,FPGA 位於 CPU 前方並執行資料篩選之類的預處理工作,然後再將輸出傳遞出去進行後續運算。如同圖 1 所示,視覺系統可使用 FPGA 進行內嵌篩選或閥值分割,然後再將像素傳送至 CPU。由於 CPU 僅處理經 FPGA 決定的感興趣區域之像素,因此可增加整體系統輸送量。

圖 1. 做為內嵌處理器,FPGA 可在資料傳至 CPU 之前先行篩選,有助增加整體系統輸送量。(資料來源:National Instruments

做為協同處理器,FPGA 分擔 CPU 的運算工作負載。工作負載可透過多種方式處理,例如讓 FPGA 先執行平行處理,再將輸出傳送回 CPU,或是讓 FPGA 執行所有處理,以便 CPU 專注於通訊和控制工作。

讓我們繼續以電腦視覺為例,圖 2 顯示工作負載如何透過直接記憶體存取 (DMA) 在 FPGA 和 CPU 之間分配。

圖 2. FPGA 協同處理器可以透過直接記憶體存取 (DMA) 分享 CPU 的工作負載,釋出 CPU 空間以進行其他工作。(資料來源:National Instruments

綜上所述,使用 FPGA 搭配多核心 CPU 能夠滿足低量推斷與較大規模批次處理的需求,同時增加系統輸送量。不過,開發者要能夠在對其現有基礎結構造成最小影響的情況下,才能採用此類解決方案。

新 FPGA 帶來效能躍進和整合彈性

Intel® Stratix® 10 FPGA 提供深度學習效能的加速之道,並可與已部署系統簡便整合。此款 FPGA 可整合最多 550 萬個邏輯元件與一個四核心 64 位元 Arm Cortex-A53 CPU。此外還可提供可程式化 I/O 腳位讓 FPGA 輕鬆接合標準網路與運算技術。

就效能方面而言,Intel Stratix 10 裝置在設計上使用全新 Intel® HyperFlex™ FPGA 架構。這個架構引入超暫存器技術,將可繞道暫存器置於裝置核心的每個路由區段和所有功能模塊輸入(圖 3)。

圖 3.  超暫存器將暫存器置於每個路由區段和所有功能模塊輸入,加倍時脈頻率。(資料來源:Intel® 公司)

可繞道暫存器全面優化 FPGA 網狀架構的資料流,有助晶片達到最大效能。因此,相較於前代 FPGA,Intel Stratix 10 裝置可提供兩倍時脈速度,且耗電量減少百分之 70。這項卓越成就讓 FPGA 十分適用於高度要求效能但電源受限的應用上。

就平台整合而言,Intel Stratix 10 FPGA 裝置支援循序與平行快閃介面。此類記憶體在網路平台中甚為常見,對於深度學習極為有用,因為它們可讓開發者選擇最適合其工作負載的配置。舉例來說,Terasic, Inc.DE10-Pro Stratix 10 GX/SX PCIe 主機板可支援各種應用上的多種記憶體類型(圖 4):

  • QDR-IV 記憶體模組適用於高頻寬、低延遲的各種應用
  • QDR-II+ 記憶體模組適用於低延遲記憶體讀/寫
  • DDR4 適用於需要最大記憶體容量的各種應用

圖 4. Terasic, Inc. 的 DE10-Pro Stratix 10 GX/SX PCIe 主機板支援不同的深度學習使用案例中,所使用的多種記憶體類型。(資料來源:Terasic, Inc.

DE10-Pro includes x16 PCIe 第 3 代線道可實現高達 128 Gbp 的晶片間資料傳輸速度,四個 QSFP28 連接器全都支援 100 Gigabit 乙太網路。這些介面提供龐大的資料卸載能力,以及快速讀寫記憶體存取。在伺服器或資料中心環境中,這代表工作負載可由運算庫和記憶體資源分擔,以視需求提升深度學習效能。

最後,從軟體的角度觀之,DE10-Pro Stratix 10 GX/SX PCIe 主機板支援 Intel® Open Visual Inference & Neural Network Optimization (Intel® OpenVINO) 工具組。OpenVINO 是異質執行架構的開發套件,以通用 API 為基礎,抽離 FPGA 程式設計的複雜性。

OpenVINO 包含功能庫、核心和 OpenCV 與 OpenVX 優化呼叫,在電腦視覺與深度學習工作負載方面,展現高達 19 倍的效能強化(圖 5)。

圖 5. Open Visual Inference & Neural Network Optimization (OpenVINO) 工具組展現強大的效能優化。(資料來源:Intel® 公司

迅捷加速

深度學習工作負載在技術產業促進全面創新,對於資料處理市場尤其影響重大。業界目前正在研究各種新方法,使用專為類神經網路執行所設計的處理器來運算深度學習工作負載。

FPGA 搭載整合式多核心 CPU 提供靈活性與效能,在能夠達成最高輸送量的情況、時機與方式之下,執行深度學習工作負載。無論在人工智慧、次世代網路或任何可使用高效能運算 (HPC) 處理的市場,此產品都能提供因應未來需求的移轉路徑。