隨著越來越多裝置加入工業物聯網，勢必要有更多的能源為其供電。雖然這讓電力網得承受更大的壓力，卻也促成了智慧供電的新方法。

工業物聯網技術可加速智慧電網自動化，提供前所未有的能源最佳化。例如，預測性負載監控、預先切換、高準確度電壓變換等變電所應用，讓效率與運作時間能更上一層樓。

不過，將物聯網連線和分析加入電力網有其風險，會有電腦與網路設備的成本開支、安全性弱點可能會增加，以及新舊系統之間永遠可能存在互通性的問題。

新的電子系統設計陸續問世，在能源產業的可靠性、互通性和成本考量之間需取得平衡，這些系統主要奠基於工作負載整合的概念。

但是在處理工作負載整合的問題之前，讓我們先設想一般變電所的功能與架構。

各項標準為自動化鋪路

變電所負責收集、轉換、傳輸和/或分配來自能源的電力。它們仰賴稱為「合併單元」(MU) 的裝置，針對來自變壓器的類比電流進行取樣和數位化（圖 1）。

MU 也是變電所通訊網路中的第一個節點。這些網路有許多都是以 IEEE 61850 標準為基礎，這套標準支援多種通訊協定，可在不同供應商的電力子系統之間傳輸數位訊號。它們也透過工業乙太網路，將資訊提供給 HMI 平台與 SCADA 網路（圖 2）。

使用 IEC 61850 網路，變電所節點的即時訊號之間延遲可低於 4 毫秒。這些通訊協定也支援抽象的資料模型，以及與企業系統相容的回報機制。

這種混合 IT 與 OT 網路的功能，意味著啟用 IEC 61850 的單一閘道平台既可以執行嵌入式控制，也可以進行企業資料分析。

這就是工作負載整合的舞台。

降低成本，提升智慧

工作負載整合基於多核心處理器和虛擬化技術。

虛擬化技術可透過即時的安全關鍵監管程式，將資料和程序安全地隔離到特定的處理器核心或多個核心上。監管程式也能涵蓋這些核心的漏洞、故障和弱點，這麼一來，即使企業應用程式發生故障，關鍵功能也會繼續運作。

如需有關工作負載整合的詳細資訊，請參閱嵌入式虛擬化帶動混合關鍵性的物聯網系統。

對於混合關鍵性閘道而言，這表示像是電壓轉變等 OT 工作負載可以與分析應用程式（例如預測性負載管理）同時執行（圖 3）。

虛擬化技術的另一個優勢是備援系統設計。在四核心系統中，有兩個核心專門用於執行虛擬網路交換器，輸送流量至 OT/IT 網路邊界。另外兩個核心則專用於資料擷取，其中一個核心執行主要工作負載，第二個核心提供應用程式備援功能。

整體來說，工作負載整合滿足了能源系統設計師的需求：

可靠性。在內部部署預測性監控、切換及其他以分析數據為基礎的應用程式，可提升變電所的運作時間與效率。短期而言，這有助於避免電源突波和峰值電壓的負面影響；長期之下，這可以保護設備免於損壞事件所造成的磨損。

安全性。將平台分割成穩固的分割區，這代表如果有應用程式位於完整性較低的網路中，這些應用程式可以與系統的其他部份隔離。這麼做有助於防範源自公司/IT 環境的惡意軟體或威脅，例如 2015 年針對烏克蘭電力網發動的網路攻擊案例。

成本。將多種功能整合至單一平台上，能立即節省資本支出，也更容易管理整體基礎架構。由於可靠性提升，變電所的生命週期就能大幅省下成本。

堅固可靠的智慧電網自動化

要發揮工作負載整合的最大效益，需要特定類型的多核心處理器。在變電所自動化閘道中，這個處理器的效能必須夠強大，才能在堅固耐用、具確定性之餘，還能促成高頻寬網路和分析。

對工作負載整合的變電所自動化而言，Intel^® Xeon^® E3-1500 處理器系列產品無論在外型、大小、功能上，都是匹配之選。四核心 Xeon E3-1500 處理器可提供八個執行緒的效能，同時將散熱設計功耗 (TDP) 維持在僅僅 25 瓦。它們也提供嵌入式選擇，確保長效的生命週期支援及可用性。

E3-1500 系列處理器整合企業功能，例如 Intel^® 虛擬化技術及 Intel^® 主動管理技術。這種集結了效能、可靠性和管理性的罕見組合，為變電所閘道上的工作負載整合提供了所有的基本建構模塊。

為了將 E3-1500 納入智慧電網設定，
立端科技股份有限公司 (Lanner Electronics Inc.) 開發了 LEC-3340，這是和 IEC 61850、IEEE 1613 相容的 3U 機架式控制器系統，專為高可靠性及高可用性的變電所自動化所設計（圖 4）。

這個 Lanner 閘道包含備援 AC/DC 電源供應器（16.6 至 160 VDC/100 至 240 VAC），能協助將平台可靠性最大化。系統也包含兩個可熱插拔的 2.5 吋磁碟機槽。

磁碟機槽可用來支援額外的電源供應器，讓平台成為電池備援庫。此外，它們也能用來支援 SSD RAID 儲存裝置，以提升資料復原力。由於它們可熱插拔，因此不需要關閉系統電源就能變更。

這些平台也支援選購的高可用性無縫備援 (HSR) 和平行備援通訊協定 (PRP) 卡，將可靠性和可用性推向極致。

立端科技股份有限公司 (Lanner Electronics Inc.) 行銷經理 Brian Chen 表示：「LEC-3340 是以可擴充平台為目標所設計，具備 PCI 擴充與能充分運用虛擬化技術的處理器。根據設備的部署位置，它可以針對不同的連線目的來支援 PCI 模組，像是針對發電站網路故障轉移的 HSR 和 PRP 模組卡。」

ESD 突波防護、ECC 記憶體，以及選購的信賴平台模組 (TPM) 2.0，使平台的可靠性重點更為完備。

人工智慧自動化？

工作負載整合與高效能處理器也開啟了大門，讓 AI 及機器學習可以在變電所本機進行部署。在 LEC-3340 這類平台上運作，可即時分析整個變電所的運作狀況，以達到最佳化目的。

輸入電壓若短暫地突升或下降，造成轉換效率降低，便可即時對其進行分析。而特定的電流可切換至經過最佳化處理的特定變壓器，以處理那些特定的電壓。

有了高效能的工作負載整合，這樣的未來比您想像的更觸手可及。

AI 已建置出新一代晶片，其設計可在輸送量、延遲與耗電量之間取得平衡。

GPU、FPGA 和視覺處理器 (VPU) 等 AI 加速器均針對類神經網路工作負載的運算最佳化。這些處理器架構讓電腦視覺 (CV)、語音辨識和自然語言處理等應用得以實現。它們也讓物聯網邊緣裝置上的本機 AI 推斷得以付諸實行。

但是，效能標竿顯示這些加速器的重要性並不相同。選擇任一加速器都可能會對系統輸送量、延遲、耗電量和整體成本造成嚴重影響。

瞭解 AI 推斷

務必確實瞭解何謂類神經網路，以及運算這些網路所需具備的條件。這有助於釐清稍後要檢視的效能標竿。

類神經網路是模擬人類大腦的 AI 技術子集。類神經網路並非單一演算法，它通常是由多個軟體演算法集結而成，層層堆疊，就像蛋糕一樣。

每一層都會對輸入資料集進行分析，然後根據訓練階段學到的特點來加以分類。於某一層將特定特點分類之後，其會將此輸入傳遞給後續層級。在迴旋式類神經網路 (CNN) 中，系統會執行一或多次的線性數學運算 (迴旋) 來產生這些層級的累積運算式。

例如，在影像分類中，網路會收到一張圖片。某一層會將形狀歸類為臉孔。另一層會分類四條腿。第三層可分類毛皮。套用迴旋後，類神經網路最終會推斷這是貓的影像（圖 1）。這個過程稱為「推斷」。

類神經網路處理器每次運算新層級時，都必須存取來自記憶體的輸入資料。取捨就從這裡開始。

類神經網路中的層數和迴旋越多，AI 加速器所需的效能和高頻寬記憶體存取次數就越高。但是，您也可以犧牲精確性來提高速度，或是犧牲速度來降低耗電量。這一切都取決於應用程式的需求。

GPU、FPGA、VPU 之比較

輸送量和延遲效能標竿顯示執行四個精簡影像分類類神經網路時，Intel^® Arria^® 10 FPGA、Intel^® Movidius^™ Myriad^™ X VPU 和 NVIDIA Tesla GPU 的效能狀況。這些網路為 GoogLeNetv1、ResNet-18、SqueezeNetv1.1 和 ResNet-50。

每個處理器均裝設在現成加速卡中，提供真實世界情境：

Arria 10 FPGA — 此軟體定義的可程式化邏輯裝置可提供高達每秒 1.5 兆次浮點運算 (TFLOPS) 和整合式 DSP 區塊。IEI Integration Corp. Mustang F100-A10 AI 加速卡在我們的效能標竿中呈現出這一點。

Mustang F100-A10 包含 8 GB 的 2400 MHz DDR4 記憶體和 PCIe 第 3 代 x8 介面。這些特點可支援對超過 20 個同步視訊頻道進行類神經網路推斷（圖 2）。

Myriad X VPU — 這些硬體加速器整合了類神經運算引擎、16 個可程式化 SHAVE 核心、超高輸送量記憶體網狀架構，以及支援高達八個 HD 攝影機感應器的 4K 影像訊號處理 (ISP) 管線。這些資訊都包含在 IEI Mustang-V100-MX8 的效能標竿中。

Mustang-V100-MX8 整合了八個 Movidius X VPU，因此可同時對多個視覺管道執行類神經網路演算法（圖 3）。每個 VPU 都僅耗用 2.5 瓦的電力。

NVIDIA Tesla GPU — 這些推斷加速器採用 NVIDIA Pascal 架構，能以相當於 CPU 1/15 倍的延遲提供 5.5 TFLOPS 的效能。NVIDIA P4 超大規模推斷平台會受到效能標竿的影響。

圖 4 顯示效能標竿結果。輸送量是以每秒分析的影像數來表示，而延遲則代表分析每個影像所需的時間（以毫秒為單位）。

輸送量和延遲效能標竿顯示，以整個類神經網路工作負載來看，FPGA 和 VPU 加速器的效能明顯優於 CPU。如圖 5 所示，IEI Mustang 產品的散熱設計功率 (TDP) 額定值與價位點明顯較低。

除了效能標竿以外的比較

GPU 在這類小批次處理工作上表現較差的原因，與架構有很大的關係。

GPU 通常由含有 32 個核心的區塊組成，所有區塊都是平行執行相同指令。這種單一指令、多重資料 (SIMD) 架構讓 GPU 能夠比傳統處理器更快速地處理大量的複雜工作。

但是，延遲與這些存取記憶體資料的核心有關，而 P4 上的記憶體就是外部 DDR5 SDRAM。在較大的工作負載中，由於平行處理方式能套用多個核心的效能，因此延遲問題不容易被注意到。在較小的工作負載中，延遲比較顯而易見。

相對地，FPGA 和 VPU 因為其架構彈性之故，因此在較小的工作負載中表現優異。

Intel^® Arria^® 10 FPGA 內部

例如，Arria 10 FPGA 網狀架構可重新設定，以支援不同的邏輯、算術及暫存器等功能。這些功能可以組織成 FPGA 網狀架構的區塊，以符合特定類神經網路演算法的確切需求。

這些裝置也整合了可變精密的 DSP 區塊與浮點功能（圖 6）。這可提供 GPU 的平行處理，而不需要延遲的取捨。

內部記憶體和高頻寬內部互連，讓邏輯區塊可直接存取資料，因而造就超低延遲。因此，Arria 10 裝置可以比 GPU 更快速地擷取和運算小批的推斷資料，進而大幅提高輸送量。

利用 Intel^® Movidius^™ Myriad^™ X VPU 的彈性運算與記憶體

同時，Myriad X VPU 的類神經運算引擎還提供專用的晶片內建 AI 加速器。類神經運算引擎是一種硬體區塊，能以最低耗電量及高達每秒 1 兆次的運算作業 (TOPS) 來處理類神經網路。

類神經運算引擎配備前述的 16 個可程式化 SHAVE 核心。這些 128 位元向量處理器結合成像加速器和硬體編碼器，打造高輸送量的 ISP 管線。事實上，SHAVE 核心可以一次執行多個 ISP 管道。

管線中的每個元件都可以存取共同的智慧記憶體網狀架構（圖 7）。因此，類神經網路工作負載可在經過最佳化的神經運算引擎中終止，不需耗費多重記憶體存取所產生的延遲或電力。

查看效能標竿

本文說明晶片架構與硬體加速器的創新如何在邊緣實現 AI。雖然每種架構各有其優點，但是必須通盤考量這些平台對於類神經網路作業和系統之運算效能、耗電量和延遲有何影響。

為此，請務必先查看效能標竿，再著手進行下一個 AI 設計。

物聯網邊緣不斷成長，但不一定變得更有智慧。更多的感應器代表有更多的資料，但這情況未必能讓這些資料更有價值、可據以行動，甚至有具關聯性。為了達到這些目的，必須更快速地將資料轉換成有用資訊。這需要將運算智慧功能與分析能力延伸到邊緣上。

對自動化、航空和國防工程來說，資料過載是一種習以為常的狀況。大型渦輪機、幫浦和其他設備可能在幾個小時內就會產生數 TB 的資料。如果沒有高效能的邊緣運算能力，這樣的大量資料會過於雜亂，並隨著時間失去價值。

開發者在設計邊緣分析功能時，面對的挑戰包括整合 IT 和 OT、處理時需要均衡的每瓦效能 (PPW)，以及強固的設計需求。

生命週期較長的應用程式需要在遠端邊緣部署強大的智能，而嵌入式微伺服器就是適合的解決方案。

適合物聯網邊緣的架構

隨著 SoC 開始在單晶片上整合更多系統功能，嵌入式微伺服器也隨之誕生。這讓「輕型伺服器」平台能部署在更多樣化的環境中。

但傳統的微伺服器無法滿足真正的邊緣智慧功能需求，即：

• 工作負載整合。低延遲邊緣分析代表直接與感應器和其他輸入裝置對接。在講求大小與耗電量的應用中，工程師需要將這所有功能整合至同一個平台上。若 OT 和 IT 軟體位於同一個系統上，則必須有硬體虛擬化與安全關鍵監管軟體。
• 確定性的 IT 與 OT 通訊能力。微伺服器需要存取即時運作資料以執行嵌入式控制任務，同時要支援非確定性的企業應用程式。但需要具確定性、以 IP 為基礎的連線能力，才能讓效率最大化並達到低延遲。
• 強固設計。邊緣微伺服器必須能承受廣泛的溫度範圍、衝擊與震動，以及其他可能影響應用資料或裝置本身的狀況。

伺服器等級的嵌入式技術

伺服器級嵌入式處理器等解決方案經過大幅度的強化，可滿足這些不斷增長的需求。SoC 提供企業級的效能、網路功能及虛擬化能力，加上傳統的嵌入式環境與生命週期支援。16 核心、16 執行緒的 Intel Atom^® 處理器 C3958 便是一個範例。

Atom C 系列最顯著的特點，就是它的運算效能。此處理器的散熱設計功率 (TDP) 僅 31 W，卻能為邊緣分析提供充足的運算能力。相較之下，八核心的 Intel^® Xeon^® D 處理器的 TDP 則是 35 W。

但使這個裝置能成為伺服器級嵌入式處理器的原因，是其虛擬化支援能力。Intel^® 虛擬化技術 (Intel^® VT-x) 提供硬體協助，透過運用監管程式，安全地分割 IT 與 OT 軟體。這也是 Intel^® Virtualization Technology for Directed I/O (Intel^® VT-d) 的基礎。

Intel VT-d 是 VT-x 的延伸，可為虛擬機器配置 I/O 頻寬。這能讓虛擬化作業系統與應用程式透過 VMM/監管程式存取資源時，避免折損輸送量效能（圖 1）。

最後，為了使邊緣微伺服器平衡 IT 和 OT 工作負載，確定性的乙太網路則是改變規則的重要角色。以 IEEE 1588 精確時間協定 (PTP) 為基礎，確定性的乙太網路使感應器與致動器能偵測時間，以提供 IP 通訊。

這也有助於同步在運作層級與企業軟體之間流通的應用程式資料。配置了足夠的頻寬，確定性的乙太網路便能提供可靠、低延遲的通訊，支援即時的邊緣分析。

若要進一步瞭解乙太網路 TSN 的詳細資訊，請參閱時效性網路：炒作 vs. 現實。

更小但更強大的標準

這些嶄新技術為微伺服器提供邊緣分析所需的效能。

其中一個解決方案為 VersaLogic Corp. 所推出的 Grizzly VL-ESU-5070。Grizzly 是一種 COM Express Extended 嵌入式伺服器單元 (ESU)，採用 Atom C3958 處理器（圖 2）。

這是 155 公釐 x 110 公釐的 ESU 為雙主機板解決方案，結合運算模組與載板。COM 機板的處理器側裝有散熱板，確保能在高溫環境中有效散熱。

即使採用多主機板架構，Grizzly 平台還是符合 MIL-STD-202H 衝擊與震動要求，可部署於極端嚴苛的環境中。

Grizzly 整合了 128 GB 的 ECC 記憶體，確保在嚴苛環境中的資料可靠度。這有助於對抗在嚴苛部署環境中可能會發生的單位元錯誤。

VersaLogic Corporation 產品經理 Bob Buxton 說：「發生單位元錯誤的原因通常是因為記憶體位元翻轉，而不是硬體的緣故。這通常為放射性來源所導致，像是 α 粒子或宇宙射線。因此，在飛行器部署，以及高海拔、長航程的無人機部署中，ECC 記憶體格外重要。」

主機板亦具備 M.2 插槽，以供額外的非揮發性儲存設備使用。

Grizzly 具有兩個 10 GbE 與四個 1 GbE 連接埠，皆支援 IEEE 1588 精確時間同步。這讓邊緣微伺服器可在資料流量流程中維持可靠、確定性的通訊。兩個 1 GbE 介面為 PoE 連接埠，可為攝影機、HMI、無線存取點等多種設備供電。

Buxton 繼續說道：「10 個 Gigabit 乙太網路連接埠可連接 IT 網路，並透過網路連接到雲端。Gigabit 乙太網路連接埠可在網路的 OT 端運作。因此，Grizzly 當然也具有可用於連接 OT 端之感應器與制動器的 GPIO。」

而可支援 Windows 和 Linux，也意味著開發者可輕易運用上述的虛擬化技術優勢。

輕鬆駕馭邊緣 AI

當邊緣擁有更多智能，組織便能找到新方法，收集更優異的資料。以 Grizzly 等平台為基礎的邊緣微伺服器架構，提供了一種移轉的進化路徑。

Buxton 解釋：「實際上，AI 推斷可在多種裝置上進行。我們現在已經可以在 Intel Atom 產品上進行這樣的運作，因此 Grizzly C 系列上的 16 核心應能輕鬆處理這樣的工作負載。」

在需要更多效能處理 AI 與分析工作負載的情況下，可於 Grizzly 其中一個內建插槽上安裝額外的處理器，例如 mini-PCIe 卡上的 Intel^® Myriad^™ 裝置。

從軟體角度來看，整合於 Intel Atom C3958 中的虛擬化技術可確保未來能順利新增、更新或取代較新的企業應用程式，而不會影響到現有的應用程式。透過 Intel 和 VersaLogic 的長生命週期支援，將這些功能設計至嵌入式微伺服器內，可將平台的使用壽命延長許多年。

邊緣分析已能運用「伺服器等級的嵌入技術」。您準備好掌握這項優勢了嗎？