將嵌入式系統連線物聯網會遭遇兩大問題。首先即是擴充性：舊式系統橫向之間的擴充，以及針對未來需求的前向擴充。第二則是安全：連接各系統基礎架構的橫向安全，以及系統生命週期發展當中的前向安全。

令人驚訝的是這些問題可借鏡電信產業的軟體定義基礎架構 (SDI) 概念（如虛擬化和工作負載整合）而解決。建立在 SDI 之上的系統擁有硬體導向架構所無法比擬的靈活彈性和擴充性。這種新的基礎架構讓舊式系統迅速移轉物聯網，也能夠迅速導入新功能，隨時間持續進化。

SDI 還能夠強化安全。網路攻擊的性質捉摸不定，而以硬體為主的系統更新困難。反觀著重軟體的基礎架構則具有靈活彈性，能夠迅速變化。不但如此，軟體型式的做法也較容易導入新功能，如即時的網路安全分析。

1. 硬體整合

據 Wind River Systems, Inc. 市場開發總監 Alex Wilson 指出，SDI 在嵌入式的應用涉及兩個層面。首先是他稱之為「東西向整合」的層面，意即將一個廠房內的各種不同功能合併於單一共用平台（圖 1）。

圖 1. 整合與虛擬化這兩個 SDI 概念已逐漸從核心網路移轉至物聯網邊緣。（影像來源：Wind River Systems, Inc.）

對於工作負載整合，他表示：「能將子系統數量縮減而為企業各個部門節省成本。」其中必須留意的是，東西向系統的主要特徵在於對即時控制和工作區域功能安全的需要。

在此前提下，虛擬化技術能夠將整合式系統中的各個功能互相隔離（圖 2）。Wilson 說道：「你應該會想要把關鍵程式碼從軟體其餘部分抽離，包括物聯網通訊介面，藉此將關鍵軟體的安全威脅曝險最小化。」

圖 2. 利用虛擬化，即可將關鍵應用程式與資料隔離，提升安全。（影像來源：Wind River Systems, Inc.）

不但如此，增添新的應用程式時也無需重新認證既有功能，可縮短升級作業的停機時間。Wilson 表示：「虛擬化讓我們能先更新、驗證新功能之後，才將舊功能汰除。」

2. 軟體定義基礎架構

其次為虛擬化，即是 Wilson 稱之為廠房和雲端之間的「南北向」連線。他認為此基礎架構必須扁平化，讓邊緣有空間提升處理能力（而非全部於雲端執行）。這就包括了利用霧運算在邊緣套用分析功能，僅於絕對必要之時才使用雲端。

此改變可降低延遲並減少頻寬消耗。Wilson 表示：「我們比較關心的是拓撲的扁平化，用一般的伺服器設備執行服務；或許是本地端雲端，或是霧端，或是在雲端本身 [if needed]。」

虛擬化的南北向系統主要特徵為擴充性、效能和高可用性。據 Wilson 說明，如此能夠「隨需隨時在所需之處部署服務。」

在這整個虛擬化的新基礎架構，即可利用 Wind River Titanium Cloud 等軟體來管理應用程式、安全性和連線功能。Titanium Cloud 是一套電信業等級的套裝系統，專為需要高可靠性、效能及安全性的系統而開發。

3. 生命週期安全

前文探討的是虛擬化技術在各個系統之間的價值。那麼系統生命週期向前推進的擴充需求呢？許多物聯網裝置均因缺乏持續的更新而如同棄子，久而久之成為新攻擊手法的絕佳目標。

為防此風險，開發人員可追蹤 CVE、US-CERT 以及 NIST 等服務的威脅公告，立即套用任何新發布的修補程式。Wilson 表示：「利用這些資料庫，就能確保自己不會和其他人落入相同的陷阱。」

4. 即時安全分析

追蹤最新資料庫狀態非常重要，但這仍是被動的做法。主動的措施自然為更好。此時，Greenwave Systems 的 AXON Predict 等即時分析工具即能夠有所幫助。

AXON Predict 讓系統在特定動作能夠自我監控、自主運作。例如，它能夠監控資料洩露與惡意軟體插入、檢查資料污染的可能性，並可監控通訊管道是否有非必要的通訊（圖 3）。

圖 3.  AXON Predict 能夠導入即時網路安全分析。（影像來源：Wind River Systems, Inc.）

若發生可疑通訊，則平台能夠警告操作者或直接關閉該管道。Wilson 說：「這真的是網路安全最尖端的技術。」

網路安全不可停滯

從舊式系統的移轉到確保資料安全，物聯網革命充斥各種大小問題。虛擬化和硬體整合等各種工具和技術對此轉型大有幫助，而新的即時網路安全分析技巧也讓威脅偵測與管理變得更主動。

若要進一步瞭解此主題，請觀看網路研討會「利用虛擬化技術安全地移轉您的舊式工業關鍵基礎架構系統到物聯網」。

隨著物聯網端點的數量倍增，使用其資料的服務也跟著增加，我們需要用擴充性更好的方式來協調和部署軟體。

容器技術如 Docker 對於克服這項挑戰很有幫助。容器化的程式碼可以橫跨分散式系統從中央整合協調，因此能夠更輕鬆擴大設計規模。容器也有一道硬體抽象層，可以在物聯網端點中常見的不同系統上執行。

但是這只解決了一半的問題。有如物聯網端點，物聯網服務有極大差異性，各服務使用許多不同的 API 和傳訊通訊協定。要在各種異質的裝置和服務之間傳輸資料，開發人員需要一個通訊中樞，把所有這些系統之間的訊息轉譯。

為了克服這些挑戰，結合容器化與傳訊的平台因此崛起。開發人員可利用這些平台在雲端建立 Docker 化的工作負載，把它們部署到邊緣裝置，在本機分析資料，並做出適當反應。邊緣裝置接著把資料和結果推送到雲端，必要時可供遠端監控（圖 1）。

圖 1. Azure IoT Edge 這類的平台可進行 Docker 化工作負載佈建與端對端傳訊。（資料來源：Microsoft）

在本文中，我們會探討一種這類的服務，也就是 Microsoft Azure IoT。

容器化程序

Azure IoT 是一個可以開發、部署和管理物聯網應用程式的雲端平台。在眾多功能之中，此平台提供可縮短上市時程的各種服務模組，例如機器學習和串流分析。

雖然這些雲端服務很實用，但是此平台真正的價值在於它有能力把工作負載推送到邊緣。使用最近發佈的 Azure IoT Edge 2.0，開發人員可以利用 Docker 把模組容器化，並將它們部署到執行 Linux 或 Windows 的裝置上。這樣一來，雲端智慧和分析便可以擴大適用於更多裝置，從 Raspberry Pi 乃至強大的工業閘道。

為了管理這些不同的端點，IoT Edge 與 Azure IoT Hub 密切合作。此服務驗證並建立與物聯網裝置的通訊，然後自動執行裝置註冊和佈建。IoT Hub 也可以當作容器化模組的登錄檔、安全傳訊的管道，以及已部署模組的遠端管理連結。

如圖 2 所示，使用 IoT Edge 的程序如下：

• 建立一個 IoT Hub（或使用已經建立的）
• 向該 IoT Hub 註冊一個 IoT Edge 裝置
• 開始 IoT Edge 執行階段
• 從遠端部署一個模組到 IoT Edge 裝置

圖 2. Azure IoT Edge 允許使用 Docker 把模組容器化，並利用安全傳訊進行遠端管理。（資料來源：Microsoft）

邊緣裝置上的 IoT Edge 執行階段負責基本服務，例如邊緣裝置離線時的安全性、儲存和轉送資料，以及管理與網際網路隔離的系統（例如連接到邊緣裝置的感應器）。它也管理模組與雲端之間的通訊。例如，機器學習 (ML) 模組可能僅傳送警示到雲端，而不是全部資料（圖 3）。

圖 3.  Azure Edge IoT 執行階段控制含有必要功能與服務的 Docker 模組。（資料來源：Microsoft）

IoT Edge 使用相同的 API 作為 IoT Hub，所以閘道可以當作本機 IoT Hub 使用。Microsoft 應用技術開發經理 Brett Stateham 指出：「這樣一來，便可以預先設定模組並且同時存放在雲端和儲存庫中，等待被下載使用。」

預裝與自訂服務

雖然目前提供預裝服務，但是開發人員仍可自由複製預裝服務的內容再作修改。或者，他們可以使用自選的語言，從頭編寫自己的模組，再使用 Docker 將它包起來。「所以，它的延伸性極大。」Stateham 表示。

這些服務包括用於商業智慧、人工智慧和機器學習的分析，以及行動服務等，族繁不及備載。但是任何服務均可存取資料，因為 Azure IoT Hub 支援 Python、Java、PHP 和 .Net 使用開放 API 與 SDK。「最差的情況下，有些標準 REST API 可以消耗這些訊息。」Stateham 說道。

透過安全的遙測傳訊功能，例如 AMQPS、MQTTS 和 HTTPS，邊緣裝置的資料會安全地傳送出去，而且儲存完成之後，即可供任何後端服務讀取使用。IoT Edge 和 IoT Hub 使用相同的安全傳訊通訊協定，所以通訊、佈建、註冊和整體管理更加簡易。

部署在邊緣硬體上

雖然 IoT Edge 可以在各種各樣的裝置上執行，許多既有系統並非原生支援網際網路連線功能。例如，感應器模組可能具有 Modbus 或 CAN 匯流排的有線介面，或是藍牙低功耗 (BLE) 的無線介面，但是沒有 TCP/IP 堆疊且無法把資料直接推送到雲端。

這時候，Intel^® NUC 這類的裝置便能派上用場，Stateham 這樣指出（圖 4）。這些裝置可以執行 Windows 10 或 Wind River Linux，而且能部署在邊緣。他說：「它有 USB 連接埠和 Wi-Fi，以及許許多多其他酷炫的設計」，「而且它可以用來與 BLE 模組對話，並藉此與雲端連線」。同樣地，任何其他模組或感應器，無論有線或無線，均可連接到閘道作為聚合點。

圖 4. 使用邊緣運算系統，例如 Intel^® NUC 作為聚合點，具備有線或無線連線的感應器模組就能連線到雲端。（資料來源：Microsoft）

把智慧功能推送到邊緣

IoT Edge 作為 Azure IoT 堆疊的延伸功能，開發人員現在可以馬上安全地把可擴充的物聯網分析和其他服務新增到邊緣，以便連接感應器模組並開始對 AI 原則套用物聯網功能。

想要進一步瞭解部署容器化物聯網工作負載，請觀看網路研討會「Creating Field Gateways with Azure IoT Edge and the Intel^® NUC」（利用 Azure IoT Edge 和 Intel® NUC 建立現場閘道）。

根據最近一份 IDC 白皮書指出，到 2025 年為止，全球的電子系統會產生出 160 ZB 資料，令人驚訝。這類資料有將近 25% 由即時物聯網裝置產生。可惜，因為可用的儲存容量不足，因此僅能儲存一部分即時資料。

資料量爆增，加上儲存容量有限，造成了嚴重的問題：

• 您如何在儲存最少量資料的同時，避免遺失寶貴的資訊以及資料所能提供的深入分析？
• 如何即時將各個事件相互關聯，讓您的企業可以主動因應而不是事後反應？
• 您如何馬上針對事件的關聯性採取行動，以便為客戶提供更好的服務並超越競爭對手？

Steve Wilkes 是 Striim, Inc. 的科技長與共同創辦人，他認為記憶體內串流資料處理與分析便是解答。

「若您無法儲存所有資料ー事實上，若您只能儲存一部分資料的話ー您就只有一種結論，用串流的形式，在儲存資料之前先在記憶體內處理和分析。」Wilkes 說道。

記憶體內串流資料處理與分析：基本知識

串流處理可以在記憶體內持續分析資料流，只把狀態變更匯出到檔案系統或資料庫（圖 1）。此程序稱為變更資料擷取 (change data capture, CDC)，在物聯網的環境中尤為實用，因為它允許系統確認相關資訊，同時摘要擷取較不重要的資料點。

圖 1. 串流處理會分析本機記憶體的狀態或數值變更，並且只把這些寫入檔案系統或資料庫，藉此減少物聯網資料儲存。（資料來源：IBM）

Wilkes 解釋道：「若您不知道為什麼我們會有批次處理資料的功能，真的是因為過去儲存裝置比 CPU 和記憶體便宜。」 「批次的概念是從前囿於技術限制的人為製造物。」但是現在 CPU 和記憶體的價格比較便宜了，Wilkes 表示，您可以擷取變更資料並把它轉變為資料流。

要知道串流處理和 CDC 對物聯網部署有何助益，溫度監控應用程式便是好例子。與其盲目地把多個批次的相同溫度數值寫入資料庫，串流處理和 CDC 會把最近的機器記錄與相關資料流中的最後一個數值做比較。若是新的機器記錄含有一個溫度讀數與資料庫中最後記錄的數值相符，則會捨棄記錄。若是新的機器記錄含有不同的溫度讀數，便把該溫度寫入資料庫，然後再重覆這個循環。

串流處理和 CDC 的顯著好處是需要較少儲存空間，因為可以忽略非常大量的重複性資料。其他附加好處包括：

• 從較小、更具意義的資料集加速取得更有見地的分析
• 降低與較小資料集相關的網路傳輸成本
• 處理器時脈週期的使用效率更好，因為分析各批次歸檔機器記錄的時間較短，而這些記錄中大部份是重複性資訊

從物聯網邊緣到企業的串流處理

在物聯網邊緣使用案例中，通常會在閘道或公司內部的伺服器上部署串流處理和 CDC，讓開發人員享有最大的資料平行處理效能與運算密度（圖 2）。換言之，把 CDC 功能套用到使用相同處理器 I/O 和記憶體資源的串流輸入資料集，有助於最佳化效能和減少延時。

圖 2. 在閘道或公司內部伺服器執行串流處理和變更資料擷取 (CDC) 可減少儲存需求、縮減網路傳輸成本和改善分析效能。（資料來源：Striim, Inc.）

閘道與伺服器處理器很可能是多核心裝置，含有充足的晶片內建記憶體和整合型 GPU 或訊號處理功能。在網路邊緣的感應器和傳動器上流通的大部分是訊號型資料流，正好與這個特色的功用相符，而且支援密集運算型工作負載，例如可與更複雜的事件處理資料流整合的機器學習 (ML)。

以這些要求為準，Intel^® Core™ 和 Intel^® Xeon^® 處理器是串流處理的理想選擇。

但是在邊緣以外，透過串流處理和 CDC，企業可以利用即時物聯網資料的架構性要求將既有的系統現代化，並因此受惠。企業的歷程資料庫含有長期累積下來的大量營運資料，利用 CDC 和串流處理可同樣節省儲存空間和減少網路成本，同時改善閘道或公司內部伺服器的分析功能（圖 3）。

圖 3.  變更資料擷取 (CDC) 可以套用到物聯網架構較上層的應用，從舊有的設備中建立即時資料流。（資料來源：Striim, Inc.）

諸如製造、醫療和資安等產業過去要花費數小時、數日甚至更多的時間，從大型的資料湖泊擷取重要的資訊，如今可以利用事件導向的基礎架構在數分鐘或數秒鐘內取得營運相關的深入分析，藉此獲得優勢。整體而言會讓資料流通更流暢、透明，無論從北到南、西到東或任何方向，資訊可以到達物聯網架構的任何地方（圖 4）。

圖 4. 串流處理可以協助企業盡量減少儲存空間和網路成本，同時增加分析速度。（資料來源：Striim, Inc.）

Wilkes 表示：「在這個架構的框架之中利用變更資料擷取，您可以把歷程資料當作是即時物聯網資料。」 「您可以藉用這個方法，把製造設備或其他設備中負責寫入資料庫的既有投資現代化。」

比如，Striim 平台是一個 SQL 型串流整合與分析軟體套件，允許把即時、記憶體內的 CDC 套用到感應器節點直至企業資料庫。Striim 環境中的應用是使用資料流開發的，它從一個資料來源開始，使用 SQL 在階層中某處進行處理，再寫入相關的檔案系統、資料或雲端儲存庫中。

Striim 與許多企業軟體工具整合，讓多個複雜資料流的關聯更便利，並用相容的檔案或資料庫格式提供那些結果。

高速物聯網分析可減少儲存量，發揮最高敏捷性

隨著物聯網裝置產生的即時資料越來越多，企業組織必須衡量保留資料的成本以及管理和分析大量資料所需的時間，是否與所提供作為行動準則的資訊相當。由於大部分企業組織均想要利用最新、最珍貴的資料並從中獲益，記憶體內串流處理和分析可替代資料儲存，盡量減少資本和營運支出，同時提高業務敏捷性和加速決策周期。

「這個串流方法協助您取得轉型的構想，您可以即時整合和連結資料。」Wilkes 說道。確實，這是物聯網數位轉型最後的元件，也是我們期待甚久的。

要進一步瞭解記憶體內串流處理，請觀看網路研討會「Addressing the Fundamental Challenges to IoT Data Management」。

物聯網正在改變工業產業，希望能大幅提升效率和生產力。但要掌握這些優勢，還需要透過您的機器即時分析各種大量串流資料並加以解讀，以便獲得可據以採取行動的洞見。漸漸地，這代表要部署機器學習，不過問題在於要怎麼做。

雖說雲端具備作為資料模型化和機器學習入口的優勢，可是也無法不斷地為製造、石油與天然氣、營建、交通運輸和智慧建築等產業的應用提供所需的即時回應能力。因此，趨勢朝向藉由在邊緣實施機器學習來擴增雲端方面的發展。

我近日曾與 Foghorn 的科技長 Sastry Malladi 談論過這樣的趨勢。該公司正是「邊緣化」機器學習模型的先驅，他也提出了一些見解，分享此方法是如何為工業組織的即時分析和改良的預測洞察帶來革命性的改變。

邊緣機器學習 = 商業價值

Foghorn 的其中一個客戶迅達集團 (Schindler Elevator) 想要終結一些例行性的問題，例如電梯門摩擦。為此，Schindler 與 Foghorn 攜手合作打造出預測性的維護解決方案。透過從來源分析感測器資料，Schindler 現在可以事先成功判斷維護需求，不再有成本、安全性，以及其他與傳輸大量建物外部資料相關的問題。因此，他們可以在異常現象影響效能之前，以效率極高的方式排定服務。

許多其他客戶也看見了這種商業價值。另一個例子是，廠區遠離市中心的石油與天然氣公司可以運用邊緣機器學習分析資料，包括視訊和音訊。除此之外，該資料可用於預測幫浦的壓力，並就異常的操作參數警示操作人員，且在現場處理大多數本機資料時再次執行。

不過，在進一步談論邊緣化機器學習的優勢前，我們先來看一看企業面臨的一些挑戰。

感測器產生龐大資料

資料轉型促使企業在營運中安裝數位、音訊、視訊和 3D 感測器，然而此舉卻導致一個問題。隨著如海嘯般席捲的爆增資料量，如今企業難以即時且有效地從該資料中獲得可據以採取行動的洞見。

將處理程序移至邊緣顯然是個好辦法。根據 Gartner 指出，未來四年內有 75% 企業所產生的資料會在邊緣處理（對比雲端），自現今的 <10% 開始向上攀升。不只大幅增加的資料，對於更加精確的分析、更低延遲的要求、安全相關議題，以及龐大成本優勢的需求也會促使處理程序移向邊緣。

需要即時分析

儘管雲端是儲存資料和訓練機器學習模型的好地方，但通常不適合用於即時資料收集或分析。頻寬也是項特殊挑戰，因為一般而言工業環境缺乏將所有感測器資料傳輸到雲端的網路能力。因此，雲端型分析會受限於批次或微批次分析，容易錯過數字的上下浮動。

相反的，邊緣技術能分析所有的原始資料。該技術提供最精確的分析，並提升偵測異常的可能性，因此能立即做出反應，進而減少停機時間和降低維護成本。

此外，雖說雲端逐漸變得更加安全，可是在雲端上傳輸和儲存資料仍存在許多風險。這些安全性的議題常常會妨礙企業組識進行雲端作業。透過邊緣運算，企業更能掌握其安全性，這又多了一個讓企業接受此方法的理由。

瞭解邊緣化程序

然而，將分析移至邊緣並不僅僅是變更處理的位置。目前一般使用的機器學習模型是藉由假設開發出來的，僅可在雲端環境中發揮作用。特別是：

• 它們是針對批次或微批次資料而開發，不太適用於產生速度極快/數量龐大的感測器串流資料等。
• 它們是以無限制運算的假設開發而成，因此並未限制模型大小和重量，亦適用許多受到運算限制的邊緣裝置。
• 其中包括預處理（對齊、適應、篩選等）和包含在模型中的後處理（集合、警示產生等）邏輯，它們會引起主程式碼膨脹，對受限的邊緣裝置不是個好兆頭。
• 執行環境和實作語言在雲端中也不是問題，但在邊緣就是。

由於這些假設在邊緣並不成立，機器學習模型需要適應新環境。換言之，需要將它們邊緣化：

• 它們需要連線至串流資料。
• 它們需要資料經過預處理/擴充（淨化、篩選、標準化和情境化），最好透過複合事件處理器 (CEP) 來完成。
• 需要從模型中擷取預處理和後處理邏輯，並在 CEP 引擎中執行，使運算負載較小。
• 接著便可微調模型，包括重量，在某些案例中，排除預處理元素更可減少 80% 以上的所需大小和運算記憶體。
• 最後需要將模型轉換成專為邊緣設計的運算式語言。如此就能快速且有效地在資源有限的環境中執行工作。

雲端在機器學習模型的建立和訓練方面扮演關鍵的角色，尤其是深度學習模型，因為需要龐大的運算資源。在模型完成訓練後，便可透過邊緣化「轉型」並推送至邊緣。

最終，邊緣推斷會經常送至雲端以進一步微調模型，而更新的模型會以高反覆性、閉合迴路的方式推回到邊緣。所以，工業物聯網 (IIoT) 中的「AI」可總結為雲端機器學習和模型邊緣化的這種閉路邊緣。

當然，僅依賴邊緣運算仍嫌不足。若要分散和分析企業規模的資料，機器學習系統必須從邊緣橫跨到雲端。Foghorn 採用了三層式資料處理：

• 擴充： 擴充層可透過解碼、篩選、插補等方法，為日後處理準備好資料。簡言之，這一層可提升資料品質以確保其他層達到良好結果。
• 複合事件處理 (CEP)： 許多已知悉所面臨之問題與模式的企業會使用這一層。這些企業可在 CEP 引擎中陳述其模式與問題以產生資料分析的工具。
• 機器學習引擎：機器學習引擎預先包裝了協助偵測異常狀況的模型，例如決策樹、迴歸及 SNDF 叢集。這一層為邊緣與雲端重疊之處。

Sastry Malladi 說明了機器學習引擎如何利用監督式與非監督式學習的結合。如果企業已擁有充足的歷史資料，便可在雲端中進行監督式學習。如果沒有，則可於開始接收資料時在邊緣開發模型。

不過您有時候也要實作非監督式學習技術，以利為了累加式更新修改模型。透過非監督式學習，此模型可在一段時間後學會如何實作累加式更新。

邊緣化的優勢

邊緣化有望提供許多優勢，包括：

• 大幅減少資料。當分析移至邊緣時，可大幅減少網路間推送的資料量。這能降低資料儲存和資料處理的成本。
• 更好的即時洞察。經由讓運算保持在接近資料來源的地方，邊緣化的機器學習可偵測新興模式，並能夠立即回應。
• 全面預測性維護。由於邊緣型系統可處理所有傳入的機器資料，也就能在作業中預測所有設備的維護需求。
• 改善產率。製造商可透過迅速偵測及解決次佳效能來提高生產力並減少停機時間。

挾上述優勢，邊緣化可說是引領物聯網市場的未來潮流。透過改變物聯網市場，邊緣將使即時分析變得更加容易，因此能在降低處理和儲存資料所產生的成本之餘，同時提高作業效率。