SD-WAN 與 uCPE:介紹

隨著傳統企業廣域網路 (WAN) 在容量與距離的擴展,它們經常運用多載波網路,將應用程式與服務提供至區域辦公室和本地辦公室等分散的場所。這樣的跨網路交遞可能會對協調、管理和效能造成負面影響,同時也會提高 CAPEX 和 OPEX。

企業 WAN 越來越頻繁地必須支援如串流 HD 影片等需要大量頻寬的應用。同時也越來越常使用如網路電話 (VoIP) 和視訊會議等容易受延遲影響的服務。

為了因應這些趨勢,電信服務供應商 (CSP) 與企業正在轉向使用軟體定義廣域網路 (SD-WAN) 與通用客戶端設備 (uCPE)。這些新技術為彈性、效能和成本方面帶來顯著的進展,讓電信商與使用者都能受惠。

軟體定義 WAN 與動態連接通道

SD-WAN 技術最值得注意的技術成就,就是一個邏輯 SD-WAN 可以同時支援多種連線類型。這包括了混合式 Wi-Fi、LTE、DSL、乙太網路,以及其他高速通訊形式。

圖 1 所示,SD-WAN 經由中央控制器管理,運用虛擬化技術,與底層的硬體基礎架構加以分離。因此,SD-WAN 控制器可設定原則,將流量動態地路由至最高頻寬的連結、優先排序流量,並確保符合服務等級協議 (SLA)。

圖 1. 軟體定義廣域網路 (SD-WAN) 運用資料中心網路概念,最佳化企業流量管理與效能。(資料來源:CSSTECH

此外,SD-WAN 通訊的軟體為中心 (software-centric) 方法代表可將專用設備替換成一般用途的硬體。這樣的一般用途硬體可以來自多家廠商,而且部署、管理和擴充都更容易,因此相較於傳統的 WAN 架構,SD-WAN 可大幅降低整體成本。

uCPE 為企業通訊標準化 SD-WAN

在轉移至一般用途硬體後,亦可實現網路功能虛擬化 (NFV)。透過使用 NFV,可將用於會談邊界控制、負載平衡、網路位址轉換、防火牆、深度封包檢測 (DPI),以及 WAN 加速等服務的專門網路設備移轉至現成的平台,將這些服務以虛擬網路功能 (VNF) 的方式提供。

VNF 可在雲端或資料中心代管,並透過網路遠端提供。但在電信存取網路的邊緣本地代管它們時,有助於滿足許多企業要求的較高頻寬和較低延遲服務的需求。uCPE 是可在邊緣支援 VNF 的平台。

一般用途邊緣網路虛擬化

uCPE 定義了一系列現成的硬體與開放軟體技術,將資料中心雲端和虛擬化功能帶到電信存取網路。如圖 2 所示,這些平台必須:

  • 夠彈性,可在單一系統中支援多個第三方 VNF
  • 夠強大,能滿足網路效能需求
  • 夠小巧,以部署在小型分公司內

圖 2. 通用客戶端設備 (uCPE) 結合了現成的硬體與開放軟體架構,在電信存取網路中支援虛擬化功能。(資料來源:CLADIRECT

對企業來說,uCPE 代表現場需要較少但更多樣化的網路設備,能夠在本地提供高頻寬、低延遲的服務。對 CSP 來說,一般用途的 uCPE 平台仍可透過遠端管理與升級,進而最小化維護成本。

此外,由於 SD-WAN 控制器從底層基礎架構抽離,一般用途的 uCPE 硬體便可提供部署 SD-WAN 所需的一切資源。

標準化 uCPE 以確保可靠度並降低成本

uCPE 硬體的一般用途性質促使多家廠商致力於標準化。這會讓 uCPE 技術以盡可能最低的成本被快速部署與擴充。

Intel®、Supermicro、Advantech、Lanner,還有其他廠商都為 uCPE 參考設計開發了 Intel® Select 解決方案。這些設計以 Intel® Xeon® D 2100 系列處理器為基礎,提供一系列可擴充的解決方案,協助 CSP、電信設備製造商 (TEM)、網際網路服務供應商 (ISV),以及各家企業順利進行 uCPE 與 SD-WAN(圖 3)。

圖 3.  適用於 uCPE 的 Intel® Select 解決方案提供可擴充的平台參考設計,加速 SD-WAN 的採用。(資料來源:Intel® 公司

Intel Select 解決方案的硬體和軟體堆疊經過 Intel 驗證,可確保 uCPE 參考設計的穩健性。參考設計分為兩種,可為 CSP 與企業提供微調運算、儲存和網路資源的基準線,滿足小型辦公室或大型設施的需求:

  • 適用於 uCPE 的 Intel Select 解決方案基本組態 – 專為中小型企業所設計;最基礎的 uCPE 基本組態整合四核心 Intel Xeon D 處理器、Intel® QuickAssist Technology (Intel® QAT)、2 個 10 GbE 乙太網路連接埠、充足的儲存容量與記憶體,並支援兩台虛擬機器 (VM)。
  • 適用於 uCPE 的 Intel Select 解決方案加強組態 – 專為大型企業設施所設計,uCPE 加強組態採用 14 核心的 Intel Xeon D 處理器、Intel QAT、4 個 10 GbE 乙太網路連接埠,以及更多的記憶體與儲存容量。

Super Micro Computer, Inc.SuperServer 5019D-FN8TP 是最先推出的幾款適用於 uCPE 的 Select 解決方案之一,提供 8 核心、16 執行緒的 Intel Xeon D 處理器,內建 Intel QAT,並具有大量的 I/O,以供網路安全與邊緣運算等 SD-WAN 服務使用,全部濃縮在一個 1U 外型規格中。

雖然適用於 uCPE 的 Select 解決方案可以在購買後直接部署,但也能運用 Intel® Data Plane Development Kit (Intel® DPDK) 等工具,針對部署或特定 VNF 最佳化。圖 4 展示 Super Micro 如何運用 Intel DPDK 將 DPU 和 IPSec 服務部署在 SuperServer 5019D,並與 SD-WAN 整合。

圖 4. Intel® Data Plane Development Kit (Intel® DPDK) 搭配 Super Micro Computer SuperServer 5019D 等適用於 uCPE 的 Intel® Select 解決方案,可加速像是安全性這類的虛擬網路功能 (VNF) 的實作。(資料來源:Super Micro Computer, Inc。)

標準式解決方案為 SD-WAN 提供彈性並節省成本

隨著對網路頻寬與延遲的要求日益增加,加上隨之衍生的服務,運用現成硬體與開放軟體架構來智慧管理網路基礎架構的能力,已經成為企業的當務之急。有鑑於此,我們無法忽略 SD-WAN 在效能、彈性和節省成本方面的優點。

根據研究公司 IDC 在 2017 年 7 月提出的報告,採用 SD-WAN 會看到「驚人的成長」,到 2021 年的年複合成長率 (CAGR) 可望達到百分之 69.6。剛開始進行 SD-WAN 評估程序的 CSP 與企業已經稍微落後,但適用於 SD-WAN 的 uCPE 解決方案可快速彌補差距。

大數據、邊緣運算,以及製造產業的未來

在過去的十年間,大數據的世界經過了大幅的變動。機器學習與人工智慧的進步,為製程最佳化帶來了嶄新的洞見與機會。

在製造產業中,這樣的改變伴隨著運算基礎架構的轉變。有越來越多的運算過程從資料中心移轉到邊緣,只有必要的資料會經由雲端傳輸。

邊緣到雲端的連續性

我們最近與 Hewlett Packard Enterprise 的邊緣運算產品主任 Gerald Kleyn 討論了這些變更。有些在資料中心使用 HPE 技術的客戶表示,他們想要能在網路邊緣使用規格較小的相同硬體,因此,HPE 於 2016 年開創了他們的融合式邊緣系統 (Converged Edge Systems) 業務單位。

根據 Kleyn 的說法,他們能瞭解此需求的關鍵,是注意到客戶在處理資料時,想要擁有從邊緣到雲端的連續性。「您在邊緣進行的處理和分析量與在雲端發生的量是連續的,」他說。

隨著邊緣運算日益成熟,這樣的彈性也變得更加重要。「我們認為這將會隨著時間改變,」Kleyn 表示。「並沒有固定的規則。我們正在建立平台,讓客戶能針對他們的工作負載與使用案例適當調整。」

OT 與 IT 正在融合

Kleyn 表示,客戶真正想要的,是在邊緣執行他們熟悉的資料中心應用程式,而不是在設備上執行那些應用程式的專屬或簡化版本。「我們掌握了一些關鍵原則,其中一項就是讓資料中心一直到邊緣都能執行未經修改的軟體,」他如此解釋。「不是不同的軟體、不是較小型的版本,也不是刪減版本,這代表 IT 能很快地提供支援。」

他也表示自己認為 OT(營運技術)與 IT(資訊技術)正透過數種方式互相融合:

  • 組織性融合,IT 與 OT 員工的工作更加緊密
  • 軟體性融合,包括位於邊緣的虛擬化與整合
  • OT 與 IT 之間的硬體融合

「有許多設備的系統相對較為封閉,也不容易變更,這些系統傳出資料的格式或方法並不適用於現代的分析作業,」Kleyn 補充說明。「我們所做的是在我們的一些系統中融合 OT 和 IT 硬體,透過與應用程式一起擴展的業界標準價值鏈體系,為客戶建立優勢。」

如何在融合世界中更有效率地處理工作負載?

隨著這種融合性的逐漸發展,也提供了以新方法處理各種工作負載的可能性,為智慧工廠的作業方式帶來重大的變革。

從感應器、視訊攝影機,到機器人等各種物聯網裝置會產生極大量的資料。雲端式分析已經能讓製造商從這些資料中獲得寶貴的洞見。但將這樣的分析功能移轉到邊緣,製造商就能存取更大量的資料,並立即根據洞見採取應對動作。

Kleyn 舉了一個例子,HPE 為 Seagate Technology 在加州庫帕提諾的製造設施部署了這樣的解決方案。Seagate 運用在資料中心內以傳統高效能運算 (HPC) 系統所開發的人工智慧模型進行分析。

https://youtube.com/watch?v=TPf0qC7itcA

這些分析功能透過剖析矽晶圓的電子顯微鏡掃描影像尋找瑕疵,以改善 Seagate 產品的品質,並提供更快速且更早期偵測並修正異常的優勢。

能夠在邊緣處理這些工作,就能產生巨大的不同。在邊緣進行即時分析代表當資料出現異常時,Seagate 可以在營運異常導致產品出現瑕疵之前採取預防措施。這有助於減少預期外的維護停機時間,並為公司節省金錢。

「使用人工智慧時,您需要相當高的運算等級,才能處理如影片資料等複雜項目,在 Seagate 的範例中,則需要處理電子顯微鏡的影像資料,」Kleyn 說道。「處理這些資料需要大量的運算效能、儲存空間,以及頻寬,因為您通常需要將資料傳送回資料中心。若在邊緣進行這些分析,然後只將分析結果或是應注意的影片片段或影像送回資料中心,便能為公司節省大量資源。」

為邊緣提供更強大的運算能力

HPE 在邊緣運算付出諸多努力,其中的關鍵核心就是他們與 Intel® 的技術合作夥伴關係,Kleyn 表示這對協助公司滿足製造產業客戶不斷增長的需求來說極為重要。他說這兩間公司在效能方面「突破極限」,同時為 HPE 的邊緣運算裝置最佳化了尺寸、重量,以及電源等特性。

「Intel 在功能、效能,以及微型化方面的一切努力,都讓我們從越來越小的節點尺寸中獲得了更高的價值,這對我們來說非常重要,」他下了這樣的結論。「我們能將省下來的成本直接回饋給使用者。」

一切才剛開始

邊緣運算已經廣泛地運用在多種製造使用案例中,本文提到的僅是其中一個由 HPE、Intel,以及其客戶所承諾要實現的範例。如需更多關於他們工作的詳細資料,請參閱解決方案目錄

案例研究:如何擴充您的工業物聯網專案

在物聯網出現以前,工業物聯網系統的設計師就面臨著嚴峻的互通性與連線性挑戰。這些困難包括將新舊裝置整合至統一的系統、支援各式各樣的連線技術,以及處理不一致的網際網路存取。

舉例來說,丹麥的貨櫃船運公司Maersk Group 開始著手連線他們的冷凍貨櫃。該公司遠端貨櫃管理(Remote Container Management, RCM) 解決方案的目標是在從倉庫到目的地的過程中監控250,000 個貨櫃,並提供地理位置與內部溫度等140 種資料點可見度。透過將此資料連線至以雲端為基礎的儀表板,OEM與客戶便可避免裝運遲延或商品腐敗等意外。

但有一個問題:貨櫃控制單元是由不同的供應商所提供。即使是相同供應商的控制器也經常具有不同的通訊介面或不同的韌體,使得無法運用當時市面上的解決方案來打造一致的監控解決方案。

因此,需要一種新的方法來正規化不同控制器所傳來的資料,以擷取至RCM 後端。此解決方案也需要具備擴充性以支援現有的貨櫃箱隊,以及未來數以千計要上線的新單元。

成功擴展至工業物聯網:學到的經驗教訓

Maersk RCM 解決方案需要可延伸的軟體解決方案,且不受裝置、資料和連線能力的限制,並能跨整個平台架構維持一致的資料流。許多製造商嘗試運用現有的技術元件來滿足RCM 專案的需求,但大部分都無法滿足最終目標。

領悟其他組織遭受過的挫折後,RCM計畫中有兩位Maersk 的開發主管人員從專案過程中學習到了幾個重要的經驗教訓,能引導他們部署成功的解決方案。其中包括:

  • 完整範圍試驗—Maersk Line RCM 等大規模工業物聯網專案需要快速、反覆的測試。這能使開發者對系統導入過程的複雜度與擴充性以及商業案例進行全面的測試。
  • 通用裝置支援—為了實現在RCM 專案層級進行擴充,應盡可能普遍支援裝置。這不僅能使工業物聯網解決方案盡量擴散到最多端點、擷取最多資料,還能透過單一程序,從系統中的所有資產衍生出商業價值。
  • 擷取所有資料—因為資料能引導出嶄新的潛在想法、應用和成果,應盡可能擷取最多資料。這對原型製作與實作階段尤其重要,但應維持在工業物聯網的整個生命週期中。這需要能擷取多種不同格式資料的可延伸架構。
  • 頻率與尺寸的對比—相較於大規模、孤立的實例,較小型且較頻繁發生的事件比較有可能對工業物聯網專案造成影響。因此,在建立商業案例和測量事件發生數量隨時間造成的個別影響時,盡可能擷取最多資料是必要的做法。
  • 簡單易用—對大規模採用來說,重要的是簡便與迅速的特性,以及讓非技術性的操作人員也能學習並運用您的技術。這尤其適用於RCM 解決方案,其技術通常都在遠端位置部署,現場人員並不具有網路、通訊等技術的經驗。隨插即用解決方案可最小化錯誤與平台部署時間,以加速實現投資報酬(ROI)。

這些考量有助於Maersk 團隊滿足RCM 產品線的要求,包括將來自不同供應商數千種互異的控制器整合至統一的後端架構的能力、支援多種不同的連線技術,以及為間歇性存取網際網路的貨櫃提供解決方案。

Maersk Line RCM 面臨的挑戰,以及開發來解決這些挑戰的最佳實務,通用於製造業、公用事業、石油與天然氣,以及商業大樓等產業中的大規模工業物聯網專案。這項體悟促使了Omnio的誕生,以及其隨插即用的工業物聯網上線解決方案。

連線不同的控制器與資料模型

Omnio 物聯網上線解決方案可連結超過10,000 種末端裝置機型,像是來自ABB、Danfoss、Schneider Electric 和Siemens 等製造商的機型,其中更包括PLC 等並非專為雲端連線所設計的裝置。由於支援各式各樣的裝置,因此能夠整合老舊工業設備與現代工業物聯網裝置,使得解決方案能達到大規模的擴展。

為了從互異的營運技術(OT) 裝置擷取資料,Omnio軟體相容於Modbus、Profibus、DeviceNet、Ethernet/IP和Bacnet 等工業通訊協定。在從各式通訊協定汲取輸入值之後,平台會將資料轉換成與物聯網相容的格式,例如MQTT、OPC-UA或HTTPS,以傳輸至本地邊緣閘道或雲端。

Omnio 閘道軟體的其中一項關鍵功能為正規化層級,可標準化資料模型與描述元,以供上傳到客戶的後端工業物聯網監控解決方案中(圖 1)。舉例來說,如果有兩個分別使用華氏與攝氏單位進行溫度分類的控制器,Omnio正規化軟體可以將這些值轉換為具有一致標籤與單位的統一資料集。此層級的輸出格式為JSON 或OPC-UA 等企業相容的格式。

圖1.Omnio 閘道軟體內的資料正規化層級可標準化資料模型、描述元以及標籤,並以企業相容的格式輸出這些資訊。(資料來源:Omnio

Omnio 解決方案的另一個核心功能是可以從間歇性存取網際網路的裝置擷取資料。Omnio軟體支援一種稱為預試運行(Pre-commissioning) 的功能,讓平台可在僅有微弱連線或無連線的情況下開始擷取區域中的裝置資料,因此能保留關鍵資訊。

運用 Intel®Secure Device Onboard (Intel®SDO) 達成工業物聯網簡化

因為在物流、製造,或石油與天然氣方面的使用者可能不具有上線裝置的足夠技術知識,此時簡化度就十分重要。為了簡化讓貨櫃控制器等裝置上線的複雜度,Omnio仰賴Intel® Secure Device Onboard (Intel® SDO) 這類的技術。

Intel SDO 是一種不限物聯網平台的功能,運用獨特的Intel® Enhanced Privacy ID (Intel® EPID) 和硬體安全措施,快速安全地透過雲端佈建連網系統(圖 2)。以Apollo Lake 微架構為基礎的Intel® Pentium®、Intel® Celeron®和Intel Atom®處理器皆搭載此功能,Intel SDO 亦搭配可擴充系列的工業級處理器,為工業物聯網邊緣運算應用提供不同層級的效能。

圖2.Intel®Secure Device Onboard (Intel® SDO) 運用獨特、以硬體保障安全性的裝置ID,藉由物聯網雲端平台快速上線以Apollo Lake 為基礎的系統。(資料來源:Intel®公司

持續的擴充性

與物聯網的消費者形式不同,工業物聯網架構必須支援數十、數百,甚至數千個節點,其中許多為採用不同連線技術組合與資料通訊結構的老舊節點,且可能分散在廣闊的地理區域。工業物聯網解決方案必須輕鬆上線這些裝置、順暢整合它們的資料,並快速提供價值與投資報酬。

在Maersk Line RCM 產品開發期間所學習到的經驗教訓,讓250,000 個裝運貨櫃能連線至統一的監控平台,而無需使用相容的韌體和通訊技術來改造每個控制器。加上此解決方案能輸出經過正規化的IP 相容資料封包,因此來自貨櫃控制器的資訊可輕鬆傳輸至寬廣的區域,也能傳入雲端。透過此方法,RCM產品線便能克服末端裝置的多樣性,而達成大規模的擴展,使Maersk 在過去九年中,將貨櫃箱隊擴張到超過380,000 個。

現在,Omnio 隨插即用上線解決方案這類的解決方案不但現成可用,還能提供同等級的整合性、互通性、延伸性,以及快速的上市時間。Omnio平台已經支援大部分常見的裝置類型與通訊協定,並可在短短數日內增加新的類型。

雖然沒有兩種完全相同的工業物聯網,只要謹慎規劃和開發上述的核心最佳實務,就能使各種工業市場中的組織最大化裝置支援度、資料擷取能力,以及連網部署中的易用性。這是讓您通往更高層次的互通性與擴充性的藍圖。

人工智慧讓交通管理員彷彿親臨現場

有效率的汽車交通是市政服務的基礎。當交通緩慢時,生產力便會受到影響、貨物無法流通,第一線救援人員的行動也會受到延遲。

然而全球的城市在管理街道方面都遭遇到挫折。交叉路口可能就是交通管制所面對的最大挑戰。這裡充斥著大量的風險:駕駛闖紅燈、違規迴轉,或是閃躲行人等。因此,不意外地,美國有 40% 的交通意外都發生在交叉路口。

隨著街道面貌不斷進化,這些挑戰只會越來越嚴重。自駕車與共享機車等全新的運輸模式也為交通監控增添了複雜度。隨著環境優先度的改變,行人與自行車騎士的數量日漸增加,這也衍生出了安全問題。因為運輸的未來無法確定,代表規劃者需要彈性的方法,以便快速適應新的情況。

好消息是:新的人工智慧解決方案能讓交叉路口更聰明。

資料智慧使可預見的結果成為可能

有一個城市運用新技術解決了這些挑戰,那就是泰國的曼谷。他們導入了 GRIDSMART 人工智慧攝影機與機器學習以監視與控制數百個交叉路口。整個城市部署了近 400 個單元,帶來了明確的正面影響:

  • 交通延遲減少了將近 25%
  • 平均排隊長度縮短高達 30%
  • 闖紅燈的車輛減少了 68%
  • 每年節省了將近 52,000 小時的車輛通勤時間
  • 城市每年節省約 855,000 美元

「我們的願景是透過智慧功能改善十億人民的生活,」GRIDSMART Technologies 的創辦人兼執行長這麼說。「我們透過智慧功能達成這個目標的唯一方法,就是掌握處理與計算資料的能力。」

需要更智慧的解決方案

傳統的交叉路口管制系統有其限制。它們通常只會追蹤交叉路口內發生的情況,而不是進出路口的車輛數量、類型和速度。它們也需要多個攝影機來監看整個交叉路口,這使得大部分的系統都面臨安裝、設定和維護的挑戰。

為了跟上快速移動的運輸趨勢,市政管理機構和交通工程師需要的解決方案不僅需要能解決現今的問題,也要能應對未來的需求。他們需要部署全新系統或升級現有系統,以獲得可在未來輕鬆新增功能的能力。

底線?有效的交叉路口監控、安全與管制需具備三個必要事項:

  • 在城市現有的基礎架構與道路中,以更低延遲處理更多車輛的智慧功能
  • 可與空氣品質追蹤等其他智慧城市應用共同運作的開放架構
  • 確保部署、管理及維護簡便以減少資源與成本

這就是 GRIDSMART 系統發揮威力的地方,它是可用於交叉路口號制啟動、交通資料收集,以及狀況警覺的獨特單攝影機解決方案。

搭配 GRIDSMART 代表性的鈴鐺型攝影機,此系統會運用電腦視覺運算法來追蹤所有移動目標。這提供了即時的資料以管理交通號制的時間,並改進交叉路口的效率與安全性。此外,如 圖 1 所示,GRIDSMART 系統也提供單純性、彈性和透明性的優勢。

圖 1. GRIDSMART 解決方案的重點就是單純性、彈性和透明性。

「平均來說,相較於傳統視訊監控系統,GRIDSMART 只需要 25% 的安裝時間,而且維護時間大約少於 25%,」Malkes 表示。

攝影機會捕捉完整的交叉路口視野,包括汽車、卡車、機車和自行車通過的路口中央,以及行人穿越道。系統會追蹤交通車流靠近、抵達、穿越,以及離開交叉路口的軌跡。

這代表能擁有更優異的交通型態準確度,因此能即時調整交通號制的循環間隔。透過大規模的資料分析,城市規劃者可真正地對人民生活品質與安全做出正向影響。

舉例來說,一個城市在重要的交叉路口允許左轉,這導致多出 10% 的車輛使用此交叉路口,並使得次要道路的每日車輛減少了一千輛次。

「允許左轉通常會導致車輛通過對向車流的正前方。GRIDSMART 可獨特地觀測交叉路口的中央,讓我們能夠驗證在交通流量增加時,意外發生率並不會因為從保護左轉改變為允許左轉而增加,」Malkes 說道。「城市達到效率改進,但不會發生碰撞增加的後果。」

單一攝影機如何管理複雜的交叉路口

GRIDSMART 解決方案由三個主要元件組成,如 圖 2 所示的鈴鐺型攝影機與 GS2 處理器,加上 GRIDSMART 用戶端。

圖 2. 攝影機使用乙太網路供電,並直接連接到 GRIDSMART GS2 處理器。

鈴鐺型攝影機受到特別的鈴鐺型外殼保護,可緩解太陽的強光與不利的氣候條件,進而降低維護成本。

魚眼鏡頭提供獨特的完整交叉路口檢視,不像其他的攝影機僅能提供單一方向視野。如此便能獲得更準確的狀況警覺與不受阻礙的事故檢視。此外,攝影機具有虛擬平移-傾斜-縮放功能,讓交通管理員可設定和調整多個視野。

當車輛與行人進到範圍內時,攝影機會開始為每個「目標」建立 3D 模型。根據預先編程的邏輯,模型會決定交通號制的時間。

GS2 處理器安裝在標準的控制機櫃內,且直接與鈴鐺型攝影機連線。處理器引擎使用 GRIDSMART 專屬演算法負責所有的運算,在 Intel® Core™ i5 CPU 和 Intel® 固態硬碟上執行。

GS2 處理器會在夜間將每小時左轉數量或車輛速度等大量詳細的交通統計數據上傳到雲端。這能讓交通操作員與工程師存取目前與歷史的活動,以及趨勢報告。

解決方案的第三個元件是 GRIDSMART 用戶端軟體,它就像是一個在筆記型電腦上的交通管理中心 (TMC)。交通工程師使用用戶端應用程式來設定、管控和檢視交叉路口,以及監控執行效能報告,並將組態同步到雲端。這個用戶端具有虛擬 DVR,可提供大量多樣的交叉路口視野。

最後,GRIDSMART 解決方案獨家提供開放的 API。這代表城市可輕鬆地從現有的交通管制系統中自動擷取資料與影像。

Malkes 表示:「我們在世界各地的各種環境條件下處理超過 5,000 萬小時的影片,並計算 430 億台車輛。這需要密集的視覺處理演算法,因此必須運用快速可靠的運算能力。這就是為什麼 Intel® 一直都是我們最棒的合作夥伴。我們專注於處理與交通有關的事情,Intel 則持續以符合成本效益的方式賦予我們更大的力量。」

留心差距!運用物聯網統一建築自動化

為了降低能源成本並保持用戶的使用舒適性與生產力,帶動了對建築自動化系統的早期採用。在公用支出方面,自動化通常每年可為每平方英呎節省 0.20 到 0.40 美元。以 75,000 平方英呎的平均尺寸建築物來說,這代表每年可節省 15,000 到 30,000 美元。

自動化不僅可節省金錢,也讓業主能更妥善控制室內環境,為工作人員與客戶打造更健康、更舒適的氣氛。

照明、供暖、通風和空調 (HVAC) 等系統是建築物使用者整體舒適度和體驗的關鍵,當這些系統故障時,可能會導致生產力與收益的流失,而在空氣品質改善 94% 的情況下,員工回報的生產力可提升 40%。

但建築自動化系統有其極限。自動化一開始是工業解決方案,仍在使用中的老舊系統是設計給全職的現場設備工程師使用。這些系統缺乏串流與儲存大量資料的能力,導致無法在一系列建築物之間分析趨勢。因此,可能無法偵測到正在發生的系統問題。

但現在,在建築物與保持建築物運作的設備中,都已經採用了物聯網和雲端技術。新的解決方案讓設施管理人員能獲得深刻見解,使他們更加瞭解設備功能的完善度、是否滿足能源目標、是否保持用戶的舒適性,並可獲得更多資訊。

雲端式建築管理解決方案可提供三種關鍵商業優勢:降低成本、提高生產力,以及增強安全性,如圖 1 所示。

圖 1.  建築物業主與設備管理人員正在部署雲端式管理解決方案,以獲得正向的商業成果。

串聯未連線的物件

然而即使建築物系統變得更加智慧,它們還是各自為政。HVAC、電源、照明、安全性,以及其他的系統通常都分散在多種不相容的平台、通訊協定和管理工具之間。想要在單一建築物內獲得深刻見解、最佳化能源使用,以及監控設備健全度就已經十分耗費時間與成本,更不必說要跨許多建築物了。

雲端式建築物管理解決方案供應商 Riptide 開發了企業組合管理系統 (Enterprise Portfolio Management System) 以解決這些挑戰。此系統以 Intel® 技術為基礎,可整合單一或多個建築物內來自個別自動化系統的資料,使管理人員能在一個中心位置看到即時結果並管理設定。

「我們認為建築物自動化是一種單一系統,但其實它是多個工業子系統的集合,」Riptide 銷售與行銷部門副總裁 Marti Ogram 解釋。「電源、HVAC、冷藏冷凍,以及照明等都由不同廠商提供,各自具有其產業標準與通訊協定。我們整合所有的這些通訊協定,將它們帶到同一個環境內。」

這代表建築物管理人員可以在單一平台上針對溫度、照明和通風設定預先定義的排程。他們能對每一棟建築物的所有系統擁有即時的可見度,並可控制設備與能源使用。

無論系統廠商為何,Riptide 皆可透過智慧感測器收集單一建築物或一系列建築物中不同控制系統的資料。資料可透過現場閘道處理,讓管理人員能快速控制照明與溫度設定。也能確保即使在失去雲端連線的情況下,管理人員仍保有控制能力。

來自所有感測器的完整資料集會安全地傳送至雲端並進行分析,以找出醞釀中的問題、為維修技術人員提供相關通知,並收集關於設備與能源趨勢的深刻見解。(請見以下的圖 2。)

圖 2. Riptide 的企業組合管理解決方案會在邊緣收集處理的資料,以進行本地控制,並在雲端做更深入的分析。

雲端運算與高效能的 Intel 處理器能讓 Riptide 快速分析並轉送資訊。「老舊系統還在忍受著使用用戶端伺服器架構。我們需要雲端運算能力來處理大量的資料分析和機器學習,」Ogram 表示。

當企業組合增加新的感測器或新的建築物時,Riptide 這類的設備管理解決方案亦可輕鬆進行擴充。因為不再受限於內部部署伺服器的容量限制,建築物業主可以收集到比過去多出更多的資訊。

預防故障

除了增加容量與速度以外,雲端式分析亦可讓建築物業主更早發現設備問題,進而預防故障並節省時間與金錢。

舉例來說,如果有一個空調壓縮機開始發生故障,可能需要更多的耗電量才能維持運轉。若業主沒有發現這個問題,就會收到昂貴的電費帳單,但卻無從得知原因。最後,在一個大熱天裡,壓縮機完全停止運轉,讓建築物內的用戶汗流浹背,建築物管理人員也得緊急安排維修。

運用 Riptide 的系統,就能藉由資料分析在初期發現故障徵兆,並透過行動應用程式傳送警示給維修技術人員。技術人員會知道問題存在,並可在準備出發前往現場施作前更進一步瞭解問題。

透過檢視分析結果,技術人員可能會瞭解壓縮機的機齡已達 10 年,而且在多年中收到三次派工單。因此,技術人員會直接帶一套新的裝置到現場,而不是浪費時間和金錢修補老舊的壓縮機。如此便可在人員第一次前往現場時就解決問題,不必等到發生故障。

精確掌握趨勢

大數據也為建築物業主提供關於能源使用的新洞見。他們可以任意剖析資料、根據業界標準為設備效能訂定標竿、透過設定點檢查用戶的合規性、測量一日內不同時間的能源使用,或是比較建築物之間的效能差異。

Nordstrom 的管理人員使用 Riptide 的分析功能管理他們的控制系統,為 300 間店面節省不必要的照明。透過運用 Riptide 的解決方案驗證初次修復是否就進展順利,這家頂級零售連鎖店讓他們最大的維護預算項目(HVAC 維修)降低了 25%。

透過調查大數據趨勢,建築物業主可預估未來的能源使用,並預期設備維修時間,協助他們做出更準確的營運預算。他們也能更加瞭解用戶與客戶如何運用他們的系統,讓他們在控制與未來設備採購方面做出更明智的決策。

感測器收集越多資訊,能提供的協助就越大。Riptide 現在開始與 Intel 和其他夥伴合作,將機器學習技術用在他們所收集到的大量寶貴資料上。隨著時間,解決方案提供的深刻見解將可預測設備何時故障,並根據氣候和佔用率自動調整建築物系統。

人工智慧提高實體店面業績

當電子商務吸引了所有人的目光時,由 IHL 集團進行的研究表示大型連鎖商規劃要在 2018 年後再加開 5,500 間商店

但即使傳統商店的生意興隆,零售商的競爭卻越來越激烈。為了應對市場不斷轉變,許多商家都試著模擬電子商務的方法,以運用資料增加銷售並改善客戶服務。要將這些智慧技術從雲端延伸到商店內,需要採用收集、管理和分析資料的新方法。

尤其是,零售商需要能在邊緣提供價值的深度學習解決方案,以處理零售商店內的大量影像與資料。這種解決方案通常需要混合採用異質的 CPU、GPU、FPGA 與其他處理器,同時遵守嚴格的電源、空間、頻寬和隱私要求。

在考量這些要求的情況下,開發者正在尋找能運用現有 API 與架構的方法,以最大化零售解決方案的可攜性、彈性及擴充性。開發者亦仰賴專為邊緣應用所設計的新世代現成人工智慧硬體與軟體。這樣的技術能簡化並加速建立新解決方案的流程,讓開發者得以將人工智慧與機器學習的力量運用在新環境中。

小巧尺寸中的 XXXL 級效能

零售人工智慧解決方案必須能生產、儲存並管理大量的資料,尤其是與影片分析相關的解決方案。雲端型解決方案經常會受到延遲、網路頻寬、可靠度和安全性問題的影響而無法實行。

零售商需要的是能提供強大運算威力,同時耗電量相對較低的邊緣解決方案。除此之外,也必須要符合小巧的外型規格。Intel® 支援解決方案的近期開發成果可滿足這些必要需求。

AAEON Europe 旗下品牌 UP Bridge the Gap 開發了一系列執行於先進硬體上的神經加速器。搭載 Intel® Movidius™ Myriad™ X VPU,這些卡片經過專門設計,可在低功率的小巧封裝中處理電腦視覺與人工智慧應用程式(圖 1)。

圖 1. UP AI Core X 系列搭載 Intel® Movidius™ Myriad™ X VPU。(資料來源:UP Bridge the Gap

舉例來說,這些卡片用於 UP Squared AI Edge: Retail Suite,這是一個可快速部署,專為現代商務所設計的神經網路引擎。Retail Suite 預先載入來自 AIM2 和 Cortexica 的軟體,並支援如 Caffe、TensorFlow 和 OpenVINO 工具組等架構。其中具備:

  • 一個以 Intel Atom® x7-E3950 4GB RAM 為基礎,30×51 公釐的 UP Squared 主機板
  • 一個 Intel Movidius Myriad X 2485 VPU
  • 64GB eMMC、WiFi (2T2R),以及藍牙
  • 一個 USB3.0 攝影機,具有 3.6 公釐鏡頭
  • 一份由 AIM2 預先安裝的 1 年期 Retail Suite 訂閱

Retail Suite 可作為開發者套件,透過其搭載的 Intel Movidius Myriad X VPU,提供較前一代產品高出約 10 倍的效能,使其成為邊緣人工智慧的強大選項。(請見圖 2。)

圖 2. Intel® Movidius™ Myriad™ X VPU 提供較前一代產品高出約 10 倍的效能。(資料來源:UP Bridge the Gap

人工智慧與機器學習為零售產業提供助力

目標是獲得一種智慧解決方案,能從影片分析擷取深入見解,以進行對目標族群、行為及信心指數的分析。零售商想要能輕易地調用關於客戶年齡或性別的分佈資料,能依需求按月份或星期排列,同時顯示他們的情緒狀態。客戶是開心還是困惑?他們是否著重在特定品牌或忽略了特定品牌?所有的這些資訊都能協助零售商帶動商店進步。

我們與機器學習工程師 Luca Ruzzola 討論此解決方案,他是 AIM2 資料科學與訓練的主管。他解釋 Retail Suite 可用於情境模式 (Contextual Mode) 或是品牌模式 (Brand Mode)。

在情境模式中,零售商能取得情境資訊以進行客戶分析。「此解決方案會將關鍵效能指標 (KPI) 與特定情境建立關聯,」Ruzzola 表示。「舉例來說,情境可以指貨架上的品牌、購物中心內的地點名稱,或是入口或出口等地點的特定區域。」

在品牌模式中,零售商則可以在貨架層級自動化庫存追蹤。Ruzzola 表示:「此解決方案可讓零售商提升效率。這包括了庫存偵測與貨架監控,以確保品牌放在適當位置且數量無誤。」

亦可測量品牌曝光度。「它會追蹤站在貨架前觀察品牌產品的客戶,以及他們與產品互動的方法,」Ruzzola 說。「它也能讓零售商追蹤及分析與產品互動的客戶類型,包括性別與年齡範圍等,同時確保符合《一般資料保護規範》(GDPR)。」

隨著提到 GDPR,話題便轉到了關於解決方案隱私設定的討論。Ruzzola 明確表示不會有任何向外傳輸的視訊串流,也不會將影格儲存在裝置上。

「影片處理是即時進行的,」Ruzzola 說明,「透過運用神經同質識別 (Neural Homogeneous Identities, NHI) 建立臉部特徵。」NHI 使解決方案可自動偵測並組織識別碼,無需人力支援。

每一個臉部特徵都經過加密並儲存在資料庫中。「不過,建立臉部特徵的程序無法用於重建特定臉孔的影像,」Ruzzola 表示。

這個臉部特徵讓零售商能在特定客戶回到商店時進行識別,而無需擷取他們的個人身分。透過此方法,零售商便可追蹤客戶個人的購物習慣、年齡範圍及性別,同時確保隱私性與安全性。

Ruzzola 描述其他臉部特徵的使用案例,例如可確保僅有經過授權的員工能進入限制的庫房或辦公室等。其中一個相關的使用案例是可以確認如保全人員等特定員工,是否在特定時間身處於特定區域並履行特定職責。

人工智慧不盡相同

我們的對話轉向關於其他公司在這個領域內的開發成果。Ruzzola 解釋,Retail Suite 與其他競爭產品不同,可提供三種關鍵優勢。

首先,此解決方案的雙模式系統可讓零售商擷取和分析情境資料與品牌互動資料。「其他解決方案沒辦法在單一套件中處理這兩個面向,」他說。

第二個優勢是成本低廉。「AAEON 硬體與 Intel 堆疊可降低成本,」Ruzzola 表示。

這個解決方案的第三個優勢就是它可以提供標準的 KPI 或原始資料。「標準 KPI 讓零售商快速取得深入見解,而不需經過分析,」Ruzzola 說,「或者他們可以進行分析,詳細檢查原始資料,以獲得額外的深入見解。」

填補與電子商務之間的差距

隨著人工智慧與機器學習技術逐漸成熟,成本也跟著降低,實體零售商便能運用電子零售商習以為常的客戶、品牌,以及產品分析能力。零售商對這樣的機會感到非常興奮,這讓他們能取得關於客戶行為與喜好的深入見解,並瞭解各種品牌的優勢。成果如何?零售商的競爭力更高,也能提供更加客戶導向的服務。

預測性 AI 讓停電不必停工

維持設備運作是任何工廠的第一要務,而半導體廠房所面對的風險更鉅。即使只是短短數秒的斷電,也可能對生產線產生巨大影響。曾經在某家廠房僅因一瞬間的斷電就導致產能降低百分之 20

而就算是高科技園區內,斷電也可能是司空見慣的事情,迫使每一間廠房投資備援發電機。原則上,半導體工廠使用柴油不斷電系統 (DUPS),在正常運作時間儲存電力,以備斷電時繼續供電。

但是 DUPS 系統同樣會故障。事實上,DUPS 系統因移動零件過多和工廠環境極端,通常均無法達到百分之 100 的可靠度。柴油發電機意外停機加上臨時斷電,這種事情經常發生。

半導體生產系統非常複雜,一旦停止就無法輕易再啟動。生產線關閉後,工廠需數日的時間才能夠恢復,輕易損失數十萬美元的成本。

例如,假設電力中斷導致工廠的空氣濾淨系統關閉。視斷電時間長短與生產線上的矽晶類型而定,產品甚至可能遭受永久性的損害。即使是未損害半導體產品的情況,生產延遲仍可能導致違反客戶契約,產生賠償責任。

避免停機

顯然地,維持柴油發電機正常運作是關鍵之一,但這些是複雜的機械系統,並不容易維護。同時更因半導體製程需要耗費大量電力,一間廠房的 DUPS 系統就可能需要10 台、20 台甚或是更多的柴油發電機。

完全依賴人工檢查的工廠,勢必因為無法辨識可行動的問題資料而面臨停機的風險。例如讀取電流數據能判斷是否發生問題,卻無法判定是 DUPS 的哪一部分故障。更糟糕的是,待用電產生影響之時,系統本身即已受到可觀的損傷,隨時均可能故障。

有些工廠會定期使用可攜式診斷儀器來測試 DUPS,但若問題發生在兩次定期測試之間,則仍無法及時察覺。 而且可攜式儀器雖能偵測到嚴重問題,感測器的限制卻使其無法偵測到細微的不平衡或零件的磨耗。 沒有 DUPS 障礙預警,工廠就無法維修,必須等待設備隨時可能徹底損壞或已經發生故障後才能應變。

利用分析工具進行預測性維護

NEXCOM Predictive Diagnostic Maintenance (PDM) 系統適用於 DUPS,能在突發性斷電時讓產線繼續運作,不遭中斷。PDM 解決方案以非侵入式的方法持續監控 DUPS 系統中的每一個機組。此系統利用震動分析,能在發生損傷或故障之前偵測百分之 85 的電源供應問題。

DUPS 系統的每一個機組均連接至一組加速計及軸承座,收集垂直與水平的震動頻率。

震動感測器則將輸入的資料解譯,透過指示面板即時顯示狀態。最後,如圖 1 所示,由 NEXCOM SCADA 工作站補足整個 PDM 解決方案的最後一環,為整組 DUPS 系統即時儲存、分析並顯示各種數據陣列。

圖 1. NEXCOM 的 PDM 系統測量 DUPS 震動頻率。

「我們的系統能在極早期階段還能運作之時就辨識出具體的損傷。例如,我們不僅能判斷有軸承發生損傷,還能指出是軸承的哪一個部分。」NEXCOM Intelligent Systems 副總裁 David Lee 表示。「這讓工廠主管擁有兩個月或更長的時間能採購新零件。然後也能預先規劃維修時間。」

遠端監控功能可偵測軸承動作異常的情況,防止發生損傷而危害供電。工廠主管可設定警示提醒何時應維護,無需再進行人工檢查。

設備診斷的資訊處理則在邊緣(即工廠)進行,以利第一時間通知主管任何問題。當系統偵測到異常,即傳送警示至控制室或主管的手機應用程式。即使仍需數月才會發生故障,主管可獲知哪一個零件錯位或開始磨損。

這讓主管獲得充裕的時間能夠提早採購替換零件。然後,也能安排在耗電量相對低的時段進行安裝,以降低維修期間斷電的風險。

Lee 表示:「DUPS PDM 系統曾讓一位客戶能將停電造成的停機時間降至幾乎等於零。」

NEXCOM 的 PDM 系統提供圖形使用者介面,以利分析及呈現大量的資料。它能夠即時顯示數值與趨勢,並提供選項以設定條件警報,在數值指定範圍內觸發。Intel® 處理器提供高效能圖形處理的能力,分析大量的歷程資料,如圖 2 所示。

圖 2. NEXCOM 的 PDM 系統收集資料以在邊緣及雲端進行即時分析。

主管能透過易用的視覺化介面將大量的資料轉化為易懂的圖表,輕鬆查看過去的變化型態。研究這些資料能幫助他們知道應確切在何處設定警示。如此可避免其他系統常見的誤報並及早解決問題,避免停機而造成龐大損失。

改善營運與產品

收集的資料也會送往雲端,建立機器運作的完整歷程記錄供主管日後存取,用於進行預測性維護、營運成本分析及其他各種商業分析。

除了工廠主管之外,其他人也能利用雲端資料。柴油發電機廠商可利用 AI 與資料分析來試圖進一步改善產品。

利用感測器與預測性維護來監控並維持 DUPS 系統,讓一旦系統故障即面臨龐大損失的半導體工廠營運方式大幅改變。穩定的產能是這些工廠的第一要務。NEXCOM 的 PDM 系統讓他們安心,知道備援的柴油發電機能在每當需要時順利發動。

而在工廠主管體會到物聯網預測性分析的效益之後,現在更開始評估擴大應用 PDM 系統。濕度與溫度控制同樣是半導體生產的關鍵,讓排氣與空調系統成為 NEXCOM 的 PDM 這類解決方案的絕佳舞台。

以微型服務解決物聯網軟體問題

隨著物聯網系統日益複雜,開發人員現正轉向採用微型服務架構,藉此以更快速、簡易且安全的方式推出與更新物聯網軟體。

微型服務架構是一個鬆散組合的架構,利用虛擬化方式將系統軟體元件獨立分隔為「容器」。

圖 1 說明了 Docker 這項最受歡迎的其中一個容器化技術如何將主機作業系統與其他應用程式、公用程式和第三方服務隔離,且前述項目皆獨立分隔為個別容器。

圖 1. 微型服務架構使用容器分隔系統內的軟體元件。(資料來源:56K.Cloud GmbH

視佔用的空間而定,特定架構內的不同服務可存放在雲端、霧閘道或伺服器中,或存放在物聯網邊緣裝置本身內。如此一來,就可確保將特定的軟體功能留存在對使用案例最具效益的位置(圖 2)。一般而言,容器化的軟體元件之間是透過標準化 API 互相通訊。

圖 2. 微型服務可留存在其於物聯網架構中效益最佳的位置。(資料來源:EdgeX Foundry

以容器為基礎的微型服務架構,其結構讓物聯網開發人員可大規模地快速部署軟體,無須擔憂干擾系統中其他位置的軟體相依性。透過此架構,也可根據目標硬體平台增添容器化通訊協定與網路支援,進而確保新舊裝置具有可擴充的互通連線能力。

這些功能讓物聯網軟體升級作業更為迅速、反覆性更高,同時也讓程式碼庫管理作業更為精細,並且能更妥善地運用軟體工程資源。

物聯網邊緣的微型服務容器

容器化軟體架構源自企業內部,讓 IT 開發人員能安全地將在相同硬體上執行的應用程式與服務互相分隔。為了支援逐漸增加的功能,更多運算能力皆轉移至物聯網裝置上,因此對於有下列需求的邊緣部署而言,容器成為深具吸引力的選項:

  • 多樣的通訊協定與資料格式
  • 各種不同層級的分析能力
  • 迅速的反覆性系統升級
  • 產品差異化與快速的上市時間
  • 有效率地使用資源

但是,在邊緣運作的微型服務架構必須克服資料中心內沒有的艱難挑戰。例如,當架構內整合了更多微型服務時,就必須進行更大量的網路連線與通訊作業,如此一來也會增加延遲。

隨著架構內包含的裝置與服務數量漸增,也會造成更多的潛在故障點,而需要確保安全的介面也更多。最後一點則是,隨著分散式異質裝置與環境與日俱增,協調其中各項服務的作業也愈發複雜。

為了克服物聯網邊緣的這類容器問題,Dell OEM 與其他公司推出了 EdgeX Foundry 微型服務架構。

適用於邊緣的開放式微型服務,不受限制又可延伸

EdgeX Foundry 是開放原始碼且不偏袒任何廠商的中立專案,由 The Linux Foundation 主導,其中包含十多種不限硬體與作業系統的微型服務(圖 3)。此平台的設計可為建置差異化物聯網解決方案的廠商提高互通性,並縮短上市時間。透過 Docker 與 Docker Compose 即可部署微型服務。

圖 3.  EdgeX Foundry 微型服務架構提供了開放原始碼建構模塊,可改善物聯網系統的互通性,並縮短其上市時間。(資料來源:EdgeX Foundry

EdgeX Foundry 的主要微型服務可分為三類:

  • 裝置服務,在物聯網邊緣裝置或閘道上執行,負責處理 OT 感應器資料的收集與通訊作業。這些服務支援多種業界標準通訊協定,可快速整合新舊系統。
  • 核心服務,存放於閘道平台或現場的霧伺服器,讓本機資料可持久化,並且提供命令功能與組態資訊。核心服務亦能提供裝置監控與管理等較複雜功能所需的基礎架構。
  • 匯出服務,位於閘道、現場霧伺服器或雲端上,可將傳送至企業的資料加以轉換、格式化,並進行篩選。為了確保可將 OT 感應器資料匯出為與企業資料模型相容的格式,例如 JSON 等,這項服務是不可或缺的。

除了這幾項基本服務外,鬆散組合的 EdgeX Foundry 微型服務架構也支援選購服務,例如本機分析、安全性、排程、裝置管理、警示與資料記錄等,您可針對手邊的應用程式新增、移除或量身訂做這類服務(圖 4)。

圖 4. 將 EdgeX Foundry 核心服務與本機分析等選購微型服務相互結合後,有助讓物聯網開發人員更迅速地配合應用程式的要求量身訂做軟體堆疊。(資料來源:EdgeX Foundry

這些微型服務彼此通訊時是使用 REST API,這可讓即時應用程式的通訊延遲情況減至最少。同時因為 EdgeX Foundry 可在單一硬體平台上支援眾多應用程式與服務,所以在進行全面性物聯網部署時,需要的獨立系統數量也更少。隨著彙整功能的系統數量逐漸減少,也可將安全性弱點與故障點的數量降至最低。

微型服務的微電腦

EdgeX Foundry 參與人員仍在持續將架構效能最佳化,其目標是可在單一 Raspberry Pi 3 裝置上執行所有裝置服務、核心服務與匯出服務。這項實作的目標啟動時間設定為低於一分鐘,而在不同服務層間的資料擷取、處理與啟動的延遲時間則低於一秒。

現行的容器化核心服務軟體佔用空間為 113 MB,啟動時間則低於 10 秒。這讓 EdgeX Foundry 軟體堆疊可相容於 Dell Edge Gateway 5100 等系統,此系統是以搭載 2 GB 之 DDR3L-1067 MHz RAM 的 Intel Atom® E3825 處理器為基礎,並且支援 32 GB 固態硬碟。

無論在邊緣的何處,微型服務皆具備彈性

對物聯網開發人員而言,EdgeX Foundry 鬆散組合的容器化架構意味著他們可大規模地快速將所需能力部署在架構中最為合理的位置。此外,或許更重要的一點是在部署其他應用程式與服務時,無須擔憂干擾系統中其他位置的軟體相依性。這讓物聯網軟體升級作業更為迅速、反覆性更高,同時也讓程式碼庫管理作業更具效率也更為精細。

EdgeX Foundry 微型服務架構的其他公用程式可確保從工廠現場到雲端,新舊裝置之間皆具有可擴充的互通連線能力。這麼一來,物聯網組織即能利用基礎功能加快上市時間,同時將珍貴的軟體工程資源保留給加值功能、服務與創新。

若要進一步瞭解微型服務架構與 EdgeX Foundry,請觀看隨選網路研討會「A Microservice Approach to IoT Edge Computing」。

將確定性資料中心引進邊緣運算

現在,工業物聯網 (IIoT) 系統的邊緣運算優勢已不容忽視。在感應器與致動器鄰近處增添智慧功能,可減少通訊所需頻寬、延遲、安全考量,並且尚具備其他眾多優勢。

但是真正的邊緣運算並非僅意味著增加嵌入式裝置的 MIPS,而是需要可在即時環境中引進資料中心效能的端對端解決方案。

將嵌入式裝置連線至網際網路時,會帶來許多挑戰,包括授權與佈建、遠端管理、端點安全性,以及在物聯網與 IT 環境間分享資料的眾多複雜性。由於前述情況使然,讓邊緣運算自然而然地受限在企業平台上。

這是問題所在。大部分企業解決方案皆不適合工業物聯網應用,因此讓邊緣需求與資料中心的能力之間產生落差。最明顯的是企業網路缺乏工業物聯網邊緣運算情境所需的確定性,不過 OPC Foundation 的統一架構 (OPC UA) 以及 AVnu Alliance 的時效性網路 (TSN) 技術能夠彌補這項差距。

OPC UA:適用於 OT 與 IT 通訊的統一架構

為了讓邊緣裝置與資料中心能夠緊密結合,許多工業 OEM 皆採用 OPC UA。OPC UA 跟以 IT 為中心的技術不同,OPC UA 通訊堆疊提供服務導向的架構 (SOA),可將各種現場層級的通訊協定提取至傳輸層機器對機器 (M2M) 通訊協定,以透過企業網路進行傳輸。

如同圖 1 所示,OPC UA 能讓企業與工業物聯網部署控制層之間的通訊透明化,並且解決許多與邊緣運算相關的網路問題。

圖 1. OPC 統一架構 (OPC UA) 軟體堆疊能實現工業物聯網 (IIoT) 邊緣運算所需的通訊透明化與彈性。(資料來源:National Instruments

有助於讓企業系統與營運設備緊密相連的 OPC UA 功能包括:

  • 雙向心跳,可向客戶與伺服器通知對方的狀態,藉此迅速識別岔斷情況
  • 資料緩衝,在喪失連線之際,可確保仍能保留資料
  • 安全性、驗證與授權,包括二進位版本的 WS-SecureConversation 規格,適合用於資源有限的裝置
  • 備援,在系統故障之際,可改善資料傳輸的可靠性與整體基礎架構

於工廠自動化、建築自動化、石油與天然氣、程序控制和製藥等等產業中,前述功能讓使用 OPC UA 的設備能統整邊緣與雲端。不過此標準本身並未提供相關機制,以維護現場層級的營運確定性並將其引進企業中。

時效性網路 (TSN) 登場:物聯網架構的確定性

衍生自汽車業的 TSN 技術,可透過乙太網路提供高品質且即時的音訊與視訊內容。隨著以乙太網路為基礎的通訊在工業現場匯流排環境中大為盛行,當然 TSN 技術也開始在工業物聯網中站穩腳步

相較於傳統的 IEEE 802.3 乙太網路標準,以 TSN 為基礎的 IEEE 802.1x 乙太網路建立了不可協調的時間限制,以此限制定義端對端的傳輸延遲。這項特性讓 TSN 通訊本質即具有確定性,且因此也具有即時性。

TSN 也可支援位於相同網路上,但類別不同的流量與優先順序層級。因此,支援 TSN 的工業物聯網裝置可讓企業的連線技術拓展至超越 SCADA,並且讓控制系統延伸至現場的感應器與致動器(圖 2)。

圖 2. 支援 802.1 時效性網路 (TSN) 標準的工業通訊協定,可將營運技術 (OT) 系統的確定性延伸至企業平台。(資料來源:EBV Elektronik GmbH

如前一圖片中所示,結合乙太網路 TSN 與 OPC UA 等技術,就可實現以 IP 為基礎的通用連線,從現場層級邊緣運算系統連線至雲端。不過,乙太網路不是唯一採用 TSN 的通訊協定。圖 3 所示為與 TSN 相容的其他現有或未來工業通訊技術。

圖 3.  由 AVnu Alliance 規範的時效性網路 (TSN) 規格,支援透過 OPC UA、PROFINET、IEC 61508、IEEE 1722、乙太網路 IP、DDS 與專屬實作等通訊協定進行的即時通訊。(資料來源:National Instruments

OPC UA 與 TSN 統合軟體定義工廠

OPC Foundation 和 IEEE 802.1x 工作團隊一直致力於將 TSN 技術整合至 OPC UA 通訊堆疊內,這對工業物聯網邊緣運算具有重大的影響。這項創新做法讓工業組織能將實際的資料中心引進廠房內(圖 4),而非僅在嵌入式系統中加入類似資料中心的效能而已。

圖 4. 結合 OPC UA 與 TSN 技術後,工業自動化公司就能將雲端技術引進確定性環境中。(資料來源:Kontron

透過將即時、功能安全與雲端能力整合至現場的邊緣伺服器內,自動化工程師即可著手建立真正由軟體定義的工廠。透過與鄰近資料中心智慧功能之間的低延遲決定性連線,讓控制器、感應器與致動器在可持續改善效能的本地化措施中,佔有一席之地。現在,我們即可運用工廠的集體智慧,並透過軟體即時進行最佳化作業。

例如,利用 OPC UA TSN,現場的邊緣伺服器可在本機執行全面性的即時分析,加快安全關鍵或商務關鍵工業使用案例的決策週期。在預防性維護的即時應用中,也可運用工廠所有節點的歷史資料,藉此保存寶貴的工業設備。在處理新介面之際,也可更新機器學習演算法並重複部署,讓工廠更具智慧,無須仰賴雲端。

當然,建置軟體定義的工廠也需要靈活且完善的硬體,同時需具備適當的網路能力。此時 Kontron 等公司扮演了重要角色。

Kontron 將設計工業及演算與通訊平台的優良傳承,帶進智慧型工廠的環境中。現在該公司提供可擴充的產品組合,內含以標準為基礎的控制器、閘道,以及以 Intel® 技術為基礎的多 CPU伺服器組,支援 OPC UA 和 TSN 等新興工業網路技術。

例如 KBox C-102-2 TSN Starterkit 這款雙插槽工業電腦,搭載了第 6 代 Intel® Core™ i5 處理器與四個連接埠的 10/100/1000 乙太網路 TSN 網路介面卡 (NIC)。KBox TSN Starterkit 以即時擴充功能支援 Linux,可供快速部署工業 TSN 網路。

工業雲端與連線能力相互融合,讓工廠更具智慧

將效能與功能整合至邊緣感應器與控制器內雖然可帶來優勢,但未必盡然如此。在系統中納入更強大的處理能力與儲存能力,可能會迅速超過尺寸、重量、功率與成本的門檻,由數百個甚或數千個感應器節點組成的工業物聯網部署更是如此。

若改為將資料中心引進至邊緣,則可讓自動化工程師獲得建立工業物聯網所需的智慧情報,同時又保有經過數十年實證考驗的確定性工業系統架構。由於 OPC UA 與 TSN 所具備的即時屬性,讓前述能力現在變得觸手可及。

若要進一步瞭解這些技術,請觀看隨選網路研討會「Edge Computing for Industrial IoT」。

AI 革命推動醫療成像技術向前邁進

醫師與技師正在尋求運用 AI 和深度學習的新方式,以利減輕醫生的工作負擔並協助診斷疾病。但是在資料中心外部署 AI 模型的障礙一直以來難以克服。

在醫療成像等應用中,儲存需求向來特別是問題所在,因為這類應用中的 AI 模型必須全力應付大量資料。例如以光學同調斷層掃描術 (OCT) 等技術記錄的眼部橫切平面與橫斷面 3D 影像,其解析度的細膩程度可能達 2 至 5 微米,因此影像會十分龐大。

雖然資料中心能夠處理此等工作負載,但由於網路頻寬限制與病患隱私考量等層面使然,將影像放入資料中心內也是一大難題。因此,開發人員正在尋找將深度學習部署至資料收集階段的方法。

此時面臨的挑戰在於運算需求。為了處理與成像相關的工作負載,開發人員已改為混合採用異質的 CPU、GPU、FPGA 與其他處理器。然而這種複雜的架構可能難以設定與編寫程式。

開發人員可採取的另一項替代方式則是運用現成技術。專門針對邊緣應用所設計的新一代 AI 硬體與軟體,可望大幅簡化開發作業。開發人員應考量利用這些 API 與架構,讓深度學習能達到最高的可攜性、彈性與擴充性。

從概念到臨床

IEI 的情況為例,其深度學習解決方案是以 Intel® FPGA Deep Learning Acceleration Suite 和 OpenVINO™ 工具組等現成技術為建置基礎。

圖 1 所示的 IEI 解決方案屬於快速部署電腦視覺系統的一部分,該系統包含工作站、深度學習軟體開發套件,以及來自該公司 QNAP 儲存部門的強大網路連接儲存裝置 (NAS)。

圖 1. IEI 解決方案結合大量的高度平行運算能力、儲存與網路能力,並且具備最佳化的效能,可在單一完整系統中更快速地進行資料分析。(資料來源:IEI)

我們與 IEI 產品管理主任 Don Yu 進行了討論,以瞭解嵌入 AI 的深度學習邊緣解決方案如何提升疾病診斷的準確度,以及相關技術的運作方式。

Yu 解釋:「我們選擇 OCT 影像作為主要使用案例,這是非侵入式的成像試驗,可用於診斷多種眼疾,包括青光眼、老年性黃斑部病變 (AMD) 與糖尿病眼疾等。」

根據 Yu 的說明,專家必須經過大量訓練才能解讀 OCT 影像。檢閱病患的試驗影像也極為耗時。「這類應用是 AI 與深度學習的理想選擇。」Yu 表示,「我們開發了可處理訓練與推論作業的邊緣系統,大規模地削減了診斷疾病所需的時間。」(請參閱 圖 2。)

圖 2. IEI 解決方案可加速診斷老年性黃斑部病變。(資料來源:IEI)

先進的技術實現早期診斷

迅速診斷出 AMD 可讓病患實際受惠。就像其他許多疾病一樣,AMD 在早期階段並不會出現明顯的症狀,因此常常未曾察覺,直到病患的視力衰退時才會發現。屆時病情已進入中期或末期階段,針對此病變進行手術的可能性隨之降低,治療的效果也較差。

但是若能早期發現此病變,就可開始治療。開始治療的時間愈早,病患保有視力的可能性也會愈高。許多其他疾病也存在同樣情況,若能早期診斷就能大幅改善最終結果。

在已開發世界中,AMD 是喪失中心視覺的主要原因,在 65 歲以上的人士中有 10% 的人受此疾病侵襲,而 75 歲以上的人士中則有超過 25% 的人受到影響。美國有大約 200 萬人罹患末期 AMD,並且有超過 800 萬人患有中度 AMD。根據預測,前述數據在 2020 年時會增加 50%,因此早期診斷至關重要。

解讀醫療影像的傳統方式雖然準確度高,但卻需要極長的時間才可完成。這類方式必須讓超過一位的專家進行多次檢視並討論。若領域內缺乏這類專家,就需要將醫療影像寄往他處以供進行診斷。此時通常需要等待數週才能完成診斷,並開始治療。

利用嵌入 AI 的深度學習邊緣解決方案,位於中央的醫師即能以較少時間做出準確的診斷。如此一來,病患即能提早展開治療,通常可改善最終結果。

拼湊拼圖

在討論中,Yu 表示深度學習的成功需要仰賴三項因素:資料、運算能力與演算法。針對第一項因素,他表示:「QNAP 的 NAS 是儲存醫療資料的理想選擇。我們也推出了 QPACS 應用程式作為醫療數位影像傳輸協定 (DICOM) 伺服器應用程式使用。」

不過還不止於此。此解決方案的 NAS 支援 AI 擴充卡,可提供更多所需的運算能力,進而以更高效率執行作業。例如 Mustang-F100-A10 加速卡運用 Intel FPGA Deep Learning Acceleration Suite,以滿足極端嚴苛的運算需求(圖 3)。此公司也提供以 Intel® Core™ 處理器和 Intel® Movidius™ 處理器為基礎的 AI 卡,讓開發人員能享有更為靈活的選擇。

圖 3.  IEI 提供各種不同的 AI 加速器卡。

在演算法方面,系統支援架構與 Caffe、MXNet、TensorFlow 和 CNTK 等程式庫。現有的容器化解決方案可輕鬆移轉至平台上,同時也可迅速開始使用新的解決方案。其中也包含容器工作站,支援 Docker 和其他容器技術。使用者可透過容器選擇多種 AI 架構與程式庫,讓開發作業更輕鬆。

「IEI 也提供裸機 AI 解決方案,讓使用者搭配 QuAI 程式庫運用,進而滿足廣泛的 AI 模型訓練需求。」Yu 解釋。

AI、深度學習與更好的結果

若要為醫師與病患帶來價值,嵌入 AI 的深度學習邊緣解決方案必須:

  • 提供大規模的運算能力、儲存與網路連線能力;醫療專業人員必須擁有此等能力才可管理大量醫療影像、基因資料和病患資料。
  • 結合大多數醫療專業人員和研究人員沒有的多種高科技跨領域技能,以針對醫療保健領域建置深度學習平台與資料管理系統。
  • 設立超越大多數資料科學家專業能力的驅動程式、容器、資料備份/傳輸以及網路組態。
  • 提供可於各種規模的醫院與診所運作的可擴充性。
  • 遵循 HIPAA 與其他法規的規定。

IEI 創新的解決方案展現了開發人員如何利用現成解決方案來達成這些目標。這對醫師和病患來說都是絕佳的好消息。AI 和深度學習的能力有助於以更少的時間診斷疾病並提高準確度,人們的生活也可望藉此獲得大幅改善。不用多久,嵌入 AI 的深度學習邊緣解決方案就會普遍存在於醫療設施內。