Insight Tech

電腦視覺、即時分析和 AI 正陸續出現令人意外的用途。機器人就是一個例子。這些技術可用於打掃辦公大樓各處。機器人會繞過障礙物、搭乘電梯，還會自動返回底座充電。

智慧大樓、都市安全、零售、醫護和製造業的多方應用，為專精於這些市場的物聯網開發人員帶來許多機會。

許多人就發現 Intel^® Movidius^™ Myriad^™ VPU 能夠精簡化電腦視覺的應用。Movidius 是獨立運作的 AI 加速器，專為希望在邊緣部署深度學習和 AI 的開發人員而設計，可降低入門障礙。若再搭配 OpenVINO^™ 工具組的 Intel^® Distribution 使用，可大幅減少軟體開發工作。

Movidius 技術讓電腦視覺處理可在邊緣執行，且僅需 1 瓦特的電力。此技術經過特別設計，專門用於裝置上電腦視覺、高品質影像處理以及深度類神經網路等應用。這讓開發人員能夠在智慧型裝置中處理以視覺為中心的工作，並提供單晶片到多晶片解決方案的可擴充性（圖 1）。

OnLogic 設計工業電腦並協助開發人員建置嵌入式電腦視覺解決方案。該公司專精於使用最少量的運算資源來解決客戶特有的 OT 和 IT 需求。

OnLogic 的解決方案架構設計師 Johnny Chen 解釋公司與開發人員共事的方針。

「電腦視覺可以讓企業以新的方式收集、分析大量資料，並據以採取行動。」他表示。「假設一個體育館內安裝了 50 台攝影機，用於產生最大化行人流和改善安全性的資料。若使用圖形處理器 (GPU) 進行邊緣分析，則需要消耗大量電力。這種方式還非常昂貴。」

GPU 是為電腦遊戲所設計，而非用於 AI 和電腦視覺。Movidius VPU 在處理視覺分析時，不需要如此大量的電力。同時，其處理器也能透過其他方法節省成本。Chen 補充道：「如果體育館從 50 台攝影機上傳串流視訊到雲端進行分析，試想這會帶來多少頻寬成本。」

這大量的視訊資料亦可用於改善機器學習。配備 50 個邊緣裝置的體育場使用模型來建立行人流模式參數，判斷何時會超出上限。資料會在本機處理，並將結果傳回雲端。但相同的資料也可用來調整模型本身，建立自動化的學習循環。如此一來，系統就能隨著時間經過而變得更加聰明、更有效率。

於邊緣進行機器學習

Movidius 可簡化機器學習，OpenVINO 工具套件則讓開發人員更容易使用預先訓練的模型執行深度學習推斷。這不僅能在邊緣執行，也能在傳統的電腦視覺解決方案中執行（圖 2）。

Chen 說明工具組在應用程式可攜性方面的效率，指出程式設計師僅需撰寫一個版本的程式碼和模型：「他們可以挑選一種處理器，即 CPU、GPU 或 VPU，或使用最佳化的處理器。不論使用任何一種組合，都無需重新編寫程式碼。」

用於極端環境的電腦視覺

使用 Movidius 還有另一項優點，就是開發人員可以在狹小的空間中部署邊緣裝置，甚至是在極端溫度範圍、灰塵、振動和水中等嚴苛環境中亦同。

「工廠周圍漂浮的碎屑不適合具有冷卻通風口的電腦系統。舉例來說，使用碳纖維或金屬的工廠會製造出懸浮微粒，很容易就會進入風扇散熱系統，造成主機板短路。」Chen 說道。「這就是為什麼我們設計小巧、無風扇且耐用的運算裝置，僅需被動冷卻即可，不用在機殼留通風口。」

Chen 表示客戶設計經常要求過高規格。「我們通常可透過更有效率的元件組合來協助客戶達成所需功能。」他表示。「我們也協助降低耗電量，這是部署大量裝置時的一大成本。同時也是使用嵌入式系統的另一個優勢。」

閱讀「促進強固型物聯網運算之成本效益」，進一步瞭解如何為極端環境開發高效能的小巧設計。

智慧都市與電腦視覺

邊緣電腦視覺可以讓都市更宜居。例如快速且具成本效益的道路坑洞偵測。「垃圾車走的路線都是固定的。」Chen 表示。「為何不在車上安裝攝影機，然後開發一套可辨識坑洞的模型？」

電腦視覺甚至可以改善尚未施工的都市和基礎設施。舉例來說，分析現有地鐵站收集到的行人流資料，就設計出入口、閘門、隧道、天橋和其他結構體均經過最佳化的新車站。

「地鐵站就像是一個購物中心。」Chen 說道。「但如果把一個資訊站放錯地方，例如乘客購買早餐的地方好了，排隊的人龍就可能會阻礙他人使用自動售票機。」設計一套模型來比較規劃優良與規劃不良的地鐵站之後，就能更容易設計有效率的車站。

實際業界合作

OnLogic 與 Intel 密切合作，以強大的技術帶來現實應用案例。「我們每天都會跟客戶討論他們所面臨的挑戰，而這些意見我們都會與 Intel 分享。」Chan 說道。「我們是 Intel 和客戶之間的橋樑，在各式各樣的案例中，協助在邊緣部署嵌入式電腦視覺解決方案。」

在物聯網部署方面，每一位客戶都需要客製化的解決方案。Chen 總結道：「我們與業界的一大成功關鍵，就在於我們不做泛用型電腦。我們打造特化裝置，以便有效且可靠地完成特定的工作。」

任何工程師若曾設計能推、拉、轉動或旋轉的機電系統，就必然熟悉馬達控制。其應用非常廣泛，即使是簡單的微控制器 (MCU) 也能提供充足的時脈速度和訊號處理性能，以各種速度和負載來驅動複雜的馬達。

但是這些實用的 MCU 的效能極限究竟有多高？如果用高解析度正交編碼器來測量馬達速度或方向，效能足夠嗎？如果需要一次驅動多個馬達呢？

隆重向您介紹六足機器人 Hexy（圖 1）。Hexy 是 ArcBotics 的低成本 Arduino 型機器人套件。此機器人的六支腳各有三個伺服馬達，加上頭上一個，總共 19 個伺服馬達。

由於 Hexy 是專為 Arduino 社群所設計，因此能相容多款 8 至 32 位元的 MCU。這些 MCU 在依序驅動 Hexy 足部馬達等簡單工作中展現優異效能。然而使用正交編碼器的系統均會導入中斷服務常式，屆時這些 MCU 的效能就顯然不足。

在這些較複雜的使用案例中，採用的解決方案之一是 FPGA 加速器。

省去撰寫程式的麻煩

FPGA 的主要優點即是可重新編程，滿足個別應用的確切需求。FPGA 結構可進行最佳化，以提供馬達驅動 PWM 訊號實際所需的確定性、控制與抖動。同時，亦可設定更多 FPGA 邏輯區塊來支援額外馬達，提供其他嵌入式處理器架構所無法實現的平行處理效能。

事實上，FPGA 正是因為能夠確切依照系統需求加以設定，所以在馬達控制應用上，更勝於強大的高端馬達控制 MCU、DSP 與 ASIC。

影片 1 為 Hexy 機器人使用 8 位元和 32 位元 MCU 來示範馬達控制。如您所見，開始導入 50 微秒中斷時，機器人手臂動作就不再順暢；因為此時 MCU 負擔太多並行工作，無法補償可以驅動伺服馬達的 PWM 訊號抖動。

影片 1. 馬達控制示範，Hexy 機器人上的 8 位元和 32 位元 MCU 難以順利執行並行工作。（資料來源：Alorium Technology）

這段影片接著示範 FPGA 在複雜、中斷式多馬達驅動使用案例中，能夠有效進行精準的平行處理。單一 FPGA 即可驅動多個馬達，同時讀取及處理正交資料，無需使用多個處理器或控制板。如此可降低設計成本、耗電量和系統大小。

但是 FPGA 程式設計向來令工程師卻步。這是因為 VHDL 和 Verilog 這兩種描述 FPGA 結構的硬體描述語言 (HDL) 均屬於電子設計自動化 (EDA) 的設計典範。

這些語言的運作方式與一般軟體不同。若要將 HDL 程式碼轉換為可定義邏輯閘道、產生位元流等功能的設計實作，就會需要複雜的邏輯合成工具。

對大多數工程團隊來說，是否使用 FPGA 的決定是個兩難的抉擇；雖可獲得平行處理與效能提升的效益，但同時卻必須面對複雜的程式設計。一家為無人航空載具 (UAV) 設計自訂 BLDC 馬達控制應用程式的公司，就發現自己面臨此一抉擇。

該公司為兼顧兩全，決定與開發 FPGA 加速嵌入式解決方案的 Alorium Technology 成為合作夥伴。

增強型自訂 BLDC 馬達控制

該家 UAV 公司開始根據 MCU 架構來設計 BLDC 系統，並使用 Arduino IDE 來編寫和測試馬達控制軟體。此一應用需要能在各種高速下運轉馬達的處理元件，並且還要能夠讀取感測器資料。由於系統變得過於複雜而無法在 MCU 上執行，最後決定移轉至自訂硬體。

然而此決定卻有一大問題，該公司的程式碼都在 Arduino 環境下設計，且均為 Arduino 環境所設計。這代表馬達控制系統無論採用何種運算架構，都必須能以高效率執行 Arduino 的簡化 C++ 程式碼。

該公司最終採用 Alorium Technology 的 XLR8 開發板（圖 2）。XLR8 是 Arduino 可程式化且採用 FPGA 架構的原型設計平台，內建 8 位元 AVR MCU。這張主機板是外型規格與針腳均相容的 Arduino Uno 替代品。該 UAV 工程公司成功將此主機板納入其設計，也能立即執行原有的程式碼。

XLR8 FPGA 結構採用 Intel^® MAX^® 10 FPGA，具有 8,000 個邏輯元件 (LE) 及 500 個邏輯陣列區塊 (LAB)。其最大操作頻率為 450 MHz，即使是最複雜的馬達控制應用也能提供充足馬力。

MAX 10 亦能夠原生整合快閃記憶體、ADC、數位和類比 I/O 及其他元件，使其成為符合成本效益且能部屬於工業應用的解決方案（圖 3）。

但是讓 XLR8 開發板廣受 UAV BLDC 自訂設計歡迎的理由，在於其具有特定功能的 Xcelerator Block (XB)。將 XB 整合至 MAX 10 FPGA 結構，以便將特定功能的效能最佳化，例如伺服控制、正交編碼、類比至數位轉換、浮點運算等等。

XB 透過可定址的暫存器介面與 AVR MCU 通訊（圖 4）。也因為 Arduino IDE 可安裝 Alorium 提供的 XB 程式庫，讓使用者可透過標準 API 呼叫來存取功能。這一切均不需要修改程式碼。系統甚至可透過 Arduino IDE 更新 FPGA 影像。

為支援 BLDC 應用的獨特控制演算法，硬體需使用自訂規格。Alorium 客戶可使用名為 OpenXLR8 的開發方法來建立自己的特化 XB。這雖然需要 VHDL 或 Verilog 程式設計，但有為使用者提供範本化的環境。它甚至能產生相容於 Arduino 的 .RPD 檔案。

在本例的 UAV 專案中，Alorium 即協助開發多個自訂硬體區塊。其中包括：

• 可解讀無線電控制裝置的傳入訊號之 RC 輸入 XB
• 實施可設定 PWM 和三相正弦波 PWM 的 PWM XB
• 可在訊號傳送至馬達控制 XB 之前先進行靜態調整的霍爾效應感測器 XB
• 可根據馬達速度動態調整系統的能力
• 專屬區塊

因為新增的 BLDC 功能需要更多 FPGA 結構，所以該 UAV 設計最後改用 Alorium 的高效能 Snō FPGA 模組。Snō 屬於生產級規格，支援 8 位元 MCU 和 Arduino 相容性。同時還能將 FPGA 升級至具有 16k LE 的 MAX^® 10。

就在該 UAV 系統接近生產階段之時，還發現其需要抵擋高電壓切換所造成的訊號雜訊。為解決此問題，Alorium 為 Snō 模組開發了名為 AT10 的雜訊免疫載板（圖 5）。

製造廠到專家均適用

這個 UAV BLDC 案例研究是個優秀的例子，呈現開放原始碼的教育硬體如何獲得專業工程社群的認同。

除了此應用之外，Alorium 也有許多來自測試、測量和科學儀器等產業的客戶，其資料擷取與訊號處理系統需要極高的保真度。若要在擴張規模的同時滿足多種特定的使用需求，則硬體平台必須具備彈性。由於這些系統的主要使用者是科學家與領域專家，因此新手必須能夠迅速精通平台軟體技術。

透過高效能、低成本、相容於 Arduino 的 FPGA 解決方案，業界已將可程式化邏輯技術大眾化。在部分情況下，這些解決方案的可得性將促成快速創新。至於其他場合，則能提供更有效率、更經濟實惠的可擴充方法，用於解決既有的挑戰。

若要下載 XLR8 影像、XB 和應用說明，請造訪 Alorium Technology 的 Github。

ITU 將「觸覺網際網路」定義為一個以極低延遲提供高可用性、可靠性和安全性的網路。現代的網路工程師認為 5G 通訊可實現這些特性。但多年來，營運技術人員其實早已利用各種工業乙太網路來部署觸覺網際網路。

跟以往不同的是，連線的工業裝置現在必須與企業應用程式直接互動。想要更深入瞭解廠區運作狀況的企業，甚至開始將一部分應用程式直接部署於工業裝置本身。

無論此類軟體僅包含分析引擎還是完整的 AI 演算法，若未經正確設計，則可能迅速危害即時性設備的完整性。

現今的工業工程師需要一份藍圖來將 IT 和 OT 技術整合於單一機器。這些系統必須整合 IT 網路連線與處理的能力，同時仍保有確定性、安全性和可靠性。

所幸，可作為此類系統架構框架的概念性驗證 (PoC) 系統設計已逐漸能公開取得。同時這些設計也以工作負載整合與乙太網路時效性網路（乙太網路 TSN）的原則為基礎。

工業乙太網路升級

工業工程師傳統上會使用 EtherCAT、PROFINET 和 POWERLINK 等通訊協定來建立 IP 網路的確定版本。這些以乙太網路為基礎的技術將 IP 封包傳送到網路控制層的裝置，例如可程式化邏輯控制器 (PLC)。超出此範圍就必須採用傳統的現場匯流排通訊協定。

現在，TSN 可將乙太網路封包延伸至子系統，如 I/O 模組、感應器以及亞毫秒級延遲的致動器（圖 1）。

乙太網路 TSN 與工作負載整合

乙太網路 TSN 是以 IEEE 1588 精確時間協定 (PTP) 標準為基礎，其時間戳記封包是以網路端點的裝置時鐘為準。一個集中式主源將做為參照點，以保持網路同步。

PTP 網路能夠達到亞毫秒級的延遲。但是同樣重要的是，PTP 封包可以用 IP 封裝。因此，營運裝置基本上可以成為企業網路的一部分。如需 TSN 的詳細資訊，請參閱「時效性網路：炒作 vs. 現實」。

在此同時，工業裝置也開始需要整合即時邊緣分析等企業功能。

傳統上用於執行固定功能的工業邊緣系統現在改用多核心處理器為主的設計，稱作為「工作負載整合」。虛擬化技術讓個別核心執行資料分析等程序，保留其他核心以用於資料擷取或控制工作。

當企業組織可輕易取得更強大、更有彈性的系統，就能降低成本，減少故障點，甚至使用企業軟體升級來延長部署生命週期。（若要進一步瞭解，請參閱「嵌入式虛擬化帶動混合關鍵性的物聯網系統」）。

工作負載整合與 TSN 的結合，可解放多層式即時資料分析架構的真正潛力。當網路各層均有了確定性、低延遲的企業通訊和多功能運算平台，工廠營運人員就能部署 AI 來監督各個網域和子網域（圖 2）。

各階層的 AI 和分析引擎會根據所需的回應時間和可用的運算資源來進行決策。但是端對端資訊和決策階層結構是透過單一整合式的時效性通訊協定來連線。此類架構促成技術重複使用、網路設備與服務互通性以及通用的資料交換格式。

實現階層式工業資料分析架構

您可以從 congatec 與 Real-Time Systems 的即時工業控制伺服器 PoC 中找到這個架構的縮影（圖 3）。PoC 的概念是建立在：

• 採用六核心 Intel^® Xeon^® 處理器的 35W conga-TS370 Type 6 COM Express 模組
• 一張以 Intel^® Arria^® 10 為基礎的 PCIe FPGA 卡
• Basler 機器視覺攝影機
• RTS Hypervisor 系統

為示範工作負載整合，RTS Hypervisor 將 Xeon 處理器核心分割給多個虛擬機器。

第一個虛擬機器佔用三個核心，並且執行 Linux 作業系統。作業系統支援 300 fps Basler 工業攝影機和 Arria 10 FPGA 卡。FPGA 卡上執行使用 Intel^® OpenVINO^™ 工具組開發的 AI 演算法，以進行裝置上的物件偵測和辨識。

另外兩個虛擬機器則代管即時 Linux 作業系統。這些控制伺服馬達可保持倒單擺直立。最後一個虛擬機器則執行第三種作業系統，處理企業安全性與傳回雲端的通訊。

這些應用程式全數均在相同的硬體平台上同時執行。但是透過 Hypervisor，即可將非即時 VM 重新開機而不中斷即時的分割區。這表示可在控制工作持續執行的同時進行軟體更新。而安全弱點也可隔離在企業虛擬機器中，不會影響嵌入式系統。

如需系統的現場示範，請參閱（影片 1）。

影片 1.於 Embedded World 2019 展出的概念性驗證

conga-TS370 的另一項重要特色即是內建了 Intel^® i219-LM GbE 區域網路控制器。此獨立網路晶片原生支援 IEEE 1588 PTP。

在 congatec/Real-Time Systems PoC 等平台中，i219 會決定 PTP 封包的來源和目的地，並使用整合式計時器進行同步處理。控制器會配合作業系統，在 TSN 流量專屬的傳輸期間排程封包。

Linux 核心版本 4.20 可支援時間感知優先排程器 (Time-Aware Priority Scheduler，TAPRIO) 及最早傳輸時間優先 (Earliest Transmit Time First，ETF)。這些模組讓開發人員得以將系統設定為乙太網路 TSN 封包獲得優先處理，不論封包在傳輸佇列中的位置。

RTS Hypervisor 也提供特殊權限模式，允許客體作業系統在短短幾毫秒內存取系統網路資源。來自客體虛擬機器的 TSN 封包因此可獲得相同的低延遲優先排程。

工業物聯網分析接受各項標準

PoC 最令人矚目的特色，在於其所有核心功能均以開放原始碼技術和業界標準為基礎。Linux 和 OpenVINO 是開放原始碼軟體技術。IEEE 1588 PTP 和乙太網路 TSN 傘下的標準均屬業界主導的成果，能降低成本、維持高互通性並保障使用壽命。

COM Express 是目前最熱門的嵌入式硬體規格之一，支援伺服器模組、閘道控制器及感應器處理使用案例。它為新的階層式工業資料分析架構提供穩定、經濟實惠的長期部署平台。

您會如何運用更高智慧的處理功能？