透過即時分析將床頭誤警減少多達 99%

即使在最好的情況下,醫院床頭警報的感官超載也會對醫護人員造成不必要的壓力和疲勞。警報的氾濫(大多數沒有價值)意味著醫護人員回應的可能性較小。結果使得患者護理受到影響。

持續的臨床監視可以消除噪音。這些系統透過收集和分析來自多個感應器的資料,提供了更全面的患者健康概覽;僅在真正需要時才發出警報。無論患者在機構中何處接受護理,這都可以擴大 ICU 人員的服務範圍,進而為患者提供更好的協助。

這裡我們說的是多少次警報?在約翰霍普金斯醫院於 2006 年進行的一項為期 12 天的研究中,總共記錄了 58,764 次警報狀況,或每位患者每天 350 次警報狀況。

這些數字說明了警報疲乏的高發生率,在這種情況下,醫生和護士對所有警告和警報都會變得習以為常,不再認真看待這些警報,即使患者可能正在經歷危及生命的狀況。問題是如此緊迫,以至於 ECRI 研究所將警報疲乏標記為醫療危害的第一位。

雖然警報疲乏並不是什麼新鮮事,但情況只會愈來愈嚴重。有什麼變化?科技正在推動使用監控裝置,平均每張床位使用 10 到 15 個。醫護人員的短缺,加上複雜的法規,加劇了護士、醫生及其患者的壓力。

患者監控裝置旨在提升醫療成果。僅在即時整合、分析其資料並採取行動時,才會有所成果。但是,如果系統管理不當,持續監控則會造成混亂。

持續監視超越了患者監控

就本質上而言,這些單獨的醫療器材可擷取並處理來自重病患者和自大手術中康復患者的大量醫學資料。但若單獨考慮,這些資料可能不堪重負,難以採取行動。為了提升醫療成果,臨床醫生和護理人員必須及時收到與患者狀況有關的警報,同時避免誤警,以便他們迅速履行職責。

連續監視解決方案將這些不同裝置產生的資料整合在一起,以協助臨床醫生辨識患者的生理趨勢。透過將邊緣的演算法和預測模型與生命徵象資料搭配,可以檢測出模式變化。這些功能包括:

  • 自動了解多種資料類型,例如心率、呼吸頻率、血壓、皮膚溫度等。
  • 分析隨著時間變化之臨床資料模式的能力。
  • 在危及生命的情況發生之前,應用基於規則的資料分析以發出意外變化的訊號。
  • 與任何裝置聯網的靈活性,並適應各種臨床試驗。

Capsule 設計了一套可以進行連續監測的系統。Capsule Medical 器材資訊平台 (Capsule Medical Device Information Platform) 會蒐集醫療​​器材資料,並對所蒐集的資訊進行分析,如 1

圖 1. Capsule 解決方案與各種裝置整合在一起,可在邊緣處理資料。

邊緣的即時分析

該解決方案的中介軟體可檢測氧合程度、心率、脈搏率、二氧化碳濃度和其他指標的模式變化。然後,它將以毫秒為單位的資料應用於基於規則的現象演算法。

Capsule 的低延遲技術有助於向臨床醫生提供預警,因此一旦發現病情惡化,他們就可以介入並使患者趨於穩定。

Capsule 執行長 Janet Dillione 表示:「與基礎警報管理系統的不同之處在於,我們使用的是來自一部或多部裝置的即時患者生理參數。如果該裝置每秒發聲一次,那麼我們每秒都會收到一次。如果它每分鐘都發聲,則我們每分鐘都會看到。」

許多機構的首要任務便是顧及管理呼吸器警報的困難。Capsule Ventilated Patient Surveillance 應用程式解決了這項關鍵挑戰。該系統可實現遠端資料存取,進而而使裝有呼吸器患者的護理更加安全、高效。透過集中檢視,臨床醫生可以更好地管理裝有呼吸器的患者和相關的警報狀況,同時還減少了不必要的警報。

協助患者康復

再舉一個例子,我們通常會開立鴉片類藥物來因應重大手術患者的疼痛,使他們面臨鴉片類藥物引起呼吸抑制(OIRD)的風險,在這種情況下,患者只會停止呼吸。

Dillione 表示:「每年有超過 20,000 名患者經歷 OIRD。鴉片類藥物雖然是減輕慢性疼痛的有效方法,但卻是造成醫院裡所有與藥物相關死亡的半數原因。」

此外,OIRD 的龐大經濟影響每年導致美國醫療保健成本近 20 億美元。

一份近期的臨床研究顯示,Capsule Medical 器材資訊平台讓 OIRD 的誤警量降低了 99%。且在病人即將發病時,系統會發出警報,頻率達 100%。

Dillione 表示:「針對這樣的客戶,在 Capsule 平台投入生產後的前 30 天,他們便將 23,000 次警報減少到 200 次。我們不僅將噪音降低了 99%,而且還找到了面臨巨大風險的患者。」

這些非凡的結果表明,物聯網技術將對提升成果產生巨大影響。當醫護人員獲得所需的資訊時,患者更可能從重大手術中康復。

靈活性與安全性

Capsule Medical 器材資訊平台是一個靈活又可擴充的解決方案,配置簡單,且不需要自訂設定或重新編寫代碼。該平台採用 Intel® 技術,包括 Intel® Core 和 Intel® Xeon® 處理器,且該平台獲 FDA 第二級 (Class II) 認證,核准用於病人監測及輔助警報管理。

此外,該系統還遵循美國國家標準暨技術研究院(NIST)的網路安全框架,使醫院能夠:

  • 透過提供確保電子保護健康資訊(ePHI)完整性的安全保護措施,符合 HIPAA 的要求。
  • 評估並緩解與惡意軟體、勒索軟體和患者資料其他威脅有關的網路安全風險。
  • 識別並驗證對平台和醫療器材安全性記錄檔和設定的修改。

Dillione 表示:「我們非常重視安全性。我們有能力對任何器材在任何參數上所做的任何修改進行稽核。」

誤警會對患者和醫院工作人員帶來壓力,這顯然是一項重大問題。它們會干擾臨床醫生為患者提供適當護理的能力,通常會帶來嚴重的後果。

總而言之,Capsule Medical 器材資訊平台成功減少了誤報量(最高達 99%)、提升了病人安全,並為醫療人員提供了更安全的工作環境,讓他們的工作更為輕鬆。

案例研究︰物聯網協助心臟病患追蹤生命徵象

根據一份 Cleveland Clinic 的報告顯示,每年有高達 900,000 名美國醫療保險病患遭診斷為心臟衰竭,這也是病患住院的主因。再住院的花費不僅會影響到病患與其家人,更對美國經濟造成估計 200 億美元的損失。

這樣的統計資料促使醫療專業人士與技術人員尋找能改善病患後期照護的新方法。

減少再住院率、遵守嚴格的政府法規,並改善醫療成果,這些依然是供應商的首要挑戰。為了對高齡族群提供有效、實惠,並及時的醫療保健,務必要克服這些挑戰。

心臟衰竭的病患需要透過一系列生命徵象來持續監控健康狀態,但對病患來說,這並不容易做到。這同時也是再入院率高漲的重要原因。醫療保健技術產業正在尋找新方法開發行動健康解決方案,讓病患能更簡易地監控自身狀況。

Aventyn 就是其中一間公司,他們的整合式慢性疾病管理解決方案 Vitalbeat 可提供這樣的功能。

病房外的健康監控

Vitalbeat 提供簡單、安全,且符合成本效益的遠端病患監控能力,可在邊緣和雲端中進行運算。透過將智慧型手機、平板電腦,以及應用程式等消費性技術與他們的產品結合,Aventyn 能讓病患、病患的家人,還有醫護人員更便利地進行自我監控。(圖 1

圖 1. Vitalbeat 解決方案可遠端連接病患與醫師資料庫。(資料來源:Intel®

此解決方案運作於 Intel® Health Application Platform (Intel® IHAP) 之上,讓解決方案供應商能安全可靠地從邊緣到雲端提供分散式醫療保健服務。

臨床試驗證明其可行性

在美國心臟協會 (American Heart Association) 所舉辦的研討會上,發表了一份針對心臟衰竭病患的遠端自我監控所進行的研究成果。其中證明了像 Vitalbeat 這樣的解決方案擁有能改善病患照護與生活品質的潛力。

在這份經過科學研究與倫理審查委員會 (Institutional Review Board, IRB) 認證的研究中,研究者讓美國、印度及瑞典的鬱血性心臟衰竭病患配備血壓計、數位體重機,以及使用 Vitalbeat 軟體自訂的行動電話。他們要求病患在三個月中每日記錄並傳送體重、血壓、脈搏、症狀,並嚴格遵守藥物治療。

為了確定解決方案的可行性,在為期 90 天的研究中,由病患成功傳輸的資料與醫護人員所讀取的資料總和必須至少達到總時間的 66% 以上。事實上,有 74% 的病患超過了可行性目標,更有 91% 認為這樣的監控系統易於使用。

這些正向成果證明了物聯網能改善後期照護的合規率,繼而減少再住院率,並提供更健康的醫療成果。

Vitalbeat 透過監控健康指標、生命徵象、藥物、飲食、症狀,身體活動量等項目,協助實現這個目標。病患與他們的醫師也會收到根據目標與醫療指示所傳送的警示與通知。因此,可為病患的治療成果提供下列改善︰

  • 簡化慢性病照護管理與病患參與度
  • 降低醫院再住院率及急診次數
  • 減少長期慢性病的照護成本

另考慮到醫療機構必須遵守政府法規的需求,Vitalbeat 解決方案的設計可安全存取病患的電子病例 (EHR),並整合醫療文件與程序。

簡化醫療保健解決方案的開發過程

Intel IHAP 提供可擴展性與調變能力,可簡化並加速開發人員設計與建立新醫療保健解決方案的過程。這讓 Aventyn 能快速將產品提供至醫生與病患手中,以改善照護管理成果。

結合 Flex IoT Compute Engine 後,IHAP 提供經過微調的硬體規格,可在不犧牲預測性的情況下,讓自訂化更加容易。這代表醫療保健解決方案供應商可將重點放在進行創新。

由於此平台可支援數百種採用第三方周邊驅動程式的醫療裝置,開發人員亦可從中受惠,減少研發方面所花費的時間與心血。他們可以將自有的或其他的 Android 應用程式架設在此平台上,利用此平台加速開發行動醫療保健解決方案,並可享有無線裝置安全的 3G 連線功能。

IHAP 支援超過 200 種通訊協定,亦可用於設計物聯網醫療保健應用程式與裝置。舉例來說,開發人員可以打造能協助監控病患心律、呼吸能力、血糖,以及其他術後指標的解決方案。

IHAP 內建安全功能。為迎合大眾對隱私權的重視,此平台的設計可在將資料傳送至後端位置後,立刻加密並儲存資料。如此一來,通過系統的病患與醫療資料的仍然屬於使用者的財產,Intel® 並不具有這些資料的所有權。

此平台有助於在邊緣保護資料,並透過 Intel® SoC 硬體信任機制增加恢復力。此外,虛擬機器會使用嵌入式多媒體控制器的安全儲存空間。此平台透過 Continua Bluetooth Low Energy 和 Continua Bluetooth Classic 來傳輸感應器資料。傳送至雲端的資料則是透過 Continua Design Guidelines HL7 FHIR 進行傳輸。互相搭配下,這些功能便有助於保護資料的安全。

對醫療物聯網裝置來說,系統更新不僅為眾人帶來不便。更可能危害病患的健康。幸運的是,此平台可消弭在連接周邊設備時直接進行系統更新的狀況。

最後,全球合作夥伴價值鏈體系可為此平台提供硬體、軟體,以及通訊服務,皆可簡易地整合至解決方案供應商現有的後端內,讓設計與製造新產品更加簡單,同時可降低成本。

運用可改善醫療成果的技術

開發人員與解決方案供應商可運用 IHAP 改善醫療保健技術,改變病患與其家人的生活。使用此平台建立全新的物聯網醫療保健裝置,可降低研發成本並增加商機。這也能使產品符合 HIPAA 與其他法規,同時提供企業級的穩定性、安全性和壽命。

健全的醫療裝置與穿戴式產品(如 Aventyn 的 Vitalbeat 解決方案)可改善病患的後期照護合規性、減少再住院率,並降低醫療保健的總成本。

AI 革命推動醫療成像技術向前邁進

醫師與技師正在尋求運用 AI 和深度學習的新方式,以利減輕醫生的工作負擔並協助診斷疾病。但是在資料中心外部署 AI 模型的障礙一直以來難以克服。

在醫療成像等應用中,儲存需求向來特別是問題所在,因為這類應用中的 AI 模型必須全力應付大量資料。例如以光學同調斷層掃描術 (OCT) 等技術記錄的眼部橫切平面與橫斷面 3D 影像,其解析度的細膩程度可能達 2 至 5 微米,因此影像會十分龐大。

雖然資料中心能夠處理此等工作負載,但由於網路頻寬限制與病患隱私考量等層面使然,將影像放入資料中心內也是一大難題。因此,開發人員正在尋找將深度學習部署至資料收集階段的方法。

此時面臨的挑戰在於運算需求。為了處理與成像相關的工作負載,開發人員已改為混合採用異質的 CPU、GPU、FPGA 與其他處理器。然而這種複雜的架構可能難以設定與編寫程式。

開發人員可採取的另一項替代方式則是運用現成技術。專門針對邊緣應用所設計的新一代 AI 硬體與軟體,可望大幅簡化開發作業。開發人員應考量利用這些 API 與架構,讓深度學習能達到最高的可攜性、彈性與擴充性。

從概念到臨床

IEI 的情況為例,其深度學習解決方案是以 Intel® FPGA Deep Learning Acceleration Suite 和 OpenVINO™ 工具組等現成技術為建置基礎。

圖 1 所示的 IEI 解決方案屬於快速部署電腦視覺系統的一部分,該系統包含工作站、深度學習軟體開發套件,以及來自該公司 QNAP 儲存部門的強大網路連接儲存裝置 (NAS)。

圖 1. IEI 解決方案結合大量的高度平行運算能力、儲存與網路能力,並且具備最佳化的效能,可在單一完整系統中更快速地進行資料分析。(資料來源:IEI)

我們與 IEI 產品管理主任 Don Yu 進行了討論,以瞭解嵌入 AI 的深度學習邊緣解決方案如何提升疾病診斷的準確度,以及相關技術的運作方式。

Yu 解釋:「我們選擇 OCT 影像作為主要使用案例,這是非侵入式的成像試驗,可用於診斷多種眼疾,包括青光眼、老年性黃斑部病變 (AMD) 與糖尿病眼疾等。」

根據 Yu 的說明,專家必須經過大量訓練才能解讀 OCT 影像。檢閱病患的試驗影像也極為耗時。「這類應用是 AI 與深度學習的理想選擇。」Yu 表示,「我們開發了可處理訓練與推論作業的邊緣系統,大規模地削減了診斷疾病所需的時間。」(請參閱 圖 2。)

圖 2. IEI 解決方案可加速診斷老年性黃斑部病變。(資料來源:IEI)

先進的技術實現早期診斷

迅速診斷出 AMD 可讓病患實際受惠。就像其他許多疾病一樣,AMD 在早期階段並不會出現明顯的症狀,因此常常未曾察覺,直到病患的視力衰退時才會發現。屆時病情已進入中期或末期階段,針對此病變進行手術的可能性隨之降低,治療的效果也較差。

但是若能早期發現此病變,就可開始治療。開始治療的時間愈早,病患保有視力的可能性也會愈高。許多其他疾病也存在同樣情況,若能早期診斷就能大幅改善最終結果。

在已開發世界中,AMD 是喪失中心視覺的主要原因,在 65 歲以上的人士中有 10% 的人受此疾病侵襲,而 75 歲以上的人士中則有超過 25% 的人受到影響。美國有大約 200 萬人罹患末期 AMD,並且有超過 800 萬人患有中度 AMD。根據預測,前述數據在 2020 年時會增加 50%,因此早期診斷至關重要。

解讀醫療影像的傳統方式雖然準確度高,但卻需要極長的時間才可完成。這類方式必須讓超過一位的專家進行多次檢視並討論。若領域內缺乏這類專家,就需要將醫療影像寄往他處以供進行診斷。此時通常需要等待數週才能完成診斷,並開始治療。

利用嵌入 AI 的深度學習邊緣解決方案,位於中央的醫師即能以較少時間做出準確的診斷。如此一來,病患即能提早展開治療,通常可改善最終結果。

拼湊拼圖

在討論中,Yu 表示深度學習的成功需要仰賴三項因素:資料、運算能力與演算法。針對第一項因素,他表示:「QNAP 的 NAS 是儲存醫療資料的理想選擇。我們也推出了 QPACS 應用程式作為醫療數位影像傳輸協定 (DICOM) 伺服器應用程式使用。」

不過還不止於此。此解決方案的 NAS 支援 AI 擴充卡,可提供更多所需的運算能力,進而以更高效率執行作業。例如 Mustang-F100-A10 加速卡運用 Intel FPGA Deep Learning Acceleration Suite,以滿足極端嚴苛的運算需求(圖 3)。此公司也提供以 Intel® Core™ 處理器和 Intel® Movidius™ 處理器為基礎的 AI 卡,讓開發人員能享有更為靈活的選擇。

圖 3.  IEI 提供各種不同的 AI 加速器卡。

在演算法方面,系統支援架構與 Caffe、MXNet、TensorFlow 和 CNTK 等程式庫。現有的容器化解決方案可輕鬆移轉至平台上,同時也可迅速開始使用新的解決方案。其中也包含容器工作站,支援 Docker 和其他容器技術。使用者可透過容器選擇多種 AI 架構與程式庫,讓開發作業更輕鬆。

「IEI 也提供裸機 AI 解決方案,讓使用者搭配 QuAI 程式庫運用,進而滿足廣泛的 AI 模型訓練需求。」Yu 解釋。

AI、深度學習與更好的結果

若要為醫師與病患帶來價值,嵌入 AI 的深度學習邊緣解決方案必須:

  • 提供大規模的運算能力、儲存與網路連線能力;醫療專業人員必須擁有此等能力才可管理大量醫療影像、基因資料和病患資料。
  • 結合大多數醫療專業人員和研究人員沒有的多種高科技跨領域技能,以針對醫療保健領域建置深度學習平台與資料管理系統。
  • 設立超越大多數資料科學家專業能力的驅動程式、容器、資料備份/傳輸以及網路組態。
  • 提供可於各種規模的醫院與診所運作的可擴充性。
  • 遵循 HIPAA 與其他法規的規定。

IEI 創新的解決方案展現了開發人員如何利用現成解決方案來達成這些目標。這對醫師和病患來說都是絕佳的好消息。AI 和深度學習的能力有助於以更少的時間診斷疾病並提高準確度,人們的生活也可望藉此獲得大幅改善。不用多久,嵌入 AI 的深度學習邊緣解決方案就會普遍存在於醫療設施內。

繪圖效能與記憶體為醫療造影提供更深入的資訊

醫療造影設計師渴望擁有足夠的效能來為醫療保健專業人員提供資訊最豐富的成像。驅動先進醫療造影系統的處理器必須具有夠強大的威力,才能從原始的影像感測器資料即時產生詳細的影像。但這些處理器不能超出敏感醫療設備的散熱設計功率 (TDP) 臨界值。為了協助改善這種情況,像 MRI 與 CT 掃描器等具有大量造影工作負載的系統仰賴 GPU 陣列以運用平行處理的效率。採用多 GPU 架構也開啟了應用人工智慧 (AI) 與電腦視覺 (CV) 等技術的機會,讓醫學影像能提供更深入的資訊。這些功能可用於偵測影像中的異常、交叉參考影像記錄,並讓醫師掌握更多關於可能的診斷或潛在預後狀況的資訊。儘管如此,架設於推車上的全功能獨立造影系統通常都有著 35 W 到 50 W 的 TDP 限制範圍。當然,盡可能縮小系統尺寸也是設計的目標之一。這些因素都使得在造影系統中裝入最高繪圖效能成為了一種挑戰。為了有效因應這些需求,醫療系統設計師需要採用更快速的記憶體來支援更進階的處理能力。這樣的記憶體還必須使用模組化規格才能符合 TDP 限制的考量。「為了有效率地處理這些日益增加的工作負載,現今的造影應用程式仰賴多核心 CPU 的平行運算功能,以及稱為 GPGPU 的繪圖處理器的運算單元」,congatec AG 美國技術服務中心總監 Franz Fische 這麼說。Fischer 也指出,因為 Intel® UHD Graphics 630 具有大量的平行運算單元,也可以作為 GPGPU 使用,在功能上可取代專用而複雜的 FPGA 和以 ASIC 為基礎的設計。「在固定式 MRI 掃描器與 CT 等大型應用上,最重要的就是運算能力」,Fischer 表示。「這些系統需要大量的運算能力,加上由多個 GPGPU 組成的陣列。不過,搭載最新第 8 代 Intel® Core™ 處理器的強大嵌入式運算核心也可以用於協調這些 GPGPU。」

逼真的圖形與多執行緒技術,為醫療造影提升清晰度

第 8 代 Intel Core 處理器結合了一系列的效能強化,包括稍早所討論的 UHD Graphics 630,能讓醫療專業人士更快獲得深入資訊。Intel® UHD Graphics 630 是 Coffee Lake 微架構處理器內建的繪圖處理器,提供 24 個執行單元,並可透過 DirectX 與 OpenGL 等標準進行 2D 與 3D 圖形轉譯。UHD Graphics 630 也支援 Intel® Quick Sync Video 和 Intel® Clear Video HD 等技術,可加速硬體中的視訊編解碼器,以提供 4K UHD 串流與 360 度觀賞功能。這些功能原本是為高效能遊戲所設計,現在不僅能讓醫療造影專業人士即時檢查器官,更可從多個視角進行。第 8 代 Intel Core 處理器的另一個重要升級特色,就是將每個處理器的最大核心數量從四個增加到六個。透過運用 Intel® 超執行緒技術,每個核心都支援多執行緒應用,能有效地在 CPU 層級加倍平行處理的流量。這個功能對連接至物聯網的醫療造影系統來說格外重要,能改善系統的效能,並將虛擬化應用程式整合至單一硬體平台上。「舉例來說,如果您使用可執行多執行緒的六核心處理器,您可以在四個核心上定義一個八執行緒的運算執行個體,並在以 RTS Hypervisor 為基礎的虛擬化即時環境中使用剩下的兩個核心,為時效性網路 (TSN) 工業 4.0 機器、HMI 閘道、防火牆,以及病毒掃描程式等應用提供四個平行執行緒」,Fischer 如此表示。

更多記憶體帶來更快效能

為了支援這些效能升級,第 8 代 Intel Core 處理器也涵蓋兩種記憶體更新。第一種是 Intel® 智慧型快取記憶體,這能在所有 Core™ 處理器 CPU 核心與內建的 UHD Graphics 630 GPU 之間建立共用的 Level 2 或 Level 3 快取空間,因此能以最快的速度存取資料(圖 1)

圖 1. Intel® 智慧型快取記憶體技術可為所有第 8 代 Intel® Core™ 處理器的核心提供一個聯合的第 2 層或第 3 層快取記憶體,加速資料在運算單元與記憶體單元間的交換速度。(資料來源:emaze

「像 Intel 智慧型快取記憶體這樣在 CPU 與 GPU 上皆可運作的強大快取記憶體系統,對最佳化資料流極為重要」,Fischer 說道。「這有助於加速從記憶體到 CPU 和 GPU 的資料交換速度,而且,如果 CPU 和 GPGPU 處理相同的資料,更能大幅加速運算程序,因為資料停留在 SoC 之中,不需要透過較為緩慢的主記憶體進行寫入與擷取。」

Intel Core 處理器的第二項記憶體強化,就是支援以進階的 3D XPoint 非揮發性記憶體 (NVM) 技術為基礎的 Intel® OptaneTM(圖 2)。Intel Optane 是 Intel 的專屬技術,可加速儲存裝置的存取速度,透過將經常使用的資料保留在最快速的儲存層級,提供比 HDD 更低三個層次的延遲速度。因此,醫學影像感測器資料可以即時套用或結合相關資訊,讓醫療保健人員掌握更豐富的資料。

圖 2. Intel® Optane™ memory 技術可輔助 Intel® Core™ 處理器的能力,促進影片加速與影像回應速度。(資料來源:Intel 公司

「相較於 NAND SSD,Intel Optane 的延遲更低,但可處理相同尺寸的資料封包」,Fischer 表示。「延遲僅有 10 µs,比標準的 HDD 低了約一千倍,這使主記憶體與儲存裝置的界線變得不再那麼壁壘分明。這讓 Intel Optane 格外適合醫療造影應用,這樣的應用需要使用高效能的運算與虛擬化能力,加上透過深度學習的巨量資料分析與人工智慧」,Fischer 補充說道。結合第 8 代 Intel Core 處理器的記憶體與運算能力強化,可提供較上一代處理器高出百分之 40 的效能。達成這樣的強化需要 2.6 GHz 的 Intel Core i7-8850H 這類的 SKU,加上最低 35W 的可設定 TDP (cTDP)。

模組化的醫療造影

第 8 代 Intel Core 處理器相容於 COM Express 規格,有助於醫療系統工程師設計輕巧、長壽的產品。舉例來說,COM Express「Basic」規格的模組尺寸幾乎僅有同級嵌入式主機板標準的一半,讓系統能將第 8 代 Intel Core 處理器的每瓦效能 (PPW) 濃縮在尺寸小巧的設計中。採用 COM Express 規格打造的造影系統也能獲得適合醫療用途的基礎載板認證,並可隨著效能與系統要求進化而換出 COM Express 處理器模組。「整體的載板與模組組合可讓體積縮小到僅有 COM 本身的尺寸,代表 COM Express Basic 的規格可以維持在只有 95 mm x 115 mm」,Fischer 這麼解釋。「相較之下,Mini-ITX 主機板需要幾乎兩倍大的空間,規格為 170 mm x 170 mm。若工程師採用 COM Express 等標準,便能享受此標準眾多證明文件帶來的優勢。它已經擁有許多醫療應用的認證,相較於任何完全自訂的設計來說,能使設計與認證程序更為簡單」,Fischer 補充說明。congatec 推出的 conga-TS370 COM Express 模組就是一種適合醫療系統設計師和工程師的選項,支援 Basic 規格的第 8 代 Intel Core 與 Intel® Xeon® 處理器(圖 3)。此模組具有 10 年以上的支援保證。

圖 3.  適用於醫療裝置設計的 conga-TS370 COM Express Basic 模組,具有 10 年以上的支援。(資料來源:congatec AG

醫療造影保證更清晰的影像

醫療造影系統是醫療保健專業人員診斷疾病的主要工具之一,相較於其他方法,這種方式較為快速,阻礙也較少。但是這些系統的優勢與其所能轉譯的影像成正比,這使得驅動系統的處理解決方案承擔了極大的責任。只要選擇第 8 代 Intel Core 處理器,醫療造影設計師便能在 TDP 範圍內運用進階的繪圖效能,不會超過功率限制。結合創新的記憶體技術以及立即可用的處理器模組,這些解決方案開創了結合巨量資料、物聯網,以及人工智慧的智慧醫療造影紀元,為病患提供更周全的照護。

為嵌入式系統與物聯網提供高出 88% 的每瓦效能

在日益視覺化的連網世界中,視訊與無線功能不再是奢侈的選項,而經常是必要條件。這為嵌入式系統帶來了獨特的需求,必須隨視訊和通訊的高資源與高效能需求,在電力消耗、散熱和價格方面取得平衡。第 8 代 Intel® Core™ 處理器(原代號 Coffee Lake)可以滿足這樣的需求,除了無線連線能力的基礎,還結合了新系列的輔助晶片組,提供高出百分之 88 的每瓦效能 (PPW)。加上將最大核心數量從四個增加至六個、更高的渦輪速度,以及更快的記憶體支援等其他功能,讓嵌入式系統開發者能為使用者提供符合期待的互動式體驗。

更多核心、更多編碼解碼器,以及 Thermal Velocity Boost 技術

第 8 代 Intel Core 處理器產品目前有筆記型與桌上型版本可供選擇,其中有多種是設計用於嵌入式系統。晶片以 14 奈米製程技術打造,可最大化效能,同時比起較大型的處理節點,可有效減少電源耗損。這個先進的處理技術也為其他重要的架構增強功能奠定了基礎,例如特定 SKU 擁有最多六核心,但可將 TDP 等級維持在 35 瓦至 45 瓦之間(圖 1)。

圖 1. 第 8 代 Intel® Core 處理器產品現在提供最多六核心的選項。配合設計與製造方法最佳化,這讓整體平台效能增加了高達百分之 40。(資料來源:Intel 公司

新一代的 Intel Core 處理器搭配 Intel® 超執行緒技術,讓每個實體處理器核心可同時執行兩個執行緒。透過平行處理應用程式任務,使完成工作負載的時間更短,進而讓處理器使用率更有效、總耗電量更低、散熱管理更優異。這些處理器能最大化可用資源的另一個方法,是一種稱為 Intel® Thermal Velocity Boost (Intel® TVB) 的新技術。Intel TVB 與 Intel® 渦輪加速技術一起作用,在處理器低於特定溫度和功率限制的情況時,利用適當時機額外提高 200 MHz 時脈速度(圖 2)。

圖 2. Intel® Thermal Velocity Boost (Intel® TVB) 與 Intel® 渦輪加速技術一起作用,利用適當時機額外提高 200 MHz 時脈頻率。(資料來源:Intel 公司

以六核心的 Intel® Core™ i7-8850H 筆記型處理器為例,其具有 2.6 GHz 的基礎頻率,但透過 Intel 渦輪加速技術和 Intel TVB,可加速至最高 4.3 GHz。在視訊串流等具有繁重工作負載的應用中,若要提供順暢的使用者體驗,這樣的額外強化能力就可能非常重要。在影像處理能力方面,第 8 代 Intel Core 處理器搭載了 Intel® UHD Graphics 630。除了其他架構增強功能以外,新處理器在加上這樣的影像處理能力後,在 3DMark 效能標竿的分數上更進步了百分之 20。這樣的進步是透過 Intel® 高速影像同步轉檔技術達成,這項技術提供的內建硬體可支援視訊編碼解碼器,例如 10 位元 HEVC 編碼與解碼,以及 10 位元 VP9 解碼等。處理器還另外支援高動態範圍 (HDR) 和 Rec. 2020 色彩空間媒體,最多可跨三個獨立顯示器串流 4K 超高畫質 (UHD) 視訊。搭載第 8 代 Intel Core 處理器的平台結合了數種記憶體升級以維持處理效能的高峰,包括支援最高 64 GB 的 2666 MHz DDR4 RAM、整合式記憶體控制器,以及 Intel® 智慧型快取記憶體技術。整合式記憶體控制器儲存了能產生較高記憶體頻寬的高效預先擷取演算法,同時 Intel 智慧型快取記憶體能根據工作負載將現有的快取動態配置至核心,有助於減少延遲(圖 3)。

圖 3.  第 8 代 Intel® Core 處理器的 Intel® 智慧型快取記憶體技術能根據工作負載將現有的快取動態配置至核心以減少延遲。(資料來源︰YouTube

更多、更快的 I/O 和連線配備

為了將這些功能帶入嵌入式系統,第 8 代 Core® 處理器在前一代的架構上增加了四個 I/O 連接埠。這讓單一連接埠擁有高達 30 個高速 I/O 介面,使用彈性 I/O 支援最多六個 USB 3.1 Gen 2 線道,以及最多 16 個 PCIe 3.0 線道。結合輔助晶片組上的 24 個 PCIe 線道,讓具有高頻寬需求的系統擁有高達 40 個 PCIe 介面的優勢。請注意,第 8 代 Intel Core 處理器搭配的全新 Cannon Point (CNP) 晶片組取消了定義 7 至 13 訊號線路的 Intel® Low Pin Count (LPC) 介面。取而代之的是具有四個訊號線路的 Intel 強化 SPI (eSPI)。訊號線路減少可最小化通訊需要的 PCB 追蹤數量。eSPI 的執行頻率為 66 MHz,是 LPC 的兩倍,運作功率為 1.8 V,相較於 LPC 的 3.3 V,更能達到節省能源的目的。但新一代平台控制器中樞 (PCHs) 最值得注意的功能可能是整合了 Intel® Wireless-AC 2×2 160 MHz。Intel Wireless-AC 2×2 160 MHz 以高達 1,733 Mbit/s 的速率定義 Wi-Fi 通訊的媒體存取控制 (MAC) 層(PHY 層必須單獨實作)。如圖 4 所示,相較於使用以前的技術,這能大幅縮短下載 HD 檔案的時間。

圖 4. 整合於 Cannon Point (CNP) 晶片組上的 Intel® Wireless-AC 2×2 160 MHz 技術可提供比 Gigabit 乙太網路更快的無線下載速度。(資料來源:Intel)

針對想要運用這種連線能力與第 8 代 Intel Core 處理器運算效能的嵌入式開發者,Intel 提供適合用於廣大嵌入式市場的合格零件。如六核心的 Intel Core i7-8850H、四核心的 Intel Core i5-8400H,以及 Intel Q370® 晶片組等裝置都擁有 15 年的產品供貨時間,並可應用在 MSC Technologies GmbHC6B-CFLH COM Express Type 6 電路板(圖 5)等模組上。

圖 5. MSC Technologies GmbH C6B-CFLH Type 6 COM Express 模組,搭載第 8 代 Intel® Core i5 和 i7 處理器,提供可擴充的效能。(資料來源︰MSC Technologies GmbH

重新定義嵌入式系統體驗

各種類型的使用者都越來越習慣 HD 視訊與無線連線功能,嵌入式系統也必須有所改變。但要這麼做,必須選擇能相容傳統設計限制,同時支援進階新功能的處理器架構與支援硬體。第 8 代 Intel Core 處理器可以滿足這些需求,提供新一代繪圖能力所需的效能,以及適合嵌入式系統 TDP 包封的無線連線能力。在接下來的幾個月間,我們可以期待可擴充處理器產品的更多消息,這些處理器將能提供安全性、管理能力,以及其他功能,協助現今的工程師們進一步重新定義嵌入式系統體驗。

促進強固型物聯網運算之成本效益

物聯網應用的設計師總是不斷面臨壓力,一方面要超越一般消費性系統對強韌度、空間、效能和可靠性的要求,一方面要顧及成本效益。從頭開始設計並滿足所有這些需求須付出昂貴成本,所以選擇電腦用的高效能主機板,並把它安裝在精心設計的機殼中,搭配有效的散熱管理、靜電干擾/靜電放電防護和 I/O 連接埠設計,是實現物聯網不錯的替代選擇。除了節省成本和縮短開發時間以外,隨著新款處理器面市及應用的要求越來越高,這種方法還可以提升擴充能力。適合這種替代方法的運算平台之一,是 Next Unit of Computing (NUC) 外型規格。這款主機板採用最新 Intel 處理器而具有擴充能力,能滿足空間和效能要求。只要在機殼設計和散熱方面稍加留意,它可以隨時轉換成相對低成本的強固型物聯網運算平台。以下例子中可以看到 Logic Supply 如何搭配它開發出適用於物聯網的強固型機殼,並讓它過程中保持美觀。

NUC 兼顧空間與可擴充效能

Intel® NUC 主機板,例如 NUC7i3DNBE 是在 4×4 寸的小巧體積中結合高效能運算的設計(圖 1)。它使用最近發佈的 Intel® CoreTM i3-7100U (Kaby Lake) 處理器搭配 Intel® HD Graphics 620,其熱設計功耗 (TDP) 是 15 W 並使用入焊入式 BGA 封裝,讓產品更堅固耐用。

圖 1. Intel® NUC 主機板例如 NUC7i3DNBE 能滿足工業應用對空間、效能和擴充能力的要求,但是必須經過修改,才能克服工業、招牌、物聯網和環境與可靠性方面的挑戰。(資料來源:Intel)

再加上一些功能特性,例如使用直接用螺絲固定在主機板的 SSD 記憶體、介於攝氏 0˚ 至 55˚ 之間的操作溫度、預設風扇和塑膠機殼,NUC 一般而言已足夠應付消費級和工作站應用。但是,消費級和工業界的使用模式與設計要求之間卻有極大差距。儘管消費者可以忍受,甚至有者享受打開電腦系統來切換元件、排解難題,以及在系統過熱時願意等待系統散熱,工業和物聯網應用卻是另一回事。「對我們的客戶而言,停機時間會抹煞一切。」強固型電腦系統供應商 Logic Supply Inc. 的產品經理 JP Ishaq 表示。許多客戶把電腦放在天花板上面、櫥櫃內或工作檯下方。「他們不想看到電腦,而且尤其不想因為過熱而打開電腦。」他說。

工業和物聯網適用的強固型 NUC

儘管 NUC 在大小、連線能力、功能和效能方面,包括 HD 媒體功能,均已到達適當平衡,但是下一個目標是讓它滿足工業領域客戶的需求。換言之,就是盡可能移除最多故障點。這從移除風扇開始,風扇通常是最便宜的元件,它會累積灰塵並阻塞系統,吸入金屬碎屑以及故障或短路。Ishaq 說:「我們要把它完全移除,我們想要完全固態的解決方案。」他表示,最重要的是,必須移除所有通風口,而且務必減少 I/O 連接埠或是封閉起來避免濕氣、灰塵和靜電干擾。移除風扇後,Logic Supply 便著重採用先進的散熱器和機殼設計進行被動式冷卻,確保內部溫度盡可能降低。「有些人可能把主機板拿來,直接裝上散熱器,然後放到機殼中。」Ishaq 說道。他們並不這樣,他補充道:「我們嘗試並確保我們使用定制的散熱解決方案,以便盡量排出處理器的熱度,讓它有更多透氣的空間。」

以這種概念設計出來的產品例如 ML100-G-31,外觀相當有特色(圖 2)。「但是它的功能也非常非常出色。」Ishaq 說道。「我們的確相信形隨機能的原則,但是其他條件都相等的情況下,我們也可以讓它看起來更美觀。」Logic Supply 亦提供遮蓋或封閉通風口以及在機殼上增加品牌的選項。

圖 2. ML100-G-31 包含定制的散熱器設計,也提供遮蓋或封閉通風口的選項。(資料來源:Logic Supply Inc.)

散熱器的設計取決於客戶的應用要求,例如可用空間和操作環境。但是所有設計均須採用高品質且導熱佳的鋁材,結合良好均勻的接觸,還要利用良好的壓接使它固定就位。「有些散熱器解決方案搭配熱昇華和熱管後變得十分複雜,但是我們努力把它簡化,消除所有間隙,讓它變得簡單且緊密結合在一起。」Ishaq 說道。雖然 NUC 平台採用最新的 Intel 處理器,可依照使用者的應用需求擴充,但是相對於之前的 Sky Lake 和 Broadwell 實作,Kaby Lake 系列產品必須額外修改散熱器的設計。例如,團隊把更多散熱器的元件放到主機板上。「一般上,我們會盡量減少主機板的接觸點,讓它只接觸 CPU,但是我們也把某些接觸點放到調節器。」Ishaq 表示。團隊使用散熱片直接與調節器接觸,然後把散熱器延伸到散熱片之上。「實施新的解決方案後,額定溫度有了攝氏 10 至 15 度的改善。」Ishaq 說道。成功的秘訣在於過量測試,但是指定規格時較保守。這表示要讓所有元件,從 CPU 到記憶體和 Wi-Fi 或其他網路連線,均達到最大值。Logic Supply 也採用 EN 50155 一類標準進行測試,這是鐵路適用之電子設備標準,會測試溫度、濕度、衝擊和振動。該公司甚至會實施減震,以便在必要時避免主機板受到過大的重力。Ishaq 指出,Logic Supply 也會採用標準的 ML100-G-31 強化機殼,並遮蓋連接埠,或是使用消費者一般不會使用的連接埠,包括 COM 連接埠和數位 I/O。為了解決靜電干擾的問題,團隊確保連接埠周邊的墊圈緊實,並避免使用基本背板。

工業和物聯網適用的強固型 NUC

雖然工業和物聯網應用對效能、擴充能力、佔用空間和可靠性的要求通常會增加成本,但是這並不是必然的。選擇外型規格合適的主機板,加上可擴充的處理器和合適的定制散熱器與機殼設計專家的支援,最終的解決方案可滿足設計和環境的要求,不但準時完成,而且不超出預算。

利用 Intel® SSF 消除人工智慧的瓶頸

機器學習與人工智慧凸顯了高效能運算的限制。理論上,高效能運算的平行架構可以隨著資源增加而以線性方式擴充,但是實務上卻完全不是這麼一回事。高效能運算系統經常因為運算處理、資料傳輸與儲存之間的不平衡狀態而遇到瓶頸。硬體與軟體未標準化,致使不同實作之間脫節且無法達至最佳效能。結果,當系統擴充時,效率不彰的狀況和成本也隨著增加。

新進的可擴充系統架構

為了消除瓶頸,Intel 推出了 Intel® Scalable Systems Framework (Intel® SSF)。SSF 旨在用更全面、均衡且可擴充的方式執行高效能運算。要完成這個任務,SSF 把記憶體、運算處理和網路傳輸中與管理軟體和輔助參考架構搭配運作的特定元素找出來(圖 1)。

圖 1. SSF 把記憶體、運算處理和網路傳輸中與管理軟體和輔助參考架構搭配運作的特定元素找出來,以便消除高效能運算的瓶頸。(資料來源:Intel 公司。)

在 SSF 中可使用的硬體元素包括:

  • Intel® Xeon® 處理器 E5-2600 v4 及 Intel® Xeon Phi 處理器
  • 使用 NVMe(非揮發性記憶體)建置的 Intel® Optane SSD
  • Intel® Omni-Path Architecture (Intel® OPA) 網狀架構及 10/40-Gbit/s 乙太網路

這些全由 Intel® Enterprise Edition for Lustre* (Intel® EE for Lustre) 軟體提供支援。Lustre 是專門解決平行儲存架構之需求的開放原始碼檔案系統。Intel 以常見的檔案系統為基礎並予以增強,包括:

  • Intel® Manager for Lustre,可簡化安裝與設定
  • Hadoop* MapReduce* 整合式支援
  • 全球全年無休的技術支援

Intel SSF 立下了作業系統的標準,其中包括 Linux 核心、存取控制、程式設計介面、執行時間環境、儲存和檔案系統。舉兩個例子,它指定 Linux Standard Base (LSB) 命令系統以及每個節點上 RAM 的最小數量。請務必注意,SSF 的 API 使用 LP64 程式設計模型。這代表它與常見的高效能運算程式設計模型相容,並可利用既有的程式碼。如此便能支援各種高效能運算功能之整合,否則它們之間可能脫節。SSF 的優點令人印象深刻。Premio Inc 是提供基於 SSF 的儲存解決方案的供應商,其伺服器與儲存產品經理 Andy Lee 表示:「使用 SSF,速度會比前一代[non-SSF-enabled]增加 25% 至 30%。」

其中一個實例是自動駕駛汽車,演變至今已經產生了數 TB 的資料。Lee 指出:「前一代的 Xeon 要花一個月時間才能分析所有資料和執行物件訓練;現在您訓練自動駕駛汽車上的所有物件只需要一半時間。」

Premio 已經導入SSF,把它用作 FlacheSAN2N24U-D5 儲存伺服器的基礎(圖 2)。該伺服器使用兩個 Intel® Xeon® 可擴充處理器並支援 24 個前置型熱抽換 NVMe PCIe 3×4 2.5 吋磁碟。運用 SSF 的原理加上其他元素,例如 Omni-Path 和 100G 介面,FlacheSAN2N24U-D5 的傳輸量可達 60 GB/s 以及 1200 萬 IOPS。

圖 2. Premio Inc. 的 FlacheSAN2N24U-D5 儲存伺服器使用 SSF 來消除瓶頸,所以能達到 60 GB/s 的傳輸量,以及 1200 萬 IOPS。(資料來源:Premio Inc.)

FlacheSAN2N24U-D5 是一種超級運算應用,Lee 指出:「它可以用來迅速分析資料,例如用於鑽探、天氣預測、石油與天然氣、農業和保全。」

不是所有 SSF 實作皆一樣

雖然 SSF 似乎讓人們覺得部署或選擇一個基於 SSF 的高效能運算相對簡單,設計師或潛在客戶在導入或是選擇供應商時卻要萬分謹慎。據 Lee 指出,Premio 所實作的 SSF 是附加價值之所在,因為它製造自己的主機板,執行所有路由,並且直接連結磁碟機來提供儲存(圖 3)。它也針對低延遲和傳輸量的需求自行採購合適的元件,Lee 說道。但成本仍然是關鍵因素,所以 Lee 說他們堅持使用現成元件。

圖 3.  Premio 所實作的 SSF 透過自行設計主機板和執行路由,以及針對低延遲和傳輸量的需求自行採購元件,達成了差異化的目標。(資料來源:Premio Inc.)

設計高效能運算系統雖是很好,但變更與升級的需求總是不斷出現。Premio 直接解決了這些問題。「我們的伺服器設計,能與未來的處理器相容。」Lee 說道。「只需要切換[older]運算節點並取得 Skylake[now called Xeon Scalable processors]。」Lee 指出,重新設計主機板可能花費 6 個月至 1 年時間,相較之下,利用這樣模組化、同類交換的方式能省下時間。另一項需要釐清的重點是,設計團隊並不保證會花時間把新的基於 SSF 之系統設計正確,所以最後會造成更多瓶頸,Lee 說道。「我們建立一個均衡的架構,要消除整個網路上所有瓶頸。」他說。例如,Premio 能夠執行所有五個 PCIe 線道,所以能善用 Xeon 可擴充處理器,而其他的僅能執行兩個線道。Premio 也使用 RoCE(透過聚合型乙太網路的 RDMA)網路通訊協定來管理線道。這是連結層通訊協定,所以它允許在同一個乙太網路廣播網域內的任何兩台主機進行通訊。Premio 有其他 SSF 實作,有些可用,而有些仍在開發中。隨著人工智慧出現且發展迅速,這個時機是最好不過了。