以病患為中心的 AI 重新定義整體照護

醫療專業人士有一項獨特的使命:為病患提供最佳的照護。但從入院到出院,以及其中的所有過程,他們都面臨無數的挑戰。

長期的人力短缺、資源不足以及緊縮的預算只是冰山一角。其中最大的挑戰在於如何在病患住院期間,取得有關病情的重要資訊,特別是監測病患的生物醫學設備每秒時間序列的波形資料。在跟時間賽跑的情況下,醫院如何利用這些資料,讓醫療團隊能輕鬆取得?

時間序列資料的重要性

應對這項挑戰的解方是單一的開放平台,持續收集、處理和整合資料,並即時呈現給臨床醫師。以休斯頓八間醫院所組成的體系為例,其中存在人力配置和照護人員數量不足的問題,夜間時段的挑戰更是嚴峻。這樣的情況迫使他們做出艱難的決定,比如聘請更多旅行護士和醫師,或是拒絕病患。在該組織導入 Medical Informatics Corp. (MIC) 廠商中立、軟體型監測和分析解決方案 Sickbay® Clinical 平台後,事情迎來了轉機。

Sickbay 是經 FDA 核可的軟體臨床平台,可協助醫院標準化病患監測。這項平台能在單一互聯架構上實現大規模靈活照護模型,並且開發 與部署以病患為中心的AI。Sickbay 重新定義了在 EMR 系統和 PAC 影像中儲存和取得靜態資料的傳統方法。網頁式架構可以將近乎即時的串流和標準化資料提供給照護團隊,無論在何處何地,都能以相同的整合方式支援各式工作流程。範圍包括電腦和行動裝置上的嵌入式 EMR 報告與監控資料。

MIC 的產品與創新長暨共同創辦人 Craig Rusin 表示:「 一個病患的床頭監測設備每個小時產生差不多 800,000 個資料點,大概只有 20 個點在臨床上有用。」一般人有所不知,照護人員很難在有距離的情況下聽見或查看非網路設備(如患者房間外的呼吸機)發出的警報。另有類似的情況,現行的病患監測並未使用 AI 工具現有的資料來改善病患照護。

評估影響

採用 Sickbay 的醫院和醫療體系重新定義了病患監控方式,並呈現以下成果,開創靈活、資料導向的全新照護標準:

  • 快速增加床位和人員數量,同時打造靈活的虛擬照護模式,超越傳統的遠距照護、接收和出院。
  • 向已在單位、服務或待命的人員提供更多近乎即時的回顧性資料,改善工作流程和照護。
  • 建立虛擬護理站,一名護士可以通過單一使用者介面跨單位和/或設施監控 50 多名患者。
  • 利用相同的基礎架構成立虛擬指揮中心,監控病患整體照護過程。

不論部署方式為何,Sickbay 都能將控制權交還給醫療團隊,並直接為醫院帶來效益。根據報告,使用 Sickbay 的效益包括減少人力、資本和年度維護成本,以及提高人員、病患和家屬滿意度。最重要的是,採用 Sickbay 的客戶看到了對照護品質和成效提升的直接影響,包括減少住院時間、急救事件發生及加護病房轉移,並且縮短呼吸器使用、雙重簽署、與治療時間。

這樣的成效促使其他醫院重新思考病患監測,實現近乎即時、以病患為中心的 AI 願景。醫療領域的領導者已經證明,透過回歸團隊型護理,增加虛擬人員有助於幫助扭轉人力危機。Rusin 表示:「這並不是要把護士從病患身邊帶走。而是要把一些工作任務集中起來。」在未來可預見的情況下,永遠不會有夠多的護士、醫師和呼吸治療師來滿足所有需求。我們要讓床邊團隊重新回歸到床邊照護。靈活的虛擬照護支援可以實現這個目標。」

改變照護經濟效益

Sickbay 提供改變監測病患的經濟效益,直接影響品質和成效改善。

無論功能或品牌,關鍵在於整合不同設備的能力。Rusin 談到:「我們打造的環境讓醫療人員能夠取得前所未見的資料,而且用史上最經濟可行的方式在這個基礎上建立內容。」

MIC 的策略市場執行副總裁 Heather Hitchcock表示,對醫療機構來說,掌握可用的資料有著深遠的影響。正如一位醫師所說:「我一分鐘內要處理 300 個資料點。沒有機器會幫我做決策,但 Sickbay 幫我更快處理這些資料,做出正確的決策,拯救更多生命。」

從可擴充的病患監測到預測性分析

Sickbay 的價值不僅限於近乎即時的病患監測和虛擬照護,還包含改善長期治療。Sickbay 支援利用相同的資料來發展與部屬預測性分析,協助提前應對惡化及風險。

客戶目前持續在 Sickbay 上發展分析。例如,一位客戶將 32 個近乎即時的多模型風險分數整合到虛擬照護工作流程中。另一位客戶建立了 Sickbay 運算法,分析由兩個獨立監測裝置產生的資料,確定病患理想的血壓水準。Rusin 提到:「要進行這款特定分析,就需要床邊監測器的血壓波形,還有另一台監測器的腦血密度。」

以資料拯救生命

今日整體照護過程的病患治療,將為明日的照護帶來改善。要實現這一點,可靠、具體的資料是起步的要素。如果缺乏這些資料,臨床醫師只能依靠猜測來應對病患身體最迫切的照護需求,少了他們夢寐以求的資料導向決策支持。這種情況將會導致速度緩慢、成本高昂、照護人員待遇不公平,最終無法為病患帶來最大益處。

為了真正實現治療方法與對象一樣具體和個性化的未來,醫療領域必須以產生最大影響力的方式利用病患資料,也就是具體、準確、近乎即時、不受廠商影響、可轉換且得以立即取得。利用時間序列資料的力量,醫療機構能夠以更有效的方式幫助更多人。拯救生命是醫療的首要使命。

 

本文編輯 insight.tech 編輯總監 Georganne Benesch

即時分析改造廠房

製造商承受高度壓力,得要充分利用所有可用的智慧功能,像是機器視覺還有 AI 驅動的視訊分析。這些功能可以成為關鍵性的工具,從瑕疵偵測到保障員工安全都能發揮作用。但很少製造商擁有 AI 領域的專業知識,同時他們需要應對許多挑戰和工作,更不用說要對一項龐大的技術投資做好未來規劃。這些全新技術必須兼具適應性還有互通性。

能跟深入探討這些需求的兩位專家分別是工業機器視訊供應商 Eigen Innovations營收長 Jonathan Weiss,以及 AI 視訊分析公司 AllGoVision銷售兼行銷長 Ali Anirudhan。兩人談到了實現工業 4.0 的挑戰、製造商怎麼善用資料驅動的廠房,以及 AI 如何持續改造廠房(影片 1)。

影片 1 。AllGoVision 與 Eigen Innovations 的產業專家探討 AI 在製造業中的革命性影響。(資料來源:insight.tech

機器視覺和 AI 如何應對工作 4.0 的挑戰?

Jonathan Weiss:我們所做的就是把機器視覺應用在品質檢測上,工業製造領域是我們的重點。傳統的視覺系統非常適合在生產現場偵測問題,通常會告訴你產品是好是壞。但是要怎麼幫助製造商預防瑕疵,而不是只有讓他們知道已經製造出有瑕疵的產品?

這就是我們的軟體特別的地方。我們不只利用視覺系統、攝影機還有不同類型的感應器,還直接跟處理資料,包括歷史資料、OPC UA 伺服器連接,甚至直接連線到網路控制級的 PLC 。我們提供製造零件實際使用的變數和計量指標的深入解析,製程中的出現的問題,還有導致瑕疵發生的變化。我們的方式大量採用 AI 跟 ML 技術。

在目前的工業環境裡面,視訊分析如何應對員工的風險?

Ali Anirudhan:這個產業的重點是怎麼提升自動化水準,增加更多的機器應用。但是人員的角色不會從廠房消失,基本上這表示人和機器之間的互動會越來越多。

根據聯合國的資料,全球企業每年在職業災害和損失上的支出高達 26,800 億美元。這項成本對每個製造商來說都是關鍵問題。過去他們會研究不同的事故案例來制定政策,確保不會再發生類似的事故。

但這種傳統的作法不足以降低成本。事故發生的原因可能有很多種,意外的情況也可能造成潛在的事故。所以你得要建立一個即時的機制,確保事故一開始就不會發生。

也就是說如果廠房員工沒有戴上應該要戴的安全帽,即使事故還沒有發生,系統就會馬上辨別出來,讓現場主管馬上處理。簡單來說:減少事故就是降低保險成本,進而提升公司的收入/ 利潤。

工業製造的領域涉及到人員的行為模式,以及他們和機器或車輛之間的互動方式。不同客戶對員工安全的需求也不一樣:石油和天然氣跟製藥公司的設備、防護裝備還有安全計畫的需求都不同。

例如,我們曾經跟一家印度的公司合作,他們生產線的熱金屬有時候會出現溢漏的情況。不管是從人員還是工廠的安全角度來看,這都非常危險。這間公司希望持續監控,發生任何情況即時報告。 

製造商準備好迎接資料驅動的工廠了嗎?

Jonathan Weiss:製造商一般來說都認識到數位化、自動化的必要性。我的確覺得在大規模計畫的方面還需要更多教育,包括從何開始、如何確保計畫的效率和成果,還有怎麼擴展到工廠之外。

在我的領域裡面,協助工業克服攝影機系統被孤立還有沒辦法跟其他企業溝通的挑戰非常重要。同時也要解決不能在生產線、工廠甚至只是在機器之間擴展 AI 模型的問題。這就是傳統攝影機不足的點。Eigen 已經跨越了這道障礙。

但我跟 Aij 解決的只是冰山一角,整個問題的關鍵就在資料上。透過為所有生產資料建立單一的可信來源,我們推動可採取行動的深入解析和自動化。簡單來說,就是把所有資料存放在同一個位置,包括品質資料、製成資料、安全資料、現場服務類型資料、客戶資料、保固資訊等等。然後開始跟各種企業級應用程式建立雙向連線,這樣 ERP 和品質就可以相互了解關注的部分。

這就是有單一的可信來源還有正確的策略和架構,把各種類型的軟體實施到整個工業企業的單一可信來源裡面。

製造商如何把機器視覺應用到工廠作業?

Jonathan Weiss:首先要瞭解想解決的問題。哪種瑕疵有最大的影響,而且最常出現,是你最希望能夠降低的?

在焊接領域,這種瑕疵通常是肉眼看不到的,所以視覺系統變得非常重要。譬如複雜的組裝過程會需要紅外線攝影機,因為肉眼很難看到零件的整個幾何形狀,來辨別是不是有瑕疵,或者要找出瑕疵會非常有挑戰性。

重點在於找到具有最大價值的使用案例,然後根據這個案例來制定計畫。接下來就是選擇技術。我都鼓勵製造商選擇兼具適應性和擴充性的技術,因為情況順利的話,工廠可能還會部署更多視覺系統。

Ali Anirudhan:現在大多數工廠為了符合法規和其他需求都有安裝 CCTV 攝影機,AllGoVision 的需求可以跟這些現有設備的輸入/輸出輕鬆匹配。也許攝影機的位置要改變,或是照明條件要調整。又或者是特定的情況需要不同的攝影機,譬如說熱攝影機。但在 80% 的情況下,我們可以重複採用現有的基礎架構,直接使用原先的視訊摘要。

跟像 Intel 這樣的夥伴合作有什麼重要性?

Aji Anirubhan:我們是首批採用 Intel 開放式架構的視訊分析供應商之一。從早期版本到 Gen4 和 Gen5,我們持續採用 Intel 處理器,效能有很明顯的提升。Intel 提供的平台和適合執行深度學習模型的技術對我們非常有幫助。

我們很期待像是整合式 GPU 或全新的 Arc GPU 這樣執行深度學習運算法的增強功能,迫不及待利用它們來提升執行運算的效率。在我們目前的策略和未來發展中,Intel 扮演著關鍵的合作夥伴角色。

隨著 AI 領域持續發展,還有哪些機會在等著我們?

Jonathan Weiss:Eigen 進行各種類型的檢測。其中一個例子是檢測在紙上塗上特殊塗層的機器。機器的一部分會在紙張通過的時候分級,只有八秒的時間來偵測機器上堆積兩點五毫米的塗層,不然會造成大約 150,000 美元的損失。這種情況一年可能發生很多次。甚至在一次輪班就發生很多次。

未來我們只有八秒的時間來偵測這種堆積,然後自動執行一個動作來防止設備故障。目前大概一秒鐘可以完成這個動作,但想像一下,未來只需要要三分之二或半秒的時間。

我想技術會變得越來越強大,使用的方式也會越來越多元。我有觀察到很多這類複雜工具的普及化。Eigen 從頭開始打造我們的軟體,目的是讓任何生產線的人員,不論經驗多寡,都能夠建立一個視覺系統。這對我們和客戶來說都非常重要。

雖然我們的領域非常注重產品的品質,但也同意 Aji 在前面提到的觀點,人員的角色不會消失。我覺得這反映了對 AI 普遍的誤解,認為會被 AI 取代,工作會被 AI 搶走。我們在產品品質上看到的情況剛好相反:我們把視覺系統和軟體引進工廠,提升他們檢測零件的速度。隨著工廠的生產量增加,公司有能力雇用更多人員來進一步增加零件生產。

很多客戶都說,視覺檢測是他們工廠流動率最高的職位。這份工作做起來可能不太舒服,員工需要連續站 12 個小時,眼睛盯著通過的零件,頭還要一直轉來轉去。這也是為什麼過去這種需求像是補充的維他命,而不是必要的止痛藥,但現在對企業來說,這些技術已經不再只是維他命了。我們在協助組織緩解難題,這不只是一種額外的增值。

Ali Anirudhan:值得注意的是所有生成式 AI 的存在,還有我們怎麼利用這些技術。大型視覺模型基本上是在解釋複雜的視覺或情境。我舉個例子:有一個環境允許車輛進入,但是人不可以。客戶說:「好,員工推著手推車的話,也可以走這條路線。」但要怎麼定義一個人有沒有手推車?

所以我們在研究像是 LVM 這樣全新的技術增強功能,來推出新的使用案例。在未來幾年,生成式 AI 技術會在應對工廠中的這些使用案例發揮更大的作用。但我們還有很大的進步空間。我們對技術還有正在實施的計畫非常期待。也迫不及待跟全球各地的不同客戶合作,打造更龐大的商業版圖。

相關內容

若要進一步瞭解 AI 驅動製造,請收聽 AI 驅動製造:打造資料導向工廠,以及閱讀機器視覺解決方案:偵測與預防瑕疵。想要掌握 AllGoVision 和 Eigen Innovations 的最近創新技術,歡迎在 Twitter/X 上關注 @AllGoVision@EigenInnovation,以及在 LinkedIn 追蹤 AllGoVisionEigen Innovations Inc.

文由 Erin Noble 編審

利用新一代處理器和 COM Express 調整 AI 工作負載

X 光、超音波和內鏡機器會產生大量資料,過量的資料有時令人無從判讀。為此,醫療裝置 OEM 直接整合 AI 與醫學影像和診斷機器,提升篩選流程的效率、成效,有利臨床醫師和患者判讀。

高階硬體需搭載顯示晶片和運算效能,才能即時執行智慧影像工作負載,支援 AI 支援的醫學影像與診斷。不久前,實現這些功能最簡單的方法是獨立加速器,但獨立加速器的前置硬體成本和耗電量恐怕不菲,效率更是不佳。

然而,錯誤的系統架構才是開支最大的設計決策。AI 目前發展迅速,如果沒有靈活機動且可升級的系統硬體,設備還來不及充分調整可能就要淘汰。

「AI 工作負載發展極其快速,甚至不容討論硬體的時間。」嵌入式解決方案的全球領導者、congatec AG 基礎結構的市場區隔經理 Zeljko Loncaric 說,「時間是醫療裝置設計師最重大的挑戰。而在長生命週期系統,他們還面臨實作新功能的難題。」

搭載 Intel® Core Ultra 行動處理器的 COM Express 模組可以解決這些難題。因為 COM Express 模組整合 GPU 與 NPU,提供優異的 AI 工作負載處理效能與效率。此外,固有的模塊化簡化初始設計流程,且便於處理器代代升級。

平衡邊緣 AI 壽命與嵌入式運算的創新技術

醫學影像裝置需經過各方面的認證流程,才能投入使用。這些裝置的生命週期平均一般為十年,甚至更長。另一方面,AI 技術是醫學影像的重大進展,隨之而來的是超音波、行動超音波、內視鏡機器、X 光等診斷效率和準確度大幅提升的可能。

但鑑於重新設計、認證醫療裝置的時間和費用,OEM 不敢在缺乏確實的商業案例時,轉換為新一代支援 AI 的平台。更別提沒有系統設計可維持多久的答案,導致商業案例更不令人相信。

全新 Intel Core Ultra 行動處理器是首款整合 NPU 的 x86 處理器,也是目前市面上最節能的 SoC 系列產品。整合式 NPU 支援進階 AI 工作負載,省去外加獨立加速器的成本和麻煩。搭配 SoC 超群的每瓦效能,醫療裝置設計師可就資源有限的邊緣 AI 部署,進一步妥善管理耗電量和散熱效率。

「行動超音波裝置和其他電池供電系統處理器每瓦的效能,也十分引人關注。」congatec 產品縣經理 Maximilian Gerstl 說,「Intel 的架構設計令人讚歎。效能呈現的數值很漂亮,而且不只 CPU,顯示晶片也是。新處理器也提供空前的靈活度,客戶可以升級多代系統,但外型規格不變。」

「如果沒有新的重大技術上市,組織會使用同一個模組 10 年以上,省得重新認證。」他接著說,「Intel Core Ultra 行動處理器是一大躍進。醫療保健組織勢必考慮更換。」

開放式標準模組快速系統升級

最新 congatec conga-TC700 COM Express Compact 模組採用隨插即用的外型規格,搭載 Intel Core Ultra 行動處理器,提供處理效能和應用程式就緒的 AI 功能。醫療裝置設計師可利用模組抄近路,組建高效的邊緣 AI 系統,大幅縮短上市時間,同時降低總持有成本(TCO)。另外,COM Express 是全球技術協會、PICMG 管理的開放式硬體標準,TC700 提供供應商中立的系統升級路徑,所以舊版模組可以直接汰換為相同介面但效能更高的模組。

「快速更換硬體的能力亦即組織的應用程式可以長期執行。」Gerstl 說明,「雖然應用程式必須重新認證新的硬體元件,卻可以採用之前應用程式很多的軟硬體設計。」

邊緣 AI 解決方案支援智慧醫療保健

Congatec 的 OEM 聚焦解決方案的生態系統支援 conga-TC700,而且提供高效主動和被動式散熱管理解決方案、長期支援,及即用型評估載板。不僅如此,公司持續探索開放原始碼 Intel® OpenVINO 工具組可提供客戶的 AI 視覺系統開發與部署支援。據 Gerstl 所述,為協助客戶盡快啟用和執行應用程式,公司正致力完成特定使用案例的前期基準測試。

對 congatec 而言,Intel Core Ultra 行動處理器的推出,等同新一代邊緣 AI 裝置價格、效能和耗電量長足的進展。對醫療裝置 OEM 而言,這些處理器是通往全新 AI 支援影像與診斷設備的誘人途徑。

「我們會繼續支援 AI 加速、硬體和軟體,並應用在我們的產品。」Gerstl 說,「我們希望推動這股新趨勢。」

 

本文由 insight.tech 編輯總監妮.貝內施(Georganne Benesch)編輯。

運用 AI 的即時視訊優勢維護工作場所安全

工作場所安全是各行各業都會面臨的實際問題。根據近期報告指出,每年有多達 3.74 億人在工作場所發生意外並因此受影響。這是一個可怕的數字,但幸運的是,企業可以採取行動降低風險。

例如,許多公司已經配備監控攝影機(CCTV)系統,維護日常安全與協助資產管理。這些裝置同樣可以應用在其他用途,例如識別潛在危險,協助減少職業災害的受害人數。

在意外發生次數較少的情況下可以實作這類視訊分析技術,但若意外頻繁重複發生,則代表情況可能更複雜、更令人擔憂。若頻繁發生不幸事件,則會對員工的健康與安全方面帶來重大損害,然而,公司可以透過分析監視器的拍攝畫面並做出行動來藉此預防憾事發生。

重資產行業領域中的安全分析

視訊分析軟體解決方案供應商 AllGoVision 從 CCTV 起家,主要業務為安全和資產管理等,但很快意識到這項技術具有超越安全管理的潛力。AllGoVision 銷售兼行銷長 Aji Anirudhan 表示, 他非常清楚 AllGoVision 無疑能在各類型產業中維護員工的健康。

製造業、能源與公用事業等重資產行業特別受益於視訊分析技術,並從以改善員工的工作條件。基本上在這類行業中,會犧牲員工安全的情況有兩種:第一種,當現場狀況迅速變化時。例如當熱金屬處理不當,或當員工暴露於石油與天然氣外洩產生的有毒氣體中,而造成燒傷等事故。此外,員工若無嚴格遵循安全協議,將會損害自身的健康。例如,在高風險工作環境若沒有佩戴合適的個人防護設備(PPE),可能會提高受傷的風險。

Anirudhan 說明:傳統上,員工安全的保護措施較被動消極。由員工健康安全團隊來對各種可能存在的有害情境進行風險評估,並相應開發訓練計畫。他說:「每當事件發生時,團隊會進行調查,並依狀況更新政策,儘量減少這些事故。」雖然全公司的政策能有效降低工作場所的傷病人數,但這類問題仍十分嚴重。這也是為什麼「只要是能提供深入見解,讓我們了解不安全行為模式的任何解決方案,都有助於預防事故」,Anirudhan 補充說明。

AllGoVision 的目標是成為這樣的解決方案。特別是從事石油與天然氣相關工作的能源與公用事業公司,因不遵守規定而導致安全問題的情況比比皆是。Anirudhan 表示,無論是油田上的鑽井設備,或是燃料的運輸與儲存,日常工作中的每一步都極有可能導致錯誤與意外發生。

運用 AI 維護工作場所安全的機制

為了避免犧牲員工安全,AllGoVision 利用 AI 即時分析現場情況。CCTV 系統串流影片資料,並由 AI 安全分析軟體進行評估。系統能即時拍攝違規或問題區域的影像,並提醒現場主管主動處理異狀。提供儀表板,幫助主管隨時了解人員遵守安全協議的情況,並按照改善計畫監測進度。Anirudhan 表示,員工也希望成為解決方案的一環,這種分析方式可以促進人員就工作場所的各項資訊進行討論,能改善主管一人獨大的專制做法。

AllGoVision 特別注重資料隱私通訊協定,系統中僅保留元資料,不儲存個別員工的畫面。公司也致力於維護模型公平性,並聘請多名顧問,以確實遵守國際資料隱私法規。

經驗豐富的安全分析供應商

AllGoVision 在此領域中表現突出,因為其可以利用視訊分析方面的豐富經驗,來評估特定用戶端的情況,並推薦可實現理想成果的全方位解決方案。該軟體採隨插即用的模式,代表可以與現有基礎架構整合,可增加資料層級取得更多資訊。公司與系統整合商合作,將解決方案整合至大型視訊管理套件中提供給用戶端。

在多種產業中執行工作場所安全協議的經驗十分重要。「AI 日益普及化,幾乎任何人都可以存取開放原始碼提供的演算法,並取得視訊分析技術。Anirudhan 表示:「但要將 AI 推斷應用至攝影機不同、照明條件不同、用戶端期望也不同的各種生產環境中,是最具挑戰性的一環。」「這就是我們的實力所在,能夠實際處理不同垂直領域的安全與員工生產力問題,尤其在石油和天然氣、公用事業和製造產業中,更能展現出我們的先進技術。」

Anirudhan 表示,多年來,AllGoVision 伴隨不同世代的 Intel® 平台不斷成長發展。該公司也是 OpenVINO 的早期採用者之一,並使用 Intel® Xeon® 處理器。Anirudhan 表示:「執行演算法的成本大幅降低,因此能為客戶節省成本。我們認為這是與 Intel 合作的一大優勢。」

運用 AI 維護工作場所安全的相關變革

Anirudhan 十分期待能看見 AllGoVision AI 提升工作場所安全的使用案例,包括針對建築與基礎架構偵測火災和煙霧或進行人群控管。將 AI 應用於工作場所安全仍是新興技術,有機會讓 AI 解決方案創造龐大商機,並帶來顯著影響。

我們不再需要重複、周而復始地實作政策。Anirudhan 表示:「客戶可以明顯意識到採用即時主動策略的價值所在。」未來可能可以監控更多參數,包括員工疲勞指數等。他補充:「未來工作場所中會有更多可穿戴設備、感應器、物聯網裝置,這些都會成為機器與人員管理的不同使用案例。」

此外,Anirudhan 認為生成式 AI 在解決更複雜的使用案例方面的潛力無窮,尤其是涉及人機互動的案例。

AllGoVision 正致力於發展相關技術,能處理棘手的工作場所安全統計資料。Anirudhan 表示:「如果真的能讓 AI 解決我們的一部分難題,我們就能對全社會帶來極大影響。」

 

本文由 insight.tech 編輯總監 Christina Cardoza 編輯。

利用音訊型生成式 AI 協調創新

人工智慧是許多不同技術的總稱。我們常聽到的包括生成式 AI ,尤其是 ChatGPT。ChatGPT 獲得新聞媒體的熱烈報導,但生成式 AI 的播放清單中可不只這首歌。Intel 的 AI 軟體架構師暨生成式 AI 宣傳員 Ria Cheruvu 最近就對音訊空間的生成式 AI 興奮不已(影片 1)

影片 1。Intel 的生成式 AI 宣傳員 Ria Cheruvu 探索音訊型生成式 AI 的業務與開發商機。(資料來源:insight.tech
但任何生成式 AI 都可能讓人生畏,而且開發者並不一定知道要從何著手,或者一旦開始,該如何最佳化模型。與 Intel 合作可以真正簡化流程。例如,新手開發者可以利用 Intel® OpenVINO 筆記型電腦,藉由教學課程和範例代碼來協助他們著手使用 GenAI 。然後,當他們準備進入下一階段或準備擴展時,Intel 也會伴隨左右。

Ria Cheruvu 與我們討論 OpenVINO 筆記型電腦儲存庫,和生成式 AI 用於音訊的實際應用,以及它適用於呼叫中心和實際用於音樂家之間的差異。

生成式 AI 有什麼不同的領域?

就生成式 AI 的類型而言,這個領域肯定正在發展。ChatGPT 不是唯一的例子!文字生成是生成式 AI 非常重要的一種形式,但當然也有影像生成,例如使用 Stable Diffusion 這種模型產生藝術和原型以及不同類型的影像。還有音訊領域,可讓您著手製作音樂,或為合成頭像製作音訊,以及其他許多類型的使用案例。

在音訊領域,快速執行階段尤為重要,這也是常見的痛點之一。您希望模型非常強大,能夠快速產生高品質的輸出,這需要大量的運算資源。所以我想說,最佳化生成式 AI 模型的技術堆疊絕對至關重要,這也是我在 Intel 日常職務中鑽研的一環。

適用於音訊的生成式 AI 有什麼具體商機?

使用語音 AI 或對話式 AI 讀取及處理音訊,光是用想的就很有意思,這是您使用語音代理程式(就像手機上的語音助理)所做的事。將它和用於音訊的生成式 AI 比較:您實際創作內容,例如能夠產生合成頭像或聲音,以便撥打電話和交談。您第一個想到的業務應用肯定是話務中心,或 Metaverse 應用程式,其中存在使用此建立之音訊的模擬環境。

但創作領域的內容創作也存在一些非傳統的業務使用案例,也是我們開始看到一些與音樂生成式 AI 相關應用的地方。對我來說,這相當令人興奮。Intel 開始研究生成式 AI 如何搭配藝術家的工作流程:例如建立構圖,以及使用生成式 AI 採樣節拍。音樂家與音樂製作人如何利用生成式 AI 作為內容創作工作流程的一環,其中也包含很有意思的文化元素。

因此,雖然它不是傳統的業務使用案例(如您在話務中心或使用音訊零售服務的互動式服務亭中看到的那樣),但我確信用於音樂的生成式 AI 在內容創作方面有一些亮眼的應用。最終,它也可能進入其他需要產生音訊片段的領域,例如為 AI 系統訓練建立合成資料。

適用於音訊的生成式 AI 的開發流程是什麼?

生成式 AI 領域目前採用幾種不同的方法。其中之一肯定是調整既有的模型架構,用於其他類型的生成式 AI 模型。例如,Riffusion 基於影像生成模型 Stable Diffusion 的架構;只產生波形,而非影像。

我最近和正在音樂領域研究的人聊過,其中一個話題是您可以提供這些音訊領域模型各式各樣的輸入資料。可以是音符(或許是鋼琴曲目的一個片段),也可以是專門用於 MIDI 格式等使用案例的波形或特定輸入類型。輸入資料包羅萬象。

訓練和部署這些模型需要哪些技術?

我們一直在研究許多有趣的生成式 AI 工作負載,作為 Intel OpenVINO 工具組和 OpenVINO Notebooks 儲藏庫的一環。我們整合了許多音訊生成的關鍵範例,作為非常實用的使用案例,來提示及測試生成式 AI 功能。我們與 Intel 的其他團隊合作無間,使用 Riffusion 模型建立 Taylor Swift 類型的流行節奏,乃至於更進階的模型,可以產生與某人說話相符的音訊。

我透過 OpenVINO 見證了一件事,那就是能將這些模型全都最佳化,特別是在記憶體和模型大小方面,也能在邊緣、雲端和用戶端之間實現靈活性。

OpenVINO 真正針對的是最佳化部分。有一個基本概念,即生成式 AI 模型在大小和記憶體佔用空間很大;這些模型的基礎(包括音訊、影像或文字生成),其中的某些元素非常龐大。透過使用壓縮和量化相關技術將模型佔用空間減半,我們能夠大幅減少模型大小,同時確保維持類似效能。

這全都是由一個非常有趣的局部開發概念所啟發。音樂創作者或音訊創作者在創作內容時希望借助電腦,以及能夠在雲端工作,進行密集的任務,例如音訊資料的收集、錄製、註釋,以及與不同的專家合作建立資料集。然後他們可以在電腦上執行其他工作負載,說:「好吧,這就在系統本機產生一些有趣的流行節奏,然後在房裡進行原型設計。」

開發者馬上開始使用生成式 AI 有哪些範例?

我最喜歡討論的一個例子,就是您準確地採用我們在 Notebooks 儲存庫中展示的這些 OpenVINO 教學課程和工作負載,然後將其變為現實。Intel 與 Audacity 合作,這是一款本質上實現開放原始碼音訊相關編輯創作的工具。這是名副其實的一站式、類似於 Photoshop 的音訊編輯工具。我們做的其中一項工作,就是透過自家的外掛程式整合 OpenVINO 。我們的工程團隊從 Python 擷取 OpenVINO Notebooks 儲存庫的程式碼,將其轉換為 C++,然後部署為 Audacity 的一環。

它能達成我前面提到的更多效能和記憶體改善,但同時也直接整合至許多編輯和播放音訊的許多不同人使用的相同工作流程。您只需醒目提示一段音訊,說聲「產生」,其餘的就交給 OpenVINO 產生。

這是工作流程整合的一個例子,可用於藝術家工作流程;或用於電影產業的語音製作合成音訊;或用於零售產業的互動式服務亭;或用於醫療保健領域的病患與開業醫生對話。緊密整合至工作流程,是 Intel 非常期待推動和協助合作的下一步。

生成式 AI(尤其是適用於音訊的生成式 AI)還有什麼前景?

論及適用於音訊的生成式 AI,我想對於這個領域的任何特定時刻來說,都可能「轉瞬即逝」。光是見證增添多少工作負載就夠令人驚豔了。但只要放眼不久後的未來(可能是年底或明年),我可以看到一些突然出現的發展,絕對會圍繞我前面提到的那些工作流程進行,並確定您確切想要執行的地方,是本機系統,還是雲端,或是混合兩者?這絕對是我真正感興趣的地方。

我們正在使用 Intel® Core Ultra 和類似平台,在 AI 電腦上嘗試一些音訊生成的方法,您坐在房裡與一群音樂家同行一起設計原型並隨意玩耍,理想情況下,您不必為此存取雲端。反之,您可在本機執行,將其匯出至雲端,然後來回移動工作負載。關鍵在於,要問我們如何將利益相關者納入流程,如何準確建立並實例化生成式 AI 解決方案,然後隨著時間進行維護?

最後還要向大家推廣關於生成式 AI 的什麼?

生成式 AI 目前算是很引人注目的領域,但幾乎所有人都認為,只要具備前瞻性的策略,就能從中汲取價值。Intel 產業的價值支柱,就是實際上握住開發者的手,向他們展示利用這項技術可以做什麼,並在每一步協助他們實現想要的目標。

適用於音訊的生成式 AI(通用生成式 AI)進展如此迅速。因此,請密切關注工作負載、評估、測試和原型設計;在我們邁向音訊生成、合成生成和其他這些令人興奮的領域的新時代,它們絕對是關鍵。

相關內容

若要進一步瞭解生成式 AI,請閱讀生成式 AI 解決方案:從炒作到現實,並聆聽生成式 AI 為音訊創作帶來新機遇。若要瞭解 Intel 的最新創新技術,請在 X 的 @IntelAILinkedIn 上追蹤。

 

本文由 Erin Noble 編審。

即時資料分析提升作業效率

管理資產並非易事。舉例來說,管理一整個車隊需要準確又詳細的資訊。要了解車輛何時會出現故障還有原因,光是靠每次加油的時候測量冷卻液的最高和最低溫度是不夠的。引擎燈警告指示的問題不夠具體,可能代表有嚴重的問題,像是散熱器即將損壞,或者只是無害的訊號。

即時資料分析的案例

資產密集型產業面臨各種與資料相關的問題。資產管理人員經常根據無關或過時的資訊採取行動。即使在同一個組織,前線員工需要查看和採取行動的資料,也未必跟工廠主管完成工作需要的資料相同。雖然可能有像是發送文字警示的問題信號機制,但是假警報讓員工開始不把這些當一回事。過多錯誤和無關的資訊可能會導致資料疲勞。最後,即使手邊有資料,可能也沒有足夠的資訊做出明智的決策。

感應器資料管理解決方案供應商 Smart Connect IoT總裁 Sahid Sesay 指出,這些資料問題在各行各業都普遍存在。這就是為什麼資產管理人員和其他前線工作者需要即時掌握更多相關資料,才能做出準確的資料導向決策,主動採取措施,而不是被動應對。

Smart Connect IoT 的無程式碼 SC-IoTOS 感應器邊緣閘道軟體是一個物聯網感應器資料擷取翻譯聚合器,可以在邊緣將任何搭載 Intel® 處理器的硬體連接至幾乎所有類型的設備、感應器或是攝影機。這款軟體能夠安全收集、儲存、規範以及串流擷取的資料,來回傳送至任何地點,用於分析和近一步處理。這樣的解決方案能夠把正確的資料在適當的時間,送到合適的人選手中。

Seasy 表示:「提升高品質串流的資料數量時,組織內部的人員就能輕鬆掌握決策和資訊。」在數位化和產業轉型的時代,組織所需要的是能夠取得有價值且可據以行動的深入解析。

提升作業資料管理便捷性,協助系統整合商

在企業取得深入解析時,將資料整合到現有技術堆疊和基礎設施是必須跨越的一大障礙。SmartConnect 解決方案利用舊版智慧和資產管理系統,根據需要新增感應器來取得理想的計量指標。這項物流網解決方案將舊版和新版感應器的資料整合至單一無程式碼的資訊層,消除了取得深入解析的障礙,解決許多公司的困擾。

在現有的資料收集機制上層層堆疊 SmartConnect IoT 的解決方案不需要自訂工作,從而降低價格,讓產品大受系統整合商的歡迎。「系統整合商可以更快回應提案要求,還能消除作業風險。他們希望成長時,可以在沒有額外開銷成本的情況下實現這個目標。解決方案具備可擴充性Seasy 談到:「 從PoC 或試行方案進入生產階段,一步到位。而且系統整合商還可以根據需要在地理或邏輯上擴展或調整。」

資料整合使用案例

SmartConnect 的解決方案幫助北卡羅來納州的一間食品加工公司找出工作流程中的問題,並更加妥善管理作業。

感應器監測各種用於冷凍庫和輸送帶資產管理的參數,從震動到溫度、壓力,還有馬達的健康狀況。多重供應商感應器可以監控以及控制設備與生產流程,卻缺乏統一的串流資料來準確反映資產的健康狀況。

為了解決這個資料缺口問題,這間食品加工公司在廠房部署了一台採用 Intel® 技術的邊緣運算伺服器,執行 SmartConnect Sc-IoTOS 軟體,在雲端整合以及處理內部部署資料,提供即時資料分析。這項部署讓所有相關利害關係人取得所需的資訊,維持作業執行。

在加工廠開始使用 SC-ItTOS 伺服器確保穩定的資料流之前,資產健康資料每隔幾週才能流入,造成關鍵和不同資產的性能評估出現巨大差距。即使是看似微小的錯誤,像是忘記關冰箱門,都可能導致違反健康法規,以及產生昂貴的後果。但現在,即時資料分析在相應的情境下向合適的人員發出警報,提升了生產力和性能,協助公司管理資產,減少停機時間,並實現更高的資產價值。

資產管理的未來:串流資料時代

SmartConnect 背後的基本理論是提供更多即時相關資料分析,並在必要時發送文字警示,這並不只侷限在幾個使用案例上。時間至關重要,重新設計回應與維護服務可以提升效率水準。

實行的可能性無限。水泥、鋼鐵、挖礦、紙漿和造紙製造業,以及製藥等資產密集型產業都能從整合式的串流資料中受益,延長機器的健康運作。

作業範圍可能包括填充生產線、貨物包裝,以及評估機器狀態和可能發生的故障。

同樣重要的是,從難以掌握的可程式化邏輯控制器轉向更容易使用的無程式碼軟體,加上微處理器的閘道,讓自動化更加普及,使全球的製造商受惠。「我們致力於為全球各地的一般使用者帶來自動化功能,」Seasy 表示。

透過無程式碼和較低成本的管理,自動化技術會更加普及,進而改變製造業的面貌和格局。透過資料導向的作業,可以實現最高效的流程。隨著資料深入解析的普及化,無論是大公司還是小企業都不再需要盲目做出沒有根據的決策。

 

本文編輯 insight.tech 編輯總監 Georganne Benesch

All-in-One 醫療 AI 電腦滿足醫療保健運算需求

醫療保健產業中,分別有公司製造醫療保健設備,和供應商使用這些機器與裝置。兩者業務模式截然不同,卻面臨同樣的挑戰和商機。製造商和供應商都積極部署最新技術,但他們必須面對嚴格的規範和短暫的產品生命週期。

傳統的醫療保健裝置設計是資料存放在裝置本機。然而,醫療保健設施對互通性的需求日益增長,AI 支援的醫療電腦解決方案可以支援關鍵任務環境,且在治療過程中處理患者的資料,有效提高醫療保健專業人士的效率。

管理以上所有限制是天大的難題,但現今的醫療電腦可以勝任這項任務。醫院和診所的執業人員可以使用衞生、小巧便攜的醫療級 AI 電腦。不僅如此,高效能處理器實現近乎即時的 AI 分析,協助醫生和護理人員更快、更周全的診斷與治療決策。

跟上 IoT 醫療裝置的 AI 創新技術

對現代醫療影像和患者監測機器來說,邊緣 AI 與電腦視覺益發重要,因為這兩者可以快速分析資料,協助醫師診斷,可是醫療裝置開發很難加入這些尖端功能。醫療裝置開發依法變更硬體和軟體設計平均要 8 到 24 個月,取得臨床試驗認證則要再花個兩三年。

「他們經不起持續升級至最新技術的耗費。」全球醫療電腦暨醫院 IT 解決方案製造商的台灣醫揚科技股份有限公司莊富鈞總經理表示。

而且這些醫療裝置成品上市後,即需長期使用。醫院採用的技術複雜,而且設備通常 10 年以上才會升級,這在醫療 AI 與電腦視覺發展迅速的世界來說,堪稱永恆。

為了盡量維持機器更新,醫揚科技攜手醫療裝置公司、醫院和 Intel──醫揚科技專為醫院和診所生產 all-in-one (AIO) 醫療電腦,而 Intel 提供處理器。Intel 高效能的處理能力是軟體執行邊緣 AI 分析的基礎。

醫揚科技與 Intel 密切合作提供可擴充的自訂設計,有助醫療裝置公司整合最新處理器及自家醫療級運算技術。「我們提供醫療 OEM 與 ODM 最新技術,協助他們搶得先機,所以他們不必擔心裝置上市時技術已過時。」莊總經理說。

在必要時提供機器資訊

醫院、醫療裝置是精心編制的交響樂章,協奏的時機得十分精確。醫師要靠多個來源的資訊診斷並治療患者,其中不乏醫療記錄、實驗室結果、血壓血氧監視器,或 X 光、CT 及超音波掃描儀的影像。但這些機器的製造商各異,使用的軟體通訊協定也不同,基本無法互連,抑或無法連線醫院的 IT 系統,所以醫師往往要調出患者四散的資料。

如果是醫揚科技 AIO 醫療 AI 電腦的系統,就可以指揮交響樂,整合患者記錄、異地機器等所有來源的資料,實現高解析度影像傳輸,及 AI 分析效能,所以醫師可以近乎即時地全面檢視患者的病情。

「傳輸的資料足以提供醫師及時判斷治療方針。這對重症或亟需醫師判斷是否動手術的患者來說至關緊要。」莊總經理說。

除此之外,醫揚科技 AIO AI 電腦符合醫院嚴格的衞生要求。舉例來說,AIO AI 電腦不用風扇冷卻,而是搭載散熱片打造封閉系統,避免空氣傳播病菌至醫院走廊或病房。「我們的電腦可以採用無風扇設計,要歸功於 Intel 節能高效的處理器技術。」莊總經理說。

醫療 IoT 的實際應用:行動護理與遠距醫療解決方案

透過醫療電腦連線患者資訊,加強醫院和診所的互通性。為整合國內醫院網路的技術要求,法國政府聯盟成立人工智慧與醫療保健大會 (CAIH) 最大的目標就是互通性。醫揚科技開發兩種解決方案協助組織實現目標。

第一批行動護理站/護理車設有護理人員可攜出巡診的 AIO AI 電腦。醫療電腦有助他們巡房時仍能隨時留意負責的患者狀況。除了通知護理人員患者的生命徵象,AIO 也協助監測設備,例如知會他們點滴輸液要滴完了。

「AI 監測協助人手不足的醫院妥善照顧患者需求」莊總經理說,「同時協助他們採用快速成長的遠距醫療」。至於另一個為 CAIH 開發的解決方案,醫揚科技讓 AIO 電腦搭起醫師與患者、照顧者,及遠距設施的醫療設備──包括沒有醫師駐點的技術性護理之家的連線。

醫師可從自己的 AIO 電腦為患者看診,然後指引護理人員使用醫療儀器,例如可攜式超音波機器,或檢查耳鼻喉、皮膚等儀器。裝置搭載高解析度攝影機,醫師會收到醫療級影像。

「透過這些資訊,醫師可做大致的診斷,並迅速判斷患者是否需要立即就醫。」莊總經理說。不然大多患者只能直接送醫院,對技術性護理機構如同難題。

另外,醫揚科技 AIO 電腦支援 5G 通訊,遠距設施可以使用 5G 網路傳輸患者生理資料警示,或直接警示醫師或護理人員患者意外跌倒,不必等候雲端處理資訊。

建立未來趨勢技術

隨著 AI 功能增強,醫療電腦在患者照護方面的用途越大。「但為了不失實用性,AI 功能必須配合相關機器發展」莊總經理說。

「醫療電腦需要貼近醫療裝置。我們觀察到醫療電腦與專用機器連動的需求增加,且資料處理速度的需求也日益增長。醫揚科技電腦內建最新的 Intel 技術後,即可滿足這些需求。」莊總經理補充。

 

本文由 insight.tech 編輯總監妮.貝內施(Georganne Benesch)編輯。

AI 與 電腦視覺提升生物醫學研究

生物醫學研究的突破通常來自於對相關性和因果關係的理解,也就是瞭解人體生理過程的本質還有運作方式。

科學家透過建立資料集的相關性來觀察現象,例如癌症發生率較高或是對疫苗反應更好等等。接著,他們會研究這些相關性背後的原因。按部就班反覆進行這種生物醫學的研究雖然單調乏味,卻非常值得。

現在,AI 驅動的電腦視覺應用於醫療造影,加速資料相關性的發現。這項技術更快找出值得探索的問題點。在這個過程中,AI 協助人類迅速聚焦在問題上。而且還能夠幫助人類科學家加快找到改變生活的醫學解決方案的速度。

醫療造影中的 AI 模型

Mayo Clinic 使用 AI 和機器學習大幅提升超聲波影像功能就是其中一個使用案例。這間醫療機構首先採用 Intel 和 Dell 的最新技術、工具和產品,也就是 Intel® Geti 平台還有在 Dell 邊緣系統上執行的 Intel® OpenVINO 工具組,從內視鏡影片中找出腎結石,以及評估心臟功能的醫護點(POC)超聲波影像。

Dell Technologies 是提供廣泛產品組合和全面服務的解決方案供應商,公司的生命科學策略全球負責人 Alex Long 表示,Mayo Clinic 在使用 AI 超聲波影像方面的工作是這項技術特別有用的案例。長久以來,超音波的判讀一直都充滿主觀性,又容易出錯,而且要求專業的訓練。

但大量資料訓練的視覺 AI 模型可以協助照護人員在病床邊提供更個人化的照護。透過 AI 增強護理工作能夠更快速、更準確發現異常,而且需要的訓練成本也非常低。透過預先訓練的模型和主動學習,現代方法讓這些模型的快速開發和部署成為可能。Myao Clinic 的 David Holmes 博士表示:「我們的照護人員明白利用 AI 協助患者照護的好處,但像是 POC 超音波這樣的情況還沒有可行的 AI 模型來做使用。」他的工程師團隊利用互動式 AI 模型化工具迅速開發 AI 解決方案,評估病床邊影像的品質,確保患者照護過程中採用最佳的影像。

AI 在醫療造影中的應用不僅僅是作為診斷工具的功能。Long 表示:「透過視覺 AI 判讀影像資料,準確增強人類的能力。」診斷醫師接受專業訓練,從檔案篩選出問題,AI 引導他們擴大評估的範圍也有助益,例如評估乳房攝影檢查來發現乳癌早期徵兆就是一個很好的例子。AI 的優勢在於找出人眼可能因為確認偏誤而忽略的模式。

生物醫學研究中的其他情境也可能從 AI 受益,特別是涉及影像資料的情況。Long 表示:「事實證明,有很多有很多其他視覺相關的醫療系統。」這些醫療系統都可以透過使用 AI 作為增強人類能力的工具中受益。

合作推動創新技術

Intel 和 Dell Technologies 的夥伴關係促成了這些 AI 驅動的突破。Long 表示:「社群的定義是志同道合,共同努力實現目標的一群人。我們親眼見證到 Intel 和 Dell 在打造一個醫療生命科學的社群。」

這兩間公司之間的合作多年來隨著時間逐漸發展和加強,Holmes 博士的工作就是雙方發揮實力的一個例子。Intel 和 Dell 的醫療解決方案團隊以及技術和產品平台讓他們能夠和頂尖的生物醫學研究人員和供應商合作。

Long 表示:「 Dell 所帶來的是我們產品組合的廣度、合作關係的深度,還提供所需要的 IT 和基礎架構專業知識。」除此之外,Dell 也不忘醫療保健產業非常重視隱私還有保護病患敏感的健康資訊。Long 談到:「採用技術不只是為了控制成本,而是要透過技術推動人類對改善健康的倡議。我們致力於推動人類照護的進步。」

人工智慧在醫療業的前景

Mayo Clinic 讓我們得以一窺 AI 模型在生物醫學研究中的潛力。我們才剛開始探索 AI 在視覺影像資料上尋找相關性的方法,引導人類朝著新的探索方向前進。

研究人員通常會尋找相關性資料來得出結論,Long 表示:「AI 是用來識別相關性最好的選擇。我對 AI 在加速診斷、改善病患照護、迅速理解下一坡啟發法和療法的潛力非常期待。」

人體還有許多未知之處。AI 所能促成的發現量簡直是歎為觀止,因此處於科技與醫學交匯的當下非常振奮人心。AI 可以透過訓練,聚焦在多年的資料上。這所帶來的成果可能會是一場革命性的突破。

 

本文編輯 insight.tech 編輯總監 Georganne Benesch

機器製造商透過下一代產品獲得優勢

幾乎在每個產業都找得到新的邊緣 AI 和電腦視覺技術使用案例。在工廠裡面,自動光學檢測(AOI)和工業機器人等應用提高了作業效率。在醫療保健領域,這些技術增強了醫學影像和診斷的能力。還實現了我們的城市更智慧化的交通管理,以及提升辦公室和公共空間的安全性。

這麼多不同產業採用 AI 的現象也改變了企業領袖對未來的展望。AI 不再被視為在遙遠的未來才會實現的技術。AI 已經開始為各種類型的組織帶來正面的成果。研華科技(Advantech) 的產品經理劉家懿表示:「AI 正在被應用於現實世界的各種情境中。」研華科技(Advantech) 是邊緣 AI 平台和 AIoT 解決方案的供應商。「在當今的決策者的眼中, AI 是保持競爭力的『必須品』。」

現在是 AI 解決方案開發者絕佳的機會,但他們面對需要克服的挑戰,例如採用 AI 運算解決方案、整合軟體 SDKs、AI 模型訓練等等。

可喜可賀的是,嵌入式硬體夥伴關係讓強大、開發就緒的 AI 運算能力成為可能,像是華研科技(Advantech)的 GPU 卡 EAI-3101,設計搭載 Intel® Arc A380 GPU 。GPU 主要提供視覺影像最佳化,是目前用於增強 AI 運算能力的主要加速器之一。 

最新嵌入式 GPU 卡支援多種 AI 使用案例

EAI 系列產品提供全方位的 AI 加速和顯示晶片解決方案,包括多款搭載 Intel Arc 顯示晶片的 PCIe 和 MXM GPU 卡。隨著即將亮相的 Intel Arc A380E,研華科技(Advantech)推出了 EAI-3101,這是一款全新嵌入式 PCIe GPU 卡,搭載 Intel Arc A380E,而且壽命長達五年。這款 GPU 卡採用 128 個 Intel Xe Matrix AI 引擎,提供 5.018 TFLOPS 的 AI 運算能力。透過最佳化的散熱解決方案和自動智慧風扇,這些 GPU 卡可以滿足各種使用案例,例如遊戲、醫療分析等。這些設計經證明在 AI 推斷功能和顯示晶片運算方面超越競爭對手。

豐富的選擇代表不管預期的使用案例是什麼, OEM、ODM 和機器製造商更有可能找到符合需求的運算平台。例如,工業領域的機器製造商最有可能選擇其中一種常用的 PCIe 配置卡,而醫療設備製造商可能會偏好 MXM 卡小巧的外型規格和抗震抗振性。

「Intel® Dynamic Power Share Arc GPU 和 Intel GPU 可以自動而且動態(重新)分配組理引擎之間的電源,為各種邊緣負載工作提升穩定、高效能的運算,」劉家懿表示。「Intel® OpenVINO 工具組幫助我們加速 AI 推斷時間、減少 AI 模型佔用空間,還有最佳化硬體使用率。」

華研科技 (Advantech)和 Intel® 的 開發夥伴關係能讓 Intel 的最新產品更快上市,因為他們可以提早取用最新一代的處理器。 即使華研科技(Advantech)的客戶已經全面部署現有解決方案,這對他們來說是一大利好。例如智慧交通管理解決方案的製造商 ISSD Electronics 在土耳其部署了智慧交通管理系統,他們最近升級這項解決方案, 加入研華科技(Advantech)的EAI-3100 系列。劉家懿表示,這間製造商因此改善了系統的準確性、減少 AI 推斷延遲,構造成本也降低了 33%。

研華科技(Advantech)也宣布了 AIR 邊緣 AI 推斷設備的新模型:

  • AIR-150:採用第 13 代 Intel® Core 處理器的小型、無風扇邊緣 AI 推斷系統
  • AIR-310:搭載 MXM-GPU 卡以及第 14 代 Intel® Core 處理器支援的邊緣 AI 盒
  • AIR-510:採用第 14 代 Intel® Core 處理器和 RTX 6000 Ada 的邊緣 AI 工作站

這些邊緣 AI 平台 採用最新的 Intel 平台,適用於各種情境。企業可能會為辦公室選擇相對輕巧的 AIR-150。為了實現工廠的 AMR 自動化管理,AIR-310 提供所需的工業協定和具有可擴充性的 GPU 運算能力。至於可能需要更高顯示晶片運算的視覺輔助醫療解決方案,更強大的 AIR-510 是比較合適的選擇。

推動 AI 應用程式開發公平的競爭環境

除了硬體產品外,研華科技(Advantech)還提供跨平台邊緣 AI 軟體開發工具組(SDK)SDK 提供了評估 AI 應用程式在解決方案開發過程中早期硬體需求的基準工具。這有助於開發者選擇最適合解決方案的硬體,防止在過度的運算能力上超支。另外,SDK 還支援部署後的即時監控和無線(OTA)AI 模型更新。

OpenVINO 作為 SDK 的一部分,提供了模型最佳化和硬體加速的優勢。 開放原始碼推斷工具組還透過支援 PyTorch、TensorFlow和 PaddlePaddle等多種 AI 模型框架,幫助 AI 開發者簡化模型部署和軟體開工作流程。

開放原始碼工具組和 SDK 的可用性,再加上成熟的邊緣 AI 產品生態系統,能夠幫助更多的機器製造商、OEM 和 ODM 在穩定、開發就緒的 AI 運算環境以更有效的方式競爭。有助於縮短整體解決方案的開發時間,讓設計師更快推出創新產品。

研華科技(Advantech)也提供了邊緣 AI SDK,這是一款 AI 工具組,用於建立友善環境,從評估、採用 SDK,到在前面提到的 EAI 和 AIR 系列產品上部署。未來幾年,我們會看到更公平的 AI 應用開發競爭環境,有些人說這是「AI 民主化」。

劉家懿認為,以 AI 越來越發達的世界來說,這是應該走的正確道路。「AI 的力量不應該只掌握在少數公司手上。像我們的邊緣運軟平台、SDK 和 OpenVISO 這樣的資源都應該讓所有人運用,」劉家懿說道。「未來 AI 會無所不在,這就是為什麼我們需要這些開放又強大的解決方案。」

 

本文由 insight.tech 編輯總監妮.貝內施(Georganne Benesch)編輯。

機器視覺軟體提升煉油廠營運效率

煉油業深知當利潤微薄時,即使在業務營運各方面有最微小的改善,也會迅速累積成果。這個行業受到諸多挑戰壓迫,包括人力短缺和基礎設施陳舊等等。公司也競相為了符合嚴格的全球永續標準而努力。為了解決這些問題,這個業界仰賴自動化和其他先進技術,以在日常營運的近乎每個環節提高細微效率。

在這種背景下,南非的 Impala Platinum Base Metal Refinery 運用電腦視覺和邊緣 AI 技術,確保高效率的營運。NTT 子公司 Britehouse Mobility 的一個製程最佳化專案,展示機器視覺軟體如何協助改善硫酸銨的複雜生產過程,這種無機鹽具有多種商業用途。

生產硫酸銨的挑戰

硫酸銨是煉油廠生產的副產品,可作為農業肥料,以及用於釩的製造過程中。生產該產品的設施必須符合農業、林業和漁業部規定的特定標準。影響工廠生產硫酸銨的關鍵標準,是其鎳含量不得超過 200 ppm。但鎳顆粒會附著於較小的硫酸銨晶體。防止鎳進入最終產品的一種有效方法,是使用振動篩選機來篩選產品。

振動篩選機會造成大量塵埃,尤其是存在有非常細微的顆粒時。為此,振動篩選機需要完全封閉,這使得篩網堵塞時難以察覺,通常只有在離線後打開篩選機時才會發現。堵塞的篩網會讓含有鎳的細微顆粒進入最終產品,如果太晚發現此狀況,便會影響硫酸銨的品質。

定期開啟篩選機相當花費時間。因此,線上監控系統可讓生產團隊在篩選機內發生栓塞或堵塞時,迅速做出反應。另一個好處是因為振動篩選是流程的最後一步,相機能夠輕鬆偵測到上游流程的其他問題。

機器視覺與 3D 相機的實際運作

Britehouse Mobility 解決方案展示了立體相機的使用情況,並且能防止振動篩栓塞和堵塞問題,以避免降低最終產品輸出的品質。結合相機後,機器視覺演算法便能研究輸出,並且識別篩選機堵塞的狀況。

所有曾用智慧型手機拍照的人,都能體會在搖晃情況下拍攝清楚照片所面臨的難題。開發解決方案的挑戰,在於找到可在這種條件下運作的相機。

Britehouse Mobility 的資深解決方案架構師 Donovan Bell 表示:「這不只是台相機……還要足夠堅固,能在嚴苛環境的殘酷力量下生存下來」。此外,相機還必須隨著篩網移動,才能有相同的共振,使相片不會模糊。

團隊將相機放在適當的照明條件下,訓練機器學習模型來識別正常與堵塞的篩網的樣子。最終結果會獲得評分,讓操作員能在介入前判斷問題的嚴重程度。立體測量提供的資訊不僅包括栓塞和堵塞的程度,還包括不良鎳的重量和尺寸。Britehouse Mobility Atajo OnEdge 平台透過邊緣即時資料處理和雲端技術的擴充,提供可視化資訊並在必要時提醒操作員。

Britehouse Mobility 的物聯網部門主管 Marco Capazario 表示:「這種解決方案減少了人員中斷作業、打開蓋子,查看振動篩下情況的次數,而提高了安全性和效率。」

此外,員工現在能夠以被動代替主動。Capazario 表示這不僅是關於監控堵塞問題。他補充:「這讓他們能深入瞭解上游的問題,並賦予深入挖掘根本原因分析的能力。」在眾多問題當中,Britehouse Mobility/NTT 解決方案能夠回答:為什麼我們會在特定時間損失效率,以及造成和產生這種損失的上游工廠發生什麼情況?我們能否透過資料洞見來找出這些答案?

協作示範煉油廠的創新

透過 Intel 的指導,Britehouse Mobility/NTT 與 Framos 合作,後者在工業級機箱內安裝 Intel® 實感 相機。這次合作有助於 Britehouse Mobility 更快速地運用相機。實感相機具備立體功能和深度感知功能,而能滿足要求。

由於物件偵測和立體大小調整應用程式並不會太複雜,因此解決方案不需要大量運算。「我們並非要嘗試以每秒 60 幀的速度分析即時影片。但如果要這樣做,我們能將資訊傳送至雲端,並利用 Intel 工具為我們提供成果。」Bell 表示。

雲端技術的 Atajo OnEdge 平台能從閘道獲取並儲存資料,以便進行歷史分析。平台使用者能透過儀表板和報告來追蹤長短期趨勢。

電腦視覺的無窮應用

雖然 Britehouse Mobility/NTT 解決方案是專為 Impala 使用案例設計,但與機器視覺相關的核心技術能夠更廣泛地運用。團隊正在為 Impala 開發另一款應用程式,能夠監控機動起重機的安全與現場合規性。

Capazario 表示:「我們已將硬體工業化,擁有高度可配置的軟體層,讓我們能安裝模組並快速部署特定應用程式。我們有很大的機會來改善一系列流程。」實作不必只限於煉油業。製造業和其他行業也已經瓜熟蒂落。Bell 表示:「這項技術有近乎無窮的用途。」

 

本文編輯 insight.tech 編輯總監 Georganne Benesch