3D LiDAR 提供空間智慧

請回想一下,您上次在繁忙市中心參加音樂會這類大型活動的情景。您八成為了找停車位或通過閘門的層層安檢吃足苦頭。另外,販賣部或廁所的人龍也是場硬仗。排除這些惱人的情況,能夠大幅改善訪客體驗。活動主辦單位也能受惠。

正因如此,機場、市政府和娛樂場所才會壓寶投資 LiDAR(雷射探測與測距),一種特別適合提供空間智慧的脈衝雷射型技術。若是運用 LiDAR,不僅能提供人數和車輛數量的相關資訊,還能一窺人流與車流及其互動情況。也就是說,主辦單位能維持安全性,並且即時發現及緩解瓶頸。

3D LiDAR 的優勢

3D LiDAR 解決方案領導廠商 Outsight 總裁暨創辦人 Raul Bravo 表示:「安檢和人群控管對於大型基礎設施場所和活動是一大難題,但卻是 LiDAR 格外擅長的工作。

Bravo 表示:「雖然提及監測裝置時,多數人可能會想到閉路電視和 IP 攝影機,但這類裝置的二維功能在追蹤三維實體世界時發揮的效果有限。」「與傳統電腦視覺不同,LiDAR 無法判斷一個人穿的是紅色襯衫還是綠色襯衫,但它知道該人的速度或位置,同時以 3D 捕獲的形式提供數據。」

有鑑於 LiDAR 的功能,數位孿生已經利用這項技術取得實體世界相關資料一段時間了。Bravo 表示:「LiDAR 技術新興的應用方式不僅能繪製靜態的實體世界,還能將人車即時移動方式數位化。」

另外,LiDAR 這個解決方案本質上屬於匿名,這點也讓組織很安心。由於 LiDAR 不會擷取影像,而是單純只擷取物的距離,因此隱私保護原本就是設計的一環。不靠拍攝人的照片就能監測人群,並且維護隱私,是遵守大量政府法規的關鍵。

3D LiDAR 資料處理難題

雖然 LiDAR 優勢很多,但產生的資料卻處理不易。將 3D 空間智慧資料整合至傳統電腦視覺技術的成效不彰。Bravo 表示:「您反而必須為了解決這種問題,設計特定演算法與技術。」

此外,光是 LiDAR 產生的資料量也是一大難題。Bravo 表示:「我們在全球數一數二大的機場部署 LiDAR 時,同時動用了成千上百個 LiDAR 單位。」「每單位傳來的資料量,相當於一百個人串流 Netflix 的資料量。」

LiDAR 領域的設計、模型和製造商五花八門也是一大問題。Outsight 平台不僅能讓這些難題全部迎刃而解,還可與任何 LiDAR 製造商或模型搭配使用。這項解決方案可開發動態數位孿生,以每秒 20 次的超快短片傳送實體世界的相關資訊,即時提供深入解析。這些深入解析可傳送給合適的對象,以及採取警示的形式。

視覺空間智慧使用案例

Outsight 能協助解決的問題適用於智慧城市、交通中樞以及國際活動。如果機場行李託運區湧入太多人,那麼該解決方案會提醒安檢隊伍後續環節的工作人員,可能出現人流堵塞的情況,接著他們便可加派人手因應。

舉例來說,華盛頓州貝爾維市採用 Outsight 的 LiDAR 解決方案,在十字路口偵測車輛太靠近自行車或行人的虛驚情況。LiDAR 尤其有完善的設備,能在夜間擷取這類事件。這些資訊協助該市採取更主動的措施,例如更清晰的車道標線,實現在 2030 年前消弭交通致命事故與重傷的目標。Outsight LiDAR 還能協助智慧城市即時因應交通流量問題。舉例來說,如果車輛併道時開錯車道,可能會有閃光燈亮起,提醒駕駛人改正錯誤。

大規模管理實體人流和車流時,您必須確保訪客體驗順暢,運作成效卓越。票務隊伍長度以及排隊時間這類關鍵效能指標極為重要。

Outsight 的 LiDAR 解決方案在 2024 年巴黎奧運會,協助解決了安檢與人群管理的問題。Tomorrowland 則是 Outsight 大顯身手的另一個案例,這場比利時一年一度的音樂節,規模在全球數一數二,每年吸引成千上萬樂迷前來共襄盛舉。

空間智慧的技術基礎架構

空間智慧即將把實體世界數位化,並且從數位化資料創造深入解析。高效處理大量資料的處理能力,是實現這項目標的必要條件。Outsight 仰賴 Intel 產品與技術大規模部署解決方案。

Bravo 表示:「實現能源效率需要有採用 CPU 型而非 GPU 型解決方案的特定高效軟體演算法。」Intel CPU 正好能實現這種解決方案。

展望未來,Bravo 對於實體世界數位化在智慧城市、機場與場館之外的諸多可能性感到雀躍。Bravo 表示:「過去甚至無法想像的豐富獨特深入解析與智慧可能變得唾手可得。」「我們正邁向數位轉型的新世界。」

 

本文由 insight.tech 編輯總監妮.貝內施(Georganne Benesch)編輯。

IPC 加速醫療裝置製造商的上市時間

AI 支援的醫療裝置在護理的各個階段都能發揮關鍵的作用:從診斷工具到 AI 增強的數位手術室,以及促進患者復健的術後 AI 分析。

對於醫療設備製造商來說,這是前所未有的機會。但要想把握機會,他們必須尋找創新的方法,縮短開發時間、克服硬體整合挑戰,並符合醫療產業嚴格的認證標準。

為此,製造商正改用專為醫療 AI 使用案例打造的工業電腦(IPC),可降低風險和不確定性。

「在產品生命週期較長的產業,醫療裝置製造商持謹慎態度,不會貿然將複雜的 AI 技術整合至解決方案,這是可以理解的,」頂尖物聯網智慧系統與嵌入式平台供應商 Advantech 產品管理副總監 Emily Teng 表示。「建立在專為醫療 AI 設計、久經驗證的硬體平台,有助於簡化流程並加速上市時間。」

為了適應各種使用案例,Advantech 醫療平台能為法規遵循和量身訂做而設計。  這使設備製造商處於「兩全其美」的境地,因為他們可以透過 OEM/ODM 和聯合開發模式,取得可現成使用的運算平台。

AI 醫療裝置的開發模型

Advantech 與兩家醫療解決方案供應商合作,突顯 IPC 對裝置製造商的優勢,並展示他們如何根據需要來支援不同的產品開發模型。

在其中一個案例中,OR 解決方案整合商試圖使用 ODM 方法開發新的影片解決方案。但該公司擔心自訂硬體設計可能要承擔責任,工程上遭遇的挑戰也令其難以招架。

為了解決這些問題,製造商決定使用 Advantech USM-500 電腦作為新解決方案的基礎。因為 USM-500 旨在滿足法規要求,例如 IEC 60601-1,其中規定了醫療設備的電氣安全標準,以及防止其他裝置干擾的電磁相容性(EMC)標準。這表示公司不必經過耗時且昂貴的硬體認證流程,也不必承擔額外的責任。結果就是大幅加速推出:詢價到大幅生產,短短六個月就能完成。

「想要避免冗長認證流程的製造商可以『依現狀』使用我們的解決方案,因為從運算系統到影片擷取,乃至於網路介面控制器卡片,皆為醫療用途而完整配置和認證,」Advantech 解決方案架構師 Matt Wieborg 表示。「但有些客戶需要更強的自訂,因此我們設計具有廣泛擴充功能的 IPC,這為製造商提供強大的基礎,同時具備充分的靈活性,可微調所需並相對輕鬆地投入生產。」

舉例來說,另一家醫療裝置製造商打算利用具有高功率要求、更具互動性之使用者介面的影像擷取卡,打造解決方案。

Advantech 的設計團隊與該公司的工程團隊合作,打造量身訂做的設計。他們將 10 吋的 LCD 顯示器內建到裝置的前邊框,以滿足 UI 要求。為了支援客戶偏好的影像擷取卡的電源需求,Advantech 相應調整裝置的 I/O。結果是一個高效能的解決方案,利用 IPC 的核心功能,同時提供製造商的自訂需求。

確保臨床邊緣的穩定與安全性

當醫療設備製造商在經過測試的運算平台上建置,就能更有效率地將解決方案引進臨床環境。因為這些平台由硬體專家設計,因此也具備額外的資訊安全性和產品壽命優勢。

舉例來說,Advantech 以多種方式協助合作夥伴提升網路安全和資料隱私。該公司向裝置製造商引進基本硬體產業的最佳做法,例如使用值得信賴的平台模組和內建加密引擎,確保更優異的網路安全。透過在邊緣提供高效能處理,也藉由減少傳送至雲端進行處理的患者資料數量來提升隱私。此外,Advantech 還可讓裝置製造商更輕鬆地安裝安全性修補程式和作業系統更新。

就解決方案穩定性方面,Advantech 與 Intel 的技術合作尤其有利。

「Intel 的產品組合在邊緣 AI 使用案例中表現出色,涵蓋我們醫療裝置製造需求的整個範圍,從低功耗處理到伺服器級運算無所不包,」Wieborg 表示。「此外,在這個領域,擁有可靠且使用壽命長的平台尤為重要。我們有很多買家只考慮 Intel 解決方案,因為它的穩定性名聞遐邇,而且買家知道 Intel 會在往後多年繼續支援這些產品。」

合作夥伴關係是醫療 AI 的未來

符合監管要求且靈活的醫療級硬體一旦可供使用,將能幫助愈來愈多的醫療設備製造商將 AI 整合至產品。這也進而推動更廣泛的 AI 產品生態系統,其中醫療解決方案專家和硬體供應商之間的合作關係是關鍵所在。

有鑑於醫療保健環境中的各種 AI 實作,這對裝置建置商來說是一大幫助,他們需要擁有針對不同配置、環境條件、監管要求和運算規格進行建構、經驗豐富的硬體專家支援。

但 Advantech 表示,醫療電腦製造商也能夠從這些合作夥伴關係中受益:

「我們很榮幸能與眾多頂尖醫療裝置製造商合作」,Wieborg 表示。「客戶的心聲是我們產品線的指南針;客戶向我們提問、我們提出解決方案,這就是我們未來繼續取得成功的方程式。」

 

本文由 insight.tech 編輯總監妮.貝內施(Georganne Benesch)編輯。

利用 3D LiDAR 解鎖全新可能性

我們都很熟悉雷達的概念。但是否記得這個字其實是「無線電偵測和定距」的縮寫,如今已擺說原先大寫的模樣,成為通用名詞和概念?(以及電視節目 M*A*S*H 中的熱門角色)那麼,何謂相關但更注重技術性的「LiDAR」?這個代表「光偵測和測距」,但其實不是新技術,但最近越來越受到矚目,特別是在自動駕駛汽車和地面測繪領域,儘管其用途遠遠超出自駕車和考古學。

最近,我們訪問了 AI 驅動的 3D LiDAR 解決方案供應商 Quanergy Solutions市場開發和結盟副總裁 Gerald Becker。他見證了技術在汽車以外,以及各行各業和企業之中發展。他談到 LiDAR 如何提升營運效率和工作流程、2D 轉為 3D 的優點,以及說服人們採用新技術的挑戰(影片 1)。也許很快有一,LiDAR 將會融入我們的生活之中,然後我們就會在字典中看到「LiDAR」。

影片 1. Quanergy 市場開發與聯盟副總裁 Gerald Becker 在「insight.tech 講座」上談及 3D LiDAR 的崛起與進展。(資料來源:insight.tech

LiDAR 如何超越自動駕駛汽車?

LiDAR 已經存在數十年,但直到過去 10 年左右,我們才真正看到其能耐。人人皆知 LiDAR 被用在汽車(那曾是終極目標)以及機器人與地面測繪,但仍有許多可應用之處。

在 Quanergy,我們已經轉向並瞄準了一個不一樣的市場,與實體安全、整合管理平台、影片管理、軟體解決方案、攝影機、商務智慧和實體存取控制系統的參與者保持一致。他們將我們的感應器整合至平台,提供各種事件發生到採取行動的工作流程。這讓終端使用者能夠探索如何以不同方式解決老問題,以及獲得前所未有的準確度以及解決新問題的新局面。

我負責 Quanergy 的實體安全、智慧空間和智慧城市領域,且在這三個市場中 3D LiDAR 的應用非常廣泛,因為過去一直侷限於使用攝影機或其他 1D 或 2D 技術物聯網感應器。3D 技術的出現,以及我們在過去幾年開發的整合生態系統,提供超越兩個維度的靈活性,以及超越這個空見感測的常見習慣。

這種全新的維度深度如何使企業得益?

舉例來說,在安全性方面,我們主要使用雷達、攝影機以及影片分析進行一些非常非常重要的事,我們的 3D 感應器現在可以提供以釐米級 360 度的深度和體積。相較於所有舊式技術,這增加了總體擁有成本優勢,並減少報錯次數。

在舊式技術中,只要出現移動或分析追蹤潛在的違規行為,都會自動觸發事件。當出現成千上萬的警報,卻因為分析師無法辨認出這不過是一個路過報錯,那這就會是一個大問題。我們的感應器能在 3D 空間提供 98% 的偵測、追蹤和分類準確度。

從商務智慧方面來看,我們能夠提供空間內更高程度、更深入的理解。零售業就是其一。我們可以瞭解消費者的歷程,採取的路徑、接觸的產品,以及排隊等候的時間長短。

無須將攝影機四處固定後串聯,而是安裝一個提供 360° 的 LiDAR 感應器,提供完整 360° 全景,並了解人們如何在這些空間中互動。我們能夠提供許多很棒的成果,這是從未在 2D-感測技術上獲得的。

LiDAR 在應用方面面臨了哪些挑戰?

我認為在使用 LiDAR 方面,如果新技術超出熟悉的範圍,有些人可能會有點緊張。當我在對 LiDAR 影像進行解釋時,總會回顧我最愛的電影《駭客任務》。還記得尼歐在史密斯探員穿過大廳時,看到許多的 1 和 0 從天而降嗎?這就是我們所看到的。我們不會向看到攝影機那樣,可以看出我穿著藍色馬球衫。對我們而言,一切看起來就像在 360° 全景中具深度和體積的 3D 輪廓。

這也是得花成本的。你必須從高層級來檢視。我總是使用我年輕時從資深銷售人員那聽說的這個類比—一整個「冰山理論」。在比較不同解決方案的成本時,您不能只看冰山一角。攝影機可能只要幾百美元,但 LiDAR 可能得花幾千美元,還有軟體等等。

但潛在成本會低於冰山,對不對?在某側安裝七到八個攝影機對比安裝一臺設備?看看付出的勞力;看看部署這些攝影機所需的導管、電纜、許可證和維護成本。因此,當你瞭解舊式技術對比該領域的新技術在安裝方面的複雜度,LiDAR 就會顯得真正符合成本效益。

公司如何利用現有的 3D LiDAR 基礎架構?

任何解決方案的分層方法可能是最佳途徑。世界上沒有一種單一技術可以解決所有使用案例。有人想這樣對你推銷?請轉身快跑,因為這不可能。但當你將多種單項優勢軟體系統整合部屬,就能取得最佳成果。

我們具備龐大且整合的技術合作夥伴生態系統。舉例來說,我們與 2D 成像技術合作:如 Bosch、Axis 、Hanwha 等攝影機公司。如果您需要識別什麼,那麼一個身穿藍色馬球衫的壞人可能會突破重圍!攝影機可以幫助我們察覺。但是,當你需要的是實際偵測、追蹤和分類時, LiDAR 會提供光是使用攝影機無法獲得的全新結果。

假設你使用的是嵌入式攝影機上傳統平移、俯仰、對焦的自動追蹤。傳統 2D 技術與自動追蹤的問題在於,當藍色馬球衫先生在東西後方或進入另一個區域時,攝影機並不知道會發生什麼事。

但如果你在整個空間、上下廊道、停車場等有足夠的雷射散佈,就能準確偵測到物體或人員。透過我們的解決方案,我們可以讓攝影機知道:「嘿,攝影機,注意這堵牆。我們知道這人躲在牆後。」當這個人從牆後現身,我們還可以讓攝影機知道要追蹤藍色馬球衫先生。

解決方案的另一項優點是,我們提供網狀架構。如果空間中有足夠的 LiDAR ,只要雷射重疊,就會打造出這種大型數位孿生。這能為你提供其他技術從未有過靈活性。你可以真正地放大並旋轉上下通道、上下廊道、牆壁的另一側、周圍的樹、周遭所有的東西。

能講講一些客戶用例嗎?

有一間全球資料中心公司向我們提出了一個非常具體的問題。在他們其中一個站點的 33 週測試中發生了 178,000 次警報。現在,當我告訴你這些警報中只有兩個是真的時候,這顯然就是大海撈針。想想看,在安全措施中確認警報的作業:點擊一下。複核。不是嗎?刪除。試著這麼做 178,000 次,找出那名因某事被開除且不應該出現在公司的不滿員工,利用 USB 裝置插入網路,並摧毀一家價值十億美元的組織。

這間公司的人明知有問題,並測試了一切可能之事,包括AI、雷達、事實核查技術、地下電纜。他們最終採用了我們的解決方案,並利用他們最好的網站和我們的網站進行了一場激烈的較量。他們最好的網站發出了 22,000 個警報;我們的網站卻只發出五個真實警報。這讓他們省下了 3,600 個無意義調查工作的小時。

這是另一個有趣的案例。佛羅里達州有許多開合橋。它們又升又降,如果人或汽車在轉換過程中意外落水,就會面臨責任問題。我們利用位於橋樑兩側的 LiDAR 解決方案進行了一些初步測試,得以基本追蹤物體(人或車輛)是否進入場景之中。如果有任何事發生,就可以阻止橋樑上升,或者通知便停中的橋樑管理員:「不要升起橋梁」。他們利用了 LiDAR 的 POC,取得非常大的成功,現已部署在佛羅里達州的好幾座橋梁上。

再多說說有關您合作夥伴的生態系統。

不同於多數主要專注於 GPU 處理且需要處理大量資料的 LiDAR ,我們略有不同。我們的感應器專為流量管理和安全應用建造,無需要收集及推送大量資料。因此,我們採用 CPU 式架構,這意味著更符合成本效益。還具有高擴充性,且因為與 Intel 保持一致更是如此。

我們與 Intel 的夥伴關係亦代表著我們每天都能發現全新的使用案例。目前我們正在探索實體和倉庫自動化,我們可以提供超越傳統空間類型查看方式的 3D 感應。隨著我們持續擴充和成長,與 Intel 的夥伴關係對我們來說非常有價值。

您如何預測這個領域的前景?

AI 的出現,以及大型學習模型的發展情況。有許多的事同時在發生,利用電腦視覺和進一步瞭解場景中正在切割的內容,以瞭解更多通用性,從而產生不同結果,講述不同的故事,最後取得最終結果。是好人還是壞人?這是否為一個良好的工作流程?

因此,隨着 LiDAR 與 AI 技術結合,我們可以實現更多尚未做到的成果。我們還處在非常早期的階段,但這領域確實存在大量的機會。

我們已經過了 LiDAR 的初期(即「嘗試階段」,而且現在有很多人都在談論它是如何提升工作流程並提供額外價值。所以我想,現在遠比任何時候都更應該採取行動、開始測試,開始提出問題:LiDAR 能為我做什麼我以前沒能力做到的事?看看你現有的用例,自問:如果我具備深度、體積、且以釐米級的準確度,那如何改善我的日常工作流程、工作,並為公司整體提供更多價值?

相關內容

如果要瞭解更多有關 3D LiDAR,請觀看「透過 3D LiDAR 應用程式查看更大願景」。若要瞭解 Quanergy 最新的創新技術,請用 @quanergy 在 X/Twitter 和LinkedIn 上追蹤他們。

 

這份文字記錄由文案編輯 Erin Noble所編輯。

影像擷取卡測試車用攝影機

駕車時十分仰賴視野是否清晰。

無論周圍環境是刺眼、昏暗或下雨,行經其他車輛、行人或障礙時絕不容失誤。幸虧科技持續進步,先進駕駛輔助系統 (ADAS) 採用視覺解決方案,協助人類駕駛偵測這些物體。

車輛配備的 ADAS 視覺系統,附有一組攝影機會即時串流車輛內外的影像。再由電腦擷取串流的影像,分成影格交給視覺處理器分析。

車載視覺系統的挑戰

雖然在 ADAS、自動駕駛、電動車來說,視覺系統的功用很重要,但業界沒有一致的標準可以評量視覺系統。再者,傳統的視覺系統無法確切判斷周遭環境。考量到車輛亟需有效的視覺,實驗室必須徹底測試車用攝影機,且經過生產線產品測試,才能安裝至 ADAS 解決方案。「影像擷取卡就負責這類測試」影像處理系統供應商、眼雲智家科技有限公司執行長暨創辦人袁坡說。

車輛移動時,電腦會從視訊擷取靜止的影像,然後傳輸給視覺處理器。影像擷取卡在研發環境,及攝影機的生產前測試會執行相同的功能。「攝影機是獨立生產的模組,最後才會組裝至車輛。但在此之前,攝影機一定要經過校準、測試和品管。」袁表示。

影像擷取卡使用案例

在實驗室環境中,影像擷取卡會協助測試攝影機在昏暗或其他極端環境時,提供的影像是否清晰,藉此評估攝影機的功能。

至於生產階段,製造商會校準攝影機,確保裝置能對焦和提供不失真的影像。這時,影像擷取卡同樣派上用場。「製造商連結攝影機與我們的影像擷取卡後,即可邊檢查影像,邊調整攝影機。」袁說。

此外,工廠透過預燒測試瞭解攝影機在長時間連續串流時的效能,也是影像擷取卡的使用案例。攝影機單次最長運轉 144 小時,同時影像擷取卡會確保攝影機確實攝錄影像,不遺漏畫面。「攝影機只要遺漏畫面即淘汰。」袁說。

另外,影像擷取卡可協助收集實際的資料,用於開發演算法。這時攝影機會安裝在車上,供影像擷取卡同步擷取號誌、行人和自行車等資料。「交通號誌偵測和行人偵測演算法需要大量資料。在 AI 領域,資料是關鍵,所以我們的影像擷取卡協助收集資料。」袁說。

影像擷取卡實際的需求

雖然影像擷取卡在車用攝影機的生產階段充分發揮效用,但仍有部分難題要解決。

首先,影像擷取卡要容易攜帶,才方便收集資料和測試。接著,影像擷取卡要能與多部攝影機同步,模擬實際的行車環境。ADAS 解決方案大多搭載多部攝影機,拍攝車輛內外。

影像擷取卡也得跟上車用攝影機技術,與之並進。「隨著攝影機的解析度、影格速率、景深提升,影像擷取卡也要配合提升頻寬。」袁說。

眼雲科技的 ECFG 系列提供模組化電路,可同時支援 4 至 16 個視訊頻道,滿足前述的需求。不僅如此,ECFG 系列可處理日後更高的資料頻寬需求。「我們深知公司在科技業的發展方向,並訂立方針滿足日新月異的需求。」袁說。

車用攝影機日後的發展

未來展望有一部分牽涉到其他類型的攝影機,包括在極端情況下也能偵測物體的紅外線攝影機。短波紅外線 (SWIR) 也是競爭產品。由此可見多光譜視覺系統占有一席之地的理由,這也是眼雲科技的 ECFG 系列可以提供的技術。

同時,眼雲科技目前致力設計邊緣 AI 支援且更智慧的影像擷取卡。「Intel 處理器的系統單晶片格式,在單一晶片整合影像處理、神經運算引擎與 CPU,成功加速邊緣 AI 應用程式。」袁說。AI 支援的影像擷取卡適用於機器人、監控,及各種使用案例。智慧影像擷取卡只挑選有關的影像資訊,不再傳送串流視訊所有的影像至視覺處理器。例如視覺處理器只要處理出現移動的行人、動物 (或許更有意義) 的影像,不必一再處理千篇一律的柏油路影像。

「以上是本公司的藍圖,我們會設計更智慧的影像擷取卡,透過 Intel 邊緣 AI 技術收集較為相關的資料」袁說,「我們可以透過 Intel 技術,將影像擷取卡設計得更靈活聰明,所以我們很期待日後的市占率成長」。

 

本文由 insight.tech 編輯總監妮.貝內施(Georganne Benesch)編輯。

AI 電腦讓您掌握邊緣 AI 的力量

從一開始,個人電腦便提供了令人振奮的新方法來提升生產力、協作和創造力。過去 40 多年來,電腦的效能與功能不斷成長,持續大幅改變我們工作、創作、娛樂和遊玩的方式。

現今,AI 電腦是個人運算領域的革新轉變。憑藉 AI 增強的軟體和新一代的運算能力,這款電腦旨在成為所有人都能受益的數位生產力夥伴。

如今 AI 不再只適合資料科學家和開發者,也不侷限於雲端。實現 AI 普及化的這條路讓工廠工程師、藝術家、教師和其他人都能在需要時從所需的 AI 應用程式受益。

市面上首款 AI 電腦:適用任何 AI 工作負載的 Intel 功能與效能

Intel 在 2023 年 9 月推出 AI 電腦,引領業界潮流。核心是專為最佳化 AI 軟體效率與效能而設計的 Intel® Core Ultra 處理器。CPU 在顯示晶片處理器(GPU)和神經處理器(NPU)之間分配任務,以便處理繁重的 AI 工作負載並高效執行持續的工作負載。

Intel AI 電腦之所以帶來卓越的使用者體驗,是因為它能自動化繁瑣的日常工作。試想一下這有多省時:只要輸入一個句子提示,就能編寫和傳送電子郵件、規劃會議議程、做筆記,或將圖像和影片編輯自動化;所有這一切都由 AI 支援。

除了 AI 電腦功能,軟體也提供了開發及執行這些關鍵應用程式所需的功能。Intel 與 100 多家獨立軟體廠商(ISV)的生態系統合作,協助他們開發充分利用 AI 電腦快速直覺式功能的解決方案。

以下是 Intel 全球合作夥伴如何針對各種垂直領域和邊緣 AI 使用案例創新的一個實例。

對話式 AI 促進員工與客戶溝通

對話式 AI 是新興領域之一,可改變企業與客戶互動的方式,提供個人化的解決方案,同時提升營運效率、資料分析和決策流程。Dhee.ai 等夥伴及其對話式 VOICE AI 平台使這項技術得以在各行各業實現。舉例來說,該公司讓銀行銷售和服務使用地區性的印度語言,改善與客戶之間的互動。Dhee.ai 利用 AI、機器視覺和自然語言處理(NLP)促進不同語言之間的順暢溝通。

Intel AI 電腦提供執行運算密集型語音辨識與合成工作所需的處理能力。Intel® OpenVINO 工具組是 Dhee.ai 最佳化 Whisper 模型推斷延遲,以實現即時對話的關鍵。

其他受益於對話式 AI 解決方案的企業包括娛樂場所和餐廳。Vistry , Inc. 就是其中一例,它在這些市場區隔的多個使用案例中部署了生成式 AI 聊天助理 ZenoChat。在 Intel AI 電腦上執行軟體並使用 OpenVINO 最佳化模型,最終讓公司能在邊緣提供更卓越的終端使用者體驗。

Vistry 訂單聊天機器人既是顧客也是員工下訂單和接受訂單的助理。虛擬助理平台包括訂單追蹤、預測訂單製作時間、自動路邊登記,並提供客戶與員工的查詢功能。

ZenoChat 最近在德克薩斯州奧斯汀舉辦的一級方程式賽車美洲賽道部署,促進員工與訪客之間的溝通。邊緣 AI 平台協助員工在三天活動期間,以多種語言處理數百個不同的查詢。

AI 電腦在醫療保健領域推動資料安全

邊緣 AI 在資料安全方面也扮演了舉足輕重的角色。醫療保健是一絕佳的例子,因為患者的個人資訊可能面臨嚴重風險。Tausight 是 PHI(受保護的健康資訊)安全性智慧領域的佼佼者,協助醫院和診所簡化 PHI 風險的偵測和管理,減少網路安全性事件。

該公司的情境 PHI 感知平台利用機器學習、聯合學習和 NLP 簡化資料保護的程序。自訂 NLP 模型直接部署在搭載 Intel Core Ultra 處理器的電腦上,進行即時偵測、可能的編輯和資料保護,確保遵守隱私法律與法規。除了增強安全性,該平台也能改善系統效能、節省成本及提高效率,是醫療設施運作安全可靠的基礎。

低程式碼平台能使 AI 更為普及

各個組織無不希望簡化工作流程並最佳化營運,因此 AI 電腦也提供他們所需的強大且牢靠的平台。低程式碼軟體透過簡化及縮短邊緣 AI 應用程式的開發時間,進一步落實這項願景。Intel 合作夥伴也是 AI 平台開發者 Iterate.ai 透過 GenPilot 平台,讓組織利用內部資料與文件建立建構自己的生成式 AI 大型語言模型(LLM)

即使對於財務規劃、物流管理、回覆客戶電子郵件,以及解釋跨資料庫的文件等複雜任務,低程式碼平台也能讓組織更快開發自訂 AI 應用程式,並讓公司自行選擇偏好的模型。此外,GenPilot 等低程式碼平台能讓維護及自訂的程序更簡易,以便適應未來的使用案例。

隨著軟體製造商建構愈來愈先進的功能,人們對更強大硬體的需求也與日俱增。隨著硬體功能愈加強大,軟體創新的空間也就愈大。AI 電腦是運算的未來,而未來就在今天展開。

您可以在 Intel AI 電腦網站找到 AI 電腦創造力與內容開發、生產力、安全性、管理能力、協作和其他解決方案,而這些全都是由 Intel 夥伴設計。

注意:AI 功能可能需要購買軟體或訂閱服務,或是由軟體或平台供應商啟用,或者可能有特定組態或相容性要求。詳細資料請見 intel.com/AIPC。結果可能會有所落差。

 

insight.tech 編輯總監 Christina Cardoza 編輯。

生成式 AI 聊天機器人簡化我們的工作方式

對於現今面對公眾的員工,管理者所面臨的挑戰是為工作人員提供複雜且瞬息萬變的資訊,以滿足訪客的需求。幕後很難訓練技藝純熟的員工來執行複雜的流程並遵循法規。「每個人的角色都愈加複雜,」對話式 AI 領導者 Vistry創辦人暨執行長 Atif Kureishy 表示。「員工必須取得即時的資訊,或者在一個非常專業的領域嫻熟且知識淵博。」

僱主也要應付自己的問題,因為面對經濟逆風和複雜的營運環境,他們得尋找創新的方法將勞動力支出最佳化。生成式 AI 聊天助理可協助員工和僱主解決這些問題。

一級方程式賽車美洲賽道使用的生成式 AI 工具

Vistry 在德克薩斯州奧斯汀的一級方程式 1(F1)美洲賽道(COTA)所部署的 AI Chat Staff Assist 是此類解決方案價值的有力例證。

COTA 活動有 450,000 名參加者和 10,000 名工作人員,龐大的規模本身就是一大挑戰。難以一一針對票務、交通運輸、日程安排和設施等主題回答訪客的問題。Vistry 與 COTA 官方人員及其 IT 夥伴合作,量身打造了 ZenoChat 生成式 AI 聊天助理,可讓工作人員透過行動裝置取用。

生成式 AI 是利用特定事件資料訓練以確保準確性,並配備多語言使用者介面,以促進員工與訪客之間順暢溝通。這項解決方案支援對查詢的即時回應,並透過第三方對應軟體增強,協助員工為賓客指路,並在雜亂無序的場地自行導航。

結果讓 COTA 領導階層和工作人員感到滿意。Vistry 的 AI 平台在三天活動期間能處理數百個不同的查詢。即使問題愈加頻繁和複雜,員工仍對這項工具愈加滿意。跟前幾年相比,結果是效率更高,壓力也更小。正如一位工作人員所說,AI 助理「將可能的一場混亂化為精心策劃的卓越」。活動籌辦人發現,AI 聊天機器人不僅提升員工的準備狀況,更強化了賓客體驗。

生命科學領域的 AI 聊天使用案例

AI 聊天解決方案在各種垂直領域與使用案例中提供了顯而易見的優勢。例如,在生命科學製造業中,量身打造的 AI 助理可為實驗室或廠房的工人提供支援。這些員工需要即時存取資訊(這種資訊通常儲存在大量無法存取的文件中),才能確保自己遵守適當的化學製造與控制協議,並符合監管機構的法規要求。

經過良好訓練的 AI 工具可協助製造業、品質保證部門,以及研發團隊找到物料清單(BOM)問題的答案、探索及瞭解原料供應商與其他類型之元件和設備供應商之間的依存關係,並取得他們工作所需的其他詳細資訊。

對於生命科學公司而言,實現符合 REACH、OSHA SDS 和 GHS 監管架構,是確保安全性與營運成功的不二法門。ZenoChat 平台透過建立法規遵循資訊圖、自動化文件流程,以及增強競爭性分析,來提供強大的解決方案。因此,生命科學公司可以簡化法規遵循的工作、減少錯誤,並在競爭激烈的產業中保持領先地位,同時確保它們符合所有的監管標準。

想當然爾,在講究準確性和精確度的產業,「人工智慧幻覺」的風險是一大顧慮,也就是生成式 AI 工具以虛假的確定性提供錯誤的資訊。但 Kureishy 表示,這種使用案例可以提升 AI 聊天助理的準確性。「我們的模型基於檢索增強生成(RAG)架構,在更有限且值得信賴的企業資料集中建立回應,並與知識圖相結合,進一步提升回覆的準確性和相關性。」

結果是 AI 模型將在其他 LLM 中出現幻覺的風險降至最低,並透過檢查和驗證使其更加可靠。

AI 電腦與軟體工具組實現邊緣部署

雖然基於 RAG的架構能提升準確性,但仍未因應工業企業的其他主要關切:資料安全性。對於涉及敏感智慧財產權的使用案例,即使是在雲端部署、普遍具有強大防護的模型,也可能構成不可接受的風險。

這正是 Vistry 完全在邊緣執行其 AI 聊天工具的原因之一,這種部署模式在很大程度上要歸功於該公司與 Intel 的技術合作。

「看到在 Intel AI 電腦的邊緣裝置上部署基於 RAG® 的系統這麼輕鬆,我們非常興奮,」Kureishy 表示。「即使在處理這些 AI 模型所需的 GPU 密集型推斷工作負載時,Intel® Core Ultra 處理器的效能也非常出色。」

此外,Vistry 利用 Intel® OpenVINO 工具組將邊緣部署的 AI 模型最佳化,同時仍能提供維護使用者體驗所需的速度和準確性。

完全在邊緣部署 AI 聊天助理的能力,可讓高度避險的使用者利用這些解決方案。除此之外,它也支援在遠端地點運作的企業,因為連線能力是個問題,要讓每家企業都能確保在 IT 中斷時以「中斷連線」模式持續提供服務。

釋放非結構化資料的價值

未來幾年可望會有愈來愈多的組織改用 AI 工具,協助員工提升效率與生產力,部分是因為很多領域的工作人員需要針對他們的問題,得到快速、準確的答案。

「人們的期望是能夠輕鬆地使用非結構化、文件導向的資訊,但當資訊激增並散落在各種內容管理系統時,就會出現實際的差距:這是我們大家無論在個人或是職場上都經歷過的,」Kureishy 表示。「AI 助理終於能讓員工輕鬆即時地取得所有資訊,這對許多企業來說極其珍貴。」

 

本文由 insight.tech 編輯總監妮.貝內施(Georganne Benesch)編輯。

用於城市管理的智慧城市軟體套件

全球各地的城市都在努力因應人口快速成長所帶來的挑戰。人口激增導致社會與經濟失衡、資源耗竭,以及公共服務的壓力。醫療保健效率低落、公共安全成效不彰、能源和水管理不足,以及公共運輸系統管理不佳,讓市民的負擔愈來愈重。

過時且脫節的技術使這些問題加劇,讓城市管理者難以維持有效運作並回應市民的需求。倘若沒有關於災害、環境條件和基礎設施狀況的準確資訊,處理緊急情況和規劃未來就成了一項艱鉅的任務。

創新技術為這些挑戰提供了解決方案。透過全方位的 AI 與物聯網平台管理服務,城市管理者可以即時回應問題、改善協調與效率、遠端監控及維護基礎設施,並取得寶貴的深入解析,以支援更優異的決策。這種方法不僅能增強公共安全與資源管理,還能促進更平衡且永續發展的城市環境。

利用智慧城市 AI 簡化營運

現今城市面臨的許多問題都是因為缺乏相互串連的城市系統,以及缺少數位技術。市府部門通常各自為政,沒有集中化的資料驅動模型來支援規劃、決策和高效的營運。「孤島資料使管理複雜的問題及應變緊急情況變得困難,」智慧城市平台與應用程式供應商 Trinity Mobility 的業務管理主管 Vivek Sharma Panathula 表示。無論是管理緊急應變,還是確保服務到得了所需之處,且資源得到有效部署,協作都不可或缺。

Trinity 的智慧城市解決方案透過搭載物聯網與 AI 技術支援的整合式城市數位平台,以及奠定智慧城市基礎的預先整合應用程式,來應對這些挑戰。這種智慧是通過三個層次建構:平台、應用程式套件以及各種使用者角色,所有這些都將城市營運整合至推動數位轉型的凝聚力系統。

智慧城市數位平台可順暢地連線至任何感應器、裝置或應用系統,以收集、處理、儲存及分析資料,協助偵測異常情況並實現主動回應。預先整合的應用程式套件,例如城市營運中心、行動員工管理系統、公民參與系統、開放資料入口網站,以及適用於各部門的智慧城市解決方案,提供隨時可用的支援,以啟動並加速智慧城市的歷程。

利用 AI 與物聯網大規模打造智慧城市

隨著城市透過將基礎設施連結至物聯網平台來擴展基礎設施,可以更高效、更有成效地管理服務。一個典型的例子是埃及開羅附近的新城市發展行政首都(ACUD),Trinity 與主系統整合商 Honeywell 合作,為首都推出智慧城市軟體套件,為超過 600 萬人管理各種服務

「ACUD 選擇了 Honeywell 開發整合式指揮與控制中心(CCC),以協調現場級的感應器與部門資料,」Panathula 解釋道。這座城市的目標是透過這個大型專案,簡化營運、增強綠能永續,並改善市民服務。

城市管理者利用 Trinity 的平台將緊急應變最佳化、監測電力和水等基礎服務,並確保高效的資源管理。這個平台也讓部門追蹤車隊並監控駕駛者的行為,同時為市民提供可直接與城市服務互動的工具。只要透過行動應用程式,居民就可以回報問題、設定服務,並支付罰款,促進更具參與度與回應力的市府。

藉由分析這些互動和市民意見回饋的資料,城市可以持續改善營運與政策,確保智慧城市依照居民的需求與期望發展。

為了管理大量感應器資料,市政物聯網系統必須快速且高效。Trinity 平台使用高效能 Intel® Xeon® 處理器以近乎即時的方式分析感應器資料,並提供快速回應。Intel® OpenVINO 工具組可簡化 AI 與物聯網應用程式的開發,而 Intel® Software Guard Extensions(Intel® SGX)則在幕後工作,確保市民的個資私密安全。

數位孿生與未來創新

隨著城市採用更多連線服務,物聯網技術也迅速發展。舉例來說,Trinity 正在開發一個數位孿生平台,藉此增強沙烏地阿拉伯利雅德的 Misk City 專案。這個平台可讓設計師、工程師和施工團隊(無論是現場還是遠端)利用開發的功能性 3D 模型進行即時協作。數位孿生一旦完成,將會透過將緊急應變最佳化、引導急救人員前往關鍵地點,以及在發生事故時確保工人的安全,來繼續提供價值。Panathula 表示,隨著物聯網解決方案在全球各地的普及,這僅是眾多受到關注的應用之一。下一個智慧城市可能是您的所在地嗎?

 

本文由 insight.tech 編輯總監妮.貝內施(Georganne Benesch)編輯。

嵌入式系統:在功率、效能與 AI 之間取得平衡

嵌入式系統產業的真諦在於找到平衡:邊緣相較於雲端;軟體相較於晶片;高效能相較於速度;耗電量相較於效率。別忘了還有成本!目前有許多選項可用於全面強化各行各業不同的應用方案,尤其是邊緣和 AI 技術日益普及,選項更是琳瑯滿目。

我們就嵌入式系統請教了 Avnet 與 Tria Technologies(前身為 Avnet Embedded)全球行銷總監 Alex Wood。他談及仰賴嵌入式系統的各行各業、AI 對整個產業的重要性,以及在處理器功率與成果之間尋求恰到好處的平衡(影片 1)。儘管公司有能力擁有最新且最快的處理器,但是有其必要性嗎?雖然公司部署了最新的處理器,打造出新穎的技術或應用程式,但客戶買單嗎?

影片 1. Tria Technologies 的 Alex Wood 探討了真實世界邊緣 AI 應用案例,以及大眾對這類應用的需求。(資料來源:insight.tech

目前嵌入式系統領域的技術有哪些趨勢?

我認為我們正處於產業的轉折點。AI 問世以來,雲端成了儲存重鎮,但主張以邊緣為儲存位置的人紛紛反對。雲端與邊緣各有各的難題和潛在的阻礙。客戶跟我們說:「我們想採用這項技術,但對於採用方式不太有把握。」

推對邊緣人工智慧的難題有哪些?

我認為電力是關鍵所在,左右了 AI 的成敗。AI 消耗大量資料,而且對於電力需求極大。如今相形之下,比特幣顯得節能多了。很多企業對於這類應用案例在邊緣消耗多少電源渾然不知。他們將需求外包給了資料中心,因此未親眼見證這些難題。

因此我認為,降低執行這些應用案例的功率需求將是一大難題。功率需求將決定 AI 是否能持續成為當紅炸子雞,同時也取決於 AI 的定義及其運作方式。這類應用案例取用及吸收大型資料模型並即時處理,需要更節能且散熱效率更高的處理方式。

您的客戶目前正在開發什麼樣的應用案例?

我們目前與客戶合力推動很多不同的工作。例如新的農業應用案例,像是將永久危險化學物質灑在土壤,或者單純提高農業效率這類工作,都能使用人工智慧代勞。

您可以訓練 AI 機器人辨識田野間的雜草,以及分辨雜草和害蟲以及作物與非有害動物。否則,人類必須親自下田野拍攝不同植物的相片,然後指導在田野工作的人。您可以打造 AI 應用程式代替您檢查作物。

您希望能夠將邊緣機器人的程式設計為能夠執行邊緣型 AI 辨識,但您未必希望將所有相關內容都儲存於資料中心。在那種情況下,您也未必有可靠的行動網路數據連線。視覺技術就處理需求而言進展神速,即時視覺 AI 能儘快辨識眼前的東西,然後迅速就辨識結果採取行動,過程中無需將訊號傳回資料中心處理。

另一方面,自動割草機這類工具則可讓居家人士規劃草坪周圍的最佳路徑。即時視覺技術是符合未來需求的利他解決方案,自動割草機則是偏實用的真實生活解決方案。然而,真實世界的實際難題,才能真正彰顯出這項技術的實力。

就高效能處理器而言,使用者應該考慮哪些面向?

我們有很多客戶為不同市場打造了不同層級的產品。大規模農業的客戶,例如田野面積廣大的美國,他們希望能速戰速決,因此會準備能覆蓋廣大農地的頂級解決方案。此外,他們也有能力和資金可投資這類方案。市面上還有速度稍慢、價格稍便宜的中階應用方案,以及更低階的選項。

在我看來,實際應用方案是產業進步的推手。我腦中總是浮現這個在網路廣傳的畫面:田野外圍環繞著一條人工小徑。然後還有條眾人足跡踩踏出來的小徑斜切穿過田野。這個畫面體現了設計與使用者體驗之間的差異。

近期的 AI/物聯網領域便是最佳寫照,一方面,大家興致勃勃地探討各種可能性,但是到頭來,設計成功與否取決於使用者是否覺得設計實用。我最近將老舊的冰箱升級為半物聯網的機型,冰箱會告訴我冰箱門沒關,或是溫度過高或過低。我不需要冰箱配備提供天氣相關資訊的螢幕,因為我的廚房另外有一台顯示器提供天氣資訊,我也不需要冰箱內建攝影機。但我很需要冰箱提醒我門沒關。這類真實世界應用案例已經廣泛流行。

處理器-RAM 組合有多重要?

這個組合與我之前提到的電源效率息息相關。如果我要打造遊戲電腦,我希望幀率越高越好,才能以更快的速度彩現影片。但是上回我升級顯示卡時,必須搭載比先前那個 PSU 大一倍的供應器。我為了跑合適的電腦裝備,供應了一千瓦的電力,過去則是 300 瓦就足足有餘了。儘管不乏創新技術、眾人歡欣鼓舞,還有無限的可能性,但實際上,新技術必須消耗大量電力才能締造心目中的效能。有捨才有得。

以電動車為例:車子加裝大量配備之後越來越重,以致於續航哩程隨之下降。如果想要續航哩程長的車款,就必須提升空氣動力,意味著,為了減輕重量,必須拿掉電動椅這類裝備。因此必須找出這類應用案例恰到好處的狀態,也就是所謂的甜蜜點。

客戶多半不講究是否配備更強大的處理器或最強大的處理器,而是追求在耗電量、使用壽命以及特定應用案例功能之間取得平衡。當然,其他客戶的確會考慮行銷因素:雖然可能不需要,但是卻想購買最頂級系列的旗艦處理器。不過,他們偶爾可能因為應用案例,確實有這方面的需求。我寧可與客戶詳談,跟對方說:「請告訴我您到底想打造什麼。」我不會跟客戶說:「您需要最頂級的產品。您必須立即選購 i9。」

Avnet/Tria Technologies 如何滿足使用者的各種需求?

我認為我們的產品範圍恰到好處,涵蓋小巧的低功耗運算應用方案,以及搭載伺服器級 Intel 處理器的 COM-HPC。這些產品是專為邊緣型影像處理和 AI 應用方案設計,但體積也更大。因此,您必須在尺寸、耗電量與功能之間取得平衡。

COM-HPC 模組跟主機板尺寸一樣,是體積偏大的模組,因此必須放進專用機箱。這種模組無法直接嵌入產品,除非是大型產品。大眾運輸是我們目前致力研究的重要產品。針對這類應用,必須有現場伺服器,才能從火車或火車站的大量感應器擷取資料、分析所有資料,以及即時回應所有資料。此外,資料網路的可靠性有時靠不住。

您可以聊聊 Avent/Tria 與 Intel 的合作關係嗎。

協作機器人是我們與客戶之一 Intel 合作的其中一個例子:在協作機器人環境建置即時影像感應器,讓機器人跟人類在同一個空間安全作業。如果人類進入機器人的空間,機械手臂就會停止移動;如果人類拿起物品,機器人就會知道那個物品的所在位置,然後可以再從人類手上將物品拿走。

我們今年在紐倫堡的 Embedded World 展示了一項初期範例。影像處理的建置基礎結合 Intel 技術的 SMARC 模組,以及 Intel 技術的 COM-HPC 模組。這兩個模組互相通訊,分析攝影機傳出的訊號,然後也與機器人即時通訊。

我們為客戶採用哪種處理器,取決於安裝處理器的模組大小和形狀。我們在伺服器端通常提供 Intel Atom®,以及 Intel® Core 系列與 Intel® Xeon® 系列。親眼目睹產品團隊工作將元件整合至這麼小的產品,過程實在令人讚嘆。我在主機板和主機板製程有多年經驗,在我看來,在如此小巧的體積實現這種運算應用案例,並且兼顧散熱管理,宛如鬼斧神工。

在預計要使用產品的環境開發應用案例雖然是一大挑戰,但卻也樂趣十足。我們能夠在用於邊緣的小巧產品中,部署 Intel 處理器及其功能,以及我們研發中的全新 AI 型流程,是頗為令人興奮的體驗。

最新的 AI 技術如何協助推進嵌入式系統產業?

我最近參加了一場 Intel AI 活動,其中側重於 AI 如何加速邊緣應用的應用程式非常吸引人。舉例來說,有自動辨識顧客手中產品的超市結帳應用程式,以及超市隊伍管理自動化。

在活動中,Dell 上台展示了即將上市的筆記型電腦,因為內建 AI 應用程式,所以屬於 AI 裝置而非運算裝置,是真正側重於協作式 AI 應用環境的筆記型電腦。Intel 展示的影片中,該案例研究以影像處理平台為基礎,在非洲尋覓有奧運潛力的運動員。這個案例實在很棒,激發了我的想像力。

我認為 AI 和邊緣運算目前都處於轉折點,能夠將 AI 應用程式從雲端移至裝置。此時此刻能投身於將 AI 整合至小外型規格運算的研究,實在是令人興奮又期待。

相關內容

若要進一步瞭解最新的邊緣 AI 創新技術,請見證 Intel 全球合作夥伴在各自產業的表現,並且收聽我們的網路廣播節目《揭開宣傳炒作的面紗:真實世界邊緣 AI 應用案例》。若要掌握 Tria Technologies 最新的創新技術,請追蹤他們的 LinkedIn 帳號。

 

本文由 Erin Noble 編審。

加速放射線介入性治療系統的開發

醫生長期以來一直仰賴診斷放射學,在治療前辨識及查明患者疾病。現代放射線介入治療(IR)設備可讓他們在手術室取得即時醫療影像,為他們的工作提供資訊並加速進展。

醫院急切希望擴大 IR 的使用範圍,這樣可以壓低成本、降低風險、改善患者治療結果,並縮短住院時間。然而,這些系統的設備製造商發現難以滿足院方的需求。打造可快速分析醫療影像並提供現場指導的 IR 機器在技術上來講很複雜,且醫療設備需要經過漫長的認證審查才能發布。

嵌入式運算 OEM 協助醫療設備供應商克服許多障礙。舉例來說,醫療保健技術領先創新者 Siemens Healthineers電腦視覺醫療影像系統開發商 HY Medical,以及數位外科手術平台供應商 Caresyntax 等公司可以取得專家協助,進行產品設計和技術選擇,不僅可以更快取得認證,還能更快地將設備交付給客戶。

透過將合適的硬體整合至設備,他們可以確保醫院與診所將獲得多年的支援,進而節省要價不菲的升級和修復費用。

在醫療影像中使用 AI

IR 系統由軟硬體元件組成,兩者必須天衣無縫地合作,提供近乎即時的結果,而且設計起來很複雜。而且由於設備是用來治療患者的,因此歸類為安全關鍵,必須滿足嚴格的技術要求才能取得認證。將新產品推向市場通常需要數年時間。

全球 OEM 和嵌入式運算系統製造商 Prodrive Technologies 是最好的例子,說明擁有深厚醫療保健技術經驗的夥伴如何對醫療設備製造商至關重要。「過去 30 年來,我們一直在建置、測試及整合複雜的系統,」Prodrive 銷售經理 Bartosz Straszak 表示。

除了放射學技術,該公司在醫療機器運作所必需的技術方面也擁有專業知識,包括運動控制,這是穩定許多 X 光和 CT 機器在手術過程中使用 C 型臂所不可或缺的。C 型臂繞着患者旋轉,從許多角度擷取即時高解析度影像,讓醫師無需移動患者即可獲得外科手術區域的多維檢視圖。Prodrive 也產生梯度放大器,調節 MRI 機器的磁場傳遞。

「從影像擷取的地方到經過處理之處,我們具備所有的體驗和元件,協助開發者建置系統。他們找上門提出自訂要求,我們可以將其整合並提供完整的產品,」Straszak 表示。

Prodrive 也在自家設施測試、驗證及認證關鍵安全產品,可能會縮短數年的開發時間。雖然該公司不設計軟體,但它可以幫助建造商做出有效部署的決策。舉例來說,如果建造商想用 AI 軟體近乎即時地為醫療影像自動註釋,Prodrive 可協助他們選擇最優異的硬體平台,高效執行程式。

Prodrive 也可以將設備建置商推薦給軟體合作夥伴,協助執行訓練電腦視覺模型以辨識醫療影像等任務。「我們協助客戶,將他們介紹給合適的軟體合作夥伴。這成為三方合作夥伴關係,」Straszak 表示。

利用高效能運算支援關鍵系統

快速可靠的硬體是 Prodrive IR 系統的核心。「影像處理是相當運算密集的過程,而我們仰賴 Intel 元件作為基礎,」Straszak 表示。

Prodrive 的 Zeus 伺服器採用第 4 代 Intel® Xeon® 可擴充處理器和第 5 代 Intel® Xeon® 可擴充處理器,能近乎即時地處理大量資料的影像。該公司的 Poseidon 工業電腦採用第 13 代 Intel® Core處理器和第 14 代 Intel® Core 處理器,讓醫務人員進行即時的 AI 影像分析與編輯,最近因 Intel 處理器的速度和效率提升而實現這項功能。

「最新一代的 Intel Core 處理器的效能是五年前的三至四倍。這使建置商能夠打造以前過於昂貴且無法實現商業可行性的解決方案,」Straszak 解釋道。

對於設備製造商及其醫院客戶而言,另一個福音是電子硬體的長期支援。「Intel 為嵌入式運算設備提供極其長的生命週期,最多可達 15 年。這表示即使產品開發需要兩至三年,設備仍可在接下來的 12 年內保持不變地生產,」Straszak 表示。

可靠和持續維護是醫院機器格外強大的賣點。即使對患者附近使用的硬體進行微小的變更,也可能引發重新認證的需要,無限期地延後搶手設備的部署。

不斷演變的 IR 未來

隨著 IR 深度學習模型從運行中的系統收集愈多資料,其準確性和功能也將繼續精進。日後生成式 AI 可能會在為醫務人員註釋圖表、建立外科手術報告摘要等方面發揮作用。

「在許多情況下,AI 能看到肉眼看不到的細節,但有時難以做出準確的決定,」Straszak 表示。「生成式 AI 或許能解釋 AI 決策,然後可由人類驗證。我們必須要信任 AI 輸出,才能打造新的功能。」

 

本文由 insight.tech 編輯總監妮.貝內施(Georganne Benesch)編輯。

資料可觀測性助力金融科技高速營運

在這個以資料為核心的世界,對於各種規模的企業來說,確保資料適時送達正確的接收者都是關鍵。為了實現最佳的網路效能和業務表現,企業需要觀察、辨識與監控每筆穿越基礎架構流量的狀況。

「資料可觀測性就是在確保資料系統的狀況、可靠性和品質,包括你的資料管道、資料庫和資料湖。這涉及到監測資料的品質、來源、效能和使用情況,主動辨識和解決問題,讓企業依賴的資料準確又可靠。」全球金融科技、網路安全與政府基礎架構解決方案供應商 Telesoft Technologies Ltd. 技術長 Matt Dangerfield 表示。

資料可觀測性在高速金融交易的領域尤為重要,資料以每秒數 TB 的速度不斷流經技術堆疊。一個資料封包遺失,數百萬美元的交易即有可能面臨風險。

「我們提供給金融機構完整的資料可觀測性,改善終端客戶體驗、辨識網路問題,還有確保符合法規跟管理要求。我們的解決方案可以完美整合現有的基礎架構,提供全方位又協調一致的解決方案。」Telesoft 產品管理總監 Jenna Smith 表示。

解決金融科技可觀測性挑戰

確保資料能跟上業務快速發展是金融科技業最重大的挑戰之一。

Dangerfield 解釋道:「很多對衝基金跟高頻率演算都要靠幾奈秒之內做出決策。市場參與者產生的大量資料只會讓挑戰更難。一天裡面都有好幾 PB 的資料在傳輸,重點不只是要快速處理這些資料,還要透過對的技術擷取能用來採取行動的深入解析。」

Telesoft 提供了全方位資料可觀測性套件這樣的「合適技術」。

為了收集網路指標,Telesoft 部署了流量探測器,擷取、分析並標記每個線上封包的時間戳記,擷取流量資料的網路遙測資訊,包括傳送者、接收者、資料量以及丟包或延遲等潛在問題。這項技術可以監控,並於偵測到突發網路流量暴增,可能會使路由器超過負荷,造成瓶頸的微秒脈衝發出警示。對於分發市場資料的金融科技實體,探測器能監控關鍵資料封包的序列,辨識顯示丟失的封包間隙。Smith 表示:「每位客戶都一定要收到每個封包,丟一個就可能會錯過關鍵的交易。」

Telesoft 提供了下行封包擷取裝置,能以全面而非抽樣的方式紀錄網路流量,協助客戶符合法規要求,並提供價格資料傳輸公平性的證據。每個資料封包都會標有時間戳記,確定來源並提供發送證據。這些紀錄對解決爭至至關重要。舉例來說,如果有兩位客戶中斷連線,帶時間戳記的資料就能協助金融機構確定問題是出在經紀人、交易所還是客戶身上。自動化資料擷取深受這類機構的重視,以作為證據和報告,大大減少分析師在調查過程中花費的時間。

為了提供全面的觀測,Telesoft 提供了資料湖,儲存部署於網路的探測器擷取的資料、提取其他網路遙測(如核心基礎架構的紀錄檔案),並為資料提供額外內容。擁有這樣的資料湖,即可實現最高級的功能,也就是 AI 和機器學習作為可觀測性平台的關鍵要素,進行自動分析、預測,並於潛在的網路問題出現前發出警示。

Telesoft 平台在最新的 Intel CPU 上執行,並利用 Intel FPGA 技術的威力帶來極速、密集的解決方案。公司由內部設計並製造 PCIe 介面卡,全面掌控支援產品的核心技術。

Telesoft 也將永續運算視為關鍵優先考量。Dangerfield 談到:「我們透過工程技術,幫客戶把五個機架的金融技術壓縮到一個裡面,降低資料中心的營運成本跟耗電量。」Intel 技術使這項目標成為可能。

資料可觀測性的使用案例:容量規劃與客戶體驗

容量規劃是金融機構的重要任務,確保網路基礎架構能處理當前和未來的交易量,並維持最佳效能,同時將停機時間降至最低。機構必須有信心能應對市場活動期間的交易激增。

Smith 解釋:「我們的解決方案能夠監控跟基準化每條網路連結的頻寬使用率。機器學習和 AI 技術會隨著時間變化追蹤這些使用率,還能夠預測未來的傳輸量需求,在事件發生前警告網路管理員。如果有連結被流量淹沒,流量裡面增加的微秒脈衝可能會讓網路基礎架構過載、緩衝溢位,最後變成丟包。丟包就可能會讓客戶錯過交易的機會。」

協助金融機構預測、調查並修復潛在網路問題能提升客戶滿意度與留存率、吸引新客戶,並在競爭激烈的市場中推動業務成長。

AI 在金融服務業的未來

除了提升資料可觀測性,Dangerfield 也熱衷於 AI 與機器學習為金融市場中所帶來的「知識原力」。傳統上來說,對衝和市場期貨的決策通常依賴基於經驗、分析的預測,例如熱浪和供應鏈中斷等因素會如何影響價格。AI 與 ML 則帶來了智慧,能辨識資料中的模式,進而提供更準確的預測。

無論 AI 未來在金融服務領域會如何發展,基礎都將是資料可觀測性。Smith 表示:「確保穩健的可觀測性能讓技術基礎架構順暢運作,滿足高風險金融市場的要求。」

 

本文由 insight.tech 編輯總監妮.貝內施(Georganne Benesch)編輯。