物聯網 (IoT) 專案成功的關鍵:邊緣運算

物聯網可以成為突破性的技術。透過利用來自機器的資料並根據相關見解採取行動,公司可以對業務營運進行調整。由於機器不再處於黑盒子中,它們可以在過程出現問題時發出通知和警告。

但魔鬼總是藏在細節裡。物聯網可能會帶來巨大的營運效率,但公司往往沒有意識到他們需要一個強大的基礎架構才能讓這項技術真正發揮作用。當建立在一個搖搖欲墜的基礎上時,物聯網專案就會失敗或停滯不前。

物聯網的挑戰:專案為何會失敗

失敗的物聯網專案有各種形式和規模。嵌入式服務和解決方案供應商 Beechwoods Software技術架構師和開發主管 Rodney Hess 表示,有時公司忽略了在產品的整個生命週期中將資料傳輸和雲端運算成本考慮在內。「當他們意識到他們需要改變服務模式並找到一種支付方式時,他們會受到客戶群的強烈反對」,他解釋道。

被沒有經過深思熟慮的決定所束縛並不是企業面臨的唯一挑戰。來自機器的資料是具有價值的貨幣,因為它是機器性能的一種指標。但是,令人眼花繚亂的資料傳輸格式也使問題變得複雜,因為無法讀取和挖掘價值的資料是毫無用處的。

此外,Hess 指出,「我們所處的世界每週都會有閃亮的新安全修補需要應用到系統中」。當一個專案的生命週期可以長達 20 年或更久時,此類安全防護的成本會迅速增加。公司有理由擔心舊有的系統和協議容易受到安全性挑戰的影響。

最後,機器學習程式往往具有一項特性,「開始與不斷變化的要求和需要發生衝突」,Hess 說。「如果解決方案不能輕鬆地更新或修改,那麼突然之間您的硬體就會很快過時」,他補充道。

由於這些眾多的挑戰,公司選擇了「安全」選項並完全放棄或延後物聯網專案。

但實際上不須如此,Beechwoods 行銷和業務發展副總裁 Mike Daulerio 說道。邊緣運算正在迅速崛起,成為克服各種物聯網相關資料挑戰的有效解決方案。 

邊緣運算為物聯網專案帶來的優勢

隨著企業努力解決將物聯網產生的資料傳輸到雲端的高成本和延遲問題,他們正在仔細研究邊緣運算。「公司擁有大量資料並希望將其傳輸到雲端,但成本太高,這是一種矛盾的現象。這是不可行的」,Hess 說。他說,過度依賴雲端還會危及業務的連續性。「當您的網路連接發生故障時,您會怎麼做?突然間,業務邏輯停止工作,你有一堆資料,卻一無所獲。這是一個大問題」,他解釋道。

邊緣運算藉由使運算更接近資料源——邊緣來解決此物聯網挑戰。Hess 說,這樣做「有助於降低將資料傳輸到雲端的訊息傳遞成本」,並且可以使物聯網運算具有可擴充性。與其花費時間和金錢來回傳輸資料,不如在更接近行動的源頭進行運算和解析。

Hess 說,雖然邊緣運算不是一個新概念,但微處理器的進步提高了它的實用性並加速了它的採用。「嵌入式處理器已經跨越了它們現在能夠執行機器學習演算法的門檻,所以你不需要一個滿是伺服器的房間來處理這些演算法」,他說。

Hess 解釋說,另一個進步是機器學習演算法「一直在改進自己,以更有效地獲得我們想要解決的問題的答案」。 

克服物聯網專案的挑戰

Beechwoods 提供以 EdgeX Foundry 為基礎的邊緣運算平台 EOS,這是一個開源架構,有助於物聯網裝置和應用程式之間的互通性。Hess 表示,EOS 的目標是解決客戶面臨的一些與物聯網相關的挑戰。一方面,它提供了一個通訊協定閘道,因此來自傳統機器和現代機器的不同類型的資料可以相互通信。

該平台還透過安全 API 驗證身份,因此只有經過授權的裝置和人員才能存取資料。企業可以執行不同的機器學習分析程式集來滿足不斷變化的需求。

除了提供軟體外,Beechwoods 還提供系統整合服務,因此物聯網專案可以在中斷後重新啟動。

例如,Beechwoods 將其 EOS 邊緣物聯網解決方案提供給一家正在開發安裝在家庭和辦公室外牆的智慧儲物櫃設備的新創公司。該公司需要連線元件、攝影機感測器和其他控制系統,才能真正使產品變得具有智慧。

「我們幫助他們將智慧儲物櫃的想法付諸行動,並將其轉化為概念的實證。使用 EOS 作為技術平台,這是從產品概念到可展示原型的一條捷徑」,Daulerio 說。

Beechwoods 將 Intel® Distribution of OpenVINO 工具組用於其 EOS 平台,並從開放標準前端的新發展中學習。「Intel 為我們提供了一些性能最佳的影片分析規範,並幫助我們建立了機器學習的最佳模型」,Hess 說。「由於 Intel 在這一領域所做的努力,使得我們可以在嵌入式處理器上獲得最佳的效能。」

此外,Hess 很感謝 Intel 是 EdgeX Foundry 中開放標準的積極支持者,Beechwoods 已將其納入 EOS 產品種類中。 

真正智慧的未來

Hess 說,隨著物聯網和邊緣運算的迅速普及,預計未來將真正變得智慧化。「由於我們周圍有大量嵌入式裝置執行演算法的能力,我們將擁有一個真正智慧的、反應迅速且直覺的環境,可以立即解決我們的需求和擔憂」,Hess 說。

這些環境可以是智慧家居,也可以是按照職業安全標準調整的工廠車間,並不斷為工人提供有關不安全區域的指導。動態的作業變革需要動態的智慧。Hess 解釋說,在物聯網和邊緣運算的幫助下,這是未來的發展方向。

 

本文由 insight.tech 編輯副總監 Christina Cardoza 編輯。

從檢驗轉向預防的機器視覺

50% 的新式汽車實質體積為塑膠。而其中絕大多數(從油盤到保險桿及儀表板)都是透過一種稱為塑膠射出成型的程序所製造。

從字面上的意義來看,塑膠射出成型機器會將熔融塑膠插入可以凝固定型的堅硬模具中。凝固程序可能需要數小時到數日長短不等的時間。品質檢驗通常會在生產線的尾端進行,檢驗員會手動解構每一批的樣品來找出瑕疵。

機器視覺解決方案公司 Eigen Innovations 共同創辦人暨執行長 Scott Everett解釋:「他們會從產線的每個輪班拿兩個或以上的零件,以解構的方式對其進行測試,然後決定該輪班生產的零件是否合格。基本上,光是完成幾項測試就需要一整天的時間,因為這些會耗費如此大量的人力,然後您最後只會得到數千個產品中的其中兩個的測量結果」。

乍看之下,我們可以利用機器視覺攝影機快速完成工作,這種應用可以取代過時的做法。不過,雖然塑膠射出成型背後的概念相當簡單,但這是一個複雜的程序。例如,射出模具容易受到原物料的物理變異、生產環境的溫度與濕度變化,以及製造設備本身的輕微操作不一致性所影響。

目標不光是要找出有瑕疵的零件,而是要提供實用的品質分析,在生產數小時的不良零件之前,找出瑕疵的根本原因。透過監控所有製造零件,您可以開始預測此程序何時會面臨生產有瑕疵的批次的風險。但除非可以將機器視覺攝影機產生的資訊脈絡化,然後使用視覺 AI 進行即時分析,否則牽涉其中的變數數量會使其難以實現此目標。

機器視覺品質檢驗的鏡頭之外

就像視覺 AI 的所有應用一樣,建立 ML 視訊分析演算法的起點是擷取資料、標記資料,然後訓練模型。就優點而言,在生產複雜零件期間,不乏可用的視覺和程序資料。就缺點而言,產生的堆積如山資料可能會造成問題, 難以在一開始就找出導致生產瑕疵的確切原因。

因此,用於複雜製造環境中的預測性分析的 ML 視訊分析解決方案必須盡可能將變數標準化。這代表視覺 AI 演算法需要所需產品成果的相關資訊,以及製造設備的操作特性,以便在分析零件的瑕疵和異常點時做為參考。

Eigen Innovations 的工業軟體平台會從熱成像攝影機和光學攝影機擷取原始影像資料,並處理連線到製造機器的 PLC 的資料。結合此類資料是為了建立正在製造的零件的可追蹤虛擬概況。

然後,在製造程序期間,會根據這些概況產生 AI 模型,然後使用這些模型來檢驗零件是否有因特定狀況所導致的瑕疵。但由於平台已經連線到製造設備的控制系統, 因此視覺推斷會與可能在一開始導致瑕疵的機器速度或溫度等操作條件相互關聯。

Everett 表示:「我們可以將在影像中所看到的品質相關變化與機器上正在發生的處理條件相互關聯。我們就能夠擁有預測能力,並且這樣說:『嘿,我們開始看到即將導致變形的趨勢,所以您必須調整您的冷卻劑溫度或材料溫度』」。

深入瞭解預測性機器視覺之眼

雖然 Eigen 的工業軟體平台是邊緣到雲端的解決方案,但它大幅仰賴端點資料,因此大部分的初始推斷與分析會在廠房的工業閘道運算裝置中進行。

工業閘道會先彙總影像和程序資料,然後再將其推送到互動式邊緣人機界面,該界面會發出即時警報並讓品質工程師標記資料和事件,這樣演算法就能隨著時間逐漸最佳化。閘道也會將資料路由到雲端環境,以便進一步進行監控、分析和模型訓練(圖 1)。

顯示 Eigen 機器視覺平台如何傳送資料以取得邊緣和雲端深入解析的圖表
圖 1。Eigen Innovations 機器視覺平台是邊緣到雲端的預測性分析解決方案,適用於複雜的製造環境。(來源:Eigen Innovations

Eigen 的機器視覺軟體平台整合了這些元件,並使用開放式 API 將產業標準攝影機和 PLC 結合為一體。但讓 AI 演算法及其資料能夠在所有這個基礎架構中流動的關鍵是 Intel® 發行版 OpenVINO 工具組, 該軟體套件可最佳化在各種開發架構中建立的模型,以便在邊緣、霧網路或雲端環境的各種硬體類型上執行。

Everett 表示:「從第一天開始,我們就使用 Intel 晶片組部署了邊緣裝置,我們藉此利用 OpenVINO 提升了效能與靈活性。透過這個經久耐用的機器,我們能夠擷取資料、執行模型,並將所有內容向上推送到雲端平台。我們不必再擔心效能,因為 OpenVINO 會處理模型在所有晶片組之間的可攜性」。

他接著補充:「這讓我們有能力對數十萬個零件進行真正的長期分析,並從這些類型的趨勢建立模型」。

良好零件、不良零件以及廢料

Eigen Innovations 機器視覺軟體平台已經在全球主要汽車製造商和供應商的生產環境中獲得不少回報,可以節省時間、成本並減少廢料。

Eigen 客戶會在製造程序期間收到異常警報,而且可以採取行動來防止產生有瑕疵的零件,而不是生產多批射出成型的汽車零件,但後來卻發現這些零件根本不符合品質標準。這樣就可以避免在破壞性品質測試期間浪費時間以及報廢材料。

Everett 表示:「就非常大型的機器而言,我們每部機器的投資回報一般介於數十萬到數百萬美元之間,在這類機器中,停機時間和品質成本往往會急速累積攀升。確保所有零件良好幾乎和偵測不良零件同等重要」。

他接著補充:「我們正在進入這樣的世界:由於風險因素考量,運送一個因資料不足而無法證明它狀態良好的零件,就像運送一個不良零件一樣糟糕」。

 

本文由 insight.tech 編輯副總監 Christina Cardoza 編輯。

醫療保健領域中的人工智慧帶動癌症診斷的進步

在台灣國立清華大學研究先進的 3D 影像和人工智慧時,研究人員發現了一個令人興奮的潛在應用:幫助病理學家以更快的速度和更好的精準度診斷癌症腫瘤。他們獲得了大學的許可並成立了一家新創公司,稱為捷絡生物科技股份有限公司,但很快發現醫院還沒有準備好採用這項技術。

大多數病理學家仍然透過肉眼檢查組織樣本並做手工記錄,這是一個耗時數小時的辛苦過程。很少有人改用數位 2D 或 3D 影像分析,部分原因是傳統上這需要安裝昂貴、複雜的圖像設備。

醫療保健領域中的電腦視覺

儘管醫生的眼睛受過嚴格的訓練,但他們並非總是能正確掌握重要的細節。腫瘤樣本很複雜——每個樣本都包含 10 到 30 個參數,必須對其進行分析以確定細胞是否為癌細胞、它們分裂的速度以及與正常組織相比它們看起來是健康或是不健康等因素。

捷絡生物科技技術長 Jarvis Yu-Chieh Lin 表示:「要求多名病理學家分析同一組織樣本的研究發現,診斷之間存在 20% 到 30% 的分歧。」「這意味著患者可能會收到有關其疾病狀況的錯誤資訊,而延誤適當的治療。」

誤診對患者來說是非常痛苦的。他們可能會錯過一個好的時機,讓他們更早地使用最好的藥物來對抗癌症,或者接受他們可能不需要的化療。

為了在不花大錢的情況下提高診斷能力,林先生和他的同事著手建立一種邊緣解決方案,該解決方案可以快速發現和消化比病理學家所能看到的更多資訊,而無需安裝昂貴的圖像設備。

在病理學中使用人工智慧 3D 影像

經過三年的開發,捷絡生物科技創造了一個原型,即 MetaLite 數位病理邊緣解決方案,它可以在一到兩分鐘內分析每個組織樣本參數,而使用標準電腦則需要一個小時。該解決方案使用搭載 Intel® 處理器的邊緣運算裝置以及透過 Intel® OpenVINO 工具組部署的客製化人工智慧演算法。大多數醫院的掃描器都可以輕鬆地為該軟體進行設定,該軟體還可以讓醫生在工作時加入註釋(影片 1)。

影片 1.捷絡生物科技的 MetaLite 數位病理邊緣解決方案使用人工智慧演算法和邊緣處理,以近乎即時的方式快速分析 3D 組織樣本,而且醫生可以給結果作註釋。(來源:捷絡生物科技

病理學家可以選擇即時查看一些參數並保存其他參數以供之後使用。來自掃描和邊緣裝置的資料會發送到醫院的伺服器,在那裡可以用人工智慧於夜間詳細分析數百個參數,第二天早上就可以查看結果。

人工智慧模型是在許多來源累積的大量資料集上進行訓練。他們處理的資訊量太大,人類無法消化,但演算法可以快速處理並使用這些資訊對組織樣本進行分類,並對疾病的進程做出推斷和預測。

「醫生很難對某些參數進行徹底分類。當人工智慧進行運算時,它會為醫生提供一個刻度或量尺,以便他們在判斷影像時使用,」林先生解釋道。

人工智慧洞察力可以幫助醫生提高診斷準確性並開發更好的治療方法,林先生相信並提到,「如果我們有好的人工智慧輔助工具,病患的存活率和存活時間可能會提高。」

人工智慧分析對醫學研究人員也很有幫助,使他們能夠發現癌細胞的新特徵並更進深入瞭解它們的運作方式。「演算法可以從影像中挖掘出更多資訊並進行艱難的分析,提供有關形態和蛋白質生物標記特徵的更多資訊,」林先生說。

目前,台灣台北榮民總醫院和馬偕紀念醫院的研究人員使用 MetaLite 來辨識癌症組織的新生物標記,並且更精確地計算腫瘤面積。一旦該平台取得台灣衛生當局的核准,醫院計劃將其用作診斷工具。

製藥公司也可能受益於人工智慧組織分析,用它來確定哪些病患最有可能從即將進行臨床試驗的藥物中受益。

透過聯合學習擴展醫療保健領域的人工智慧

隨著醫院擴大人工智慧在病理學中的應用,他們取得的資料將用於訓練未來的人工智慧模型,進一步提高準確性。透過稱為聯合學習的過程,醫院現在可以安全地與他人共享影像資料,同時將敏感的病患資料使用限制在自己的伺服器上——這種功能在以前是不可能實現的。捷絡生物科技正在開發支援聯合的新版本軟體。

「藉由聯合學習,資料將更快地累積,進而提升人工智慧並提高速度和資料一致性,」林先生說。「在病理學中使用人工智慧將推動精準醫學,幫助醫生改善診斷和治療,並讓製藥公司能夠更快地開發新藥。」

在實體世界引進智慧 AI

供應鏈危機持續延燒,將國內貨物運輸系統的運作方式攤在陽光下,登上了主流新聞版面。顯而易見,這個數十年來運作順暢的系統,不太能因應過去這幾年出現的挑戰。過去迫切需要現代化、數位轉型和 AI 創新,現在也是,否則全國都將自食惡果。

技術解決方案供應商 Arrow雲端解決方案業務開發經理 Scott Chmiel,以及 Scalers.ai 的共同創辦人兼執行長 Steen Graham,正好能伸出援手。他們居於兩家公司之間,協助摸索客戶智慧物聯網合作夥伴生態系統,而且環境不僅侷限於智慧港口而已。各種產業皆可在實體世界部署 AI。產生的效益超越企業,甚至擴及整體社會。

企業在目前的數位轉型工作面臨了哪些挑戰?

Scott Chmiel:解決方案的複雜度大幅提高,所以挑戰也改變了。在過去,單一硬體或軟體便應有盡有,但現在多了雲端、複雜度提高,而且我們所增加的技術,無論從技術或開發觀點來看,都需要不同的技能組合。如今解決方案必須整合並部署至各不相同的現有客戶環境。現在連線裝置需要額外的作業安全性。此外,過去不可能的事,如今得以實現,例如機器學習和 AI。過去無解的業務問題,現在出現了解決的可能性。

Steen,你對這些努力有什麼看法?

Steen Graham:在實體世界部署人工智慧和物聯網是一大挑戰。以港口的情況為例。顯而易見,港口及其基礎架構都有數十年的歷史了,雖然各種既有的應用程式皆可順利運作,但您不妨考慮實作新技術。那麼到底該如何在既有的基礎架構部署這些雲端原生的方法,包括人工智慧,才能執行分析效率與監測 CO2 排放這類工作?同時從硬體和軟體的角度來看,將既有的基礎架構結合新的基礎架構,是推動產業轉型及解決供應鏈挑戰的關鍵。

目前的聯邦政府行政機構,大力支持港口現代化。然而,有趣的是,港口的管理單位其實是地方的市政府,因此這些地方首長的作為會對全國造成影響。此外,工會對這個情況也是至關重要。舉例而言,起重機操作是美國由來已久的港口工作。雖然將貨櫃從船上卸下的前端工作已經自動化,但是在卡車裝卸貨物這類工會掌控的人力作業職務,我們依舊有龐大的投資。因此,聯邦政府、地方市政府和工會這三方,全部都在當前這個危機舉足輕重。

企業若要在技術上做出有影響力的改變,該從何著手?

Scott Chmiel:第一步是瞭解他們想達成的業務成果。他們想達成什麼目標,哪些人是相關人員?以洛杉磯港口為例,公司不僅一家;還有市政府、貨櫃搬運人員、卡車司機,數十或數百名承包商,為了經營港口,所有人都必須與對方周旋。我們的解決方案側重於他們在安全性方面的挑戰,以及單純的快速追蹤。

Steen Graham:為了回答問題的第二部分,Scott 和我考慮的是某種不妥協的解決方案。從簡單的作業系統角度來看,Windows 和 Linux 這兩種作業系統在全球隨處可見。新式 AI 應用程式中的雲端原生工作負載是在 Linux 撰寫,但現有的工作負載和應用程式很多則是在 Windows 中所撰寫。透過在部分這類技術加入跨平台功能,我們能夠在現有的基礎架構修正 AI 應用程式,確保它們搭配使用時能更順暢。我們在這個解決方案採用的方式,其實就是疊加新式雲端原生屬性和 AI 功能。

推動這個跨平台互通性的因素是什麼?

Scott Chmiel:通常是既有的硬體。此外是技術,基礎架構可用於許多不同的解決方案,無論是智慧港口內或倉庫內的零售應用程式皆適用,而且存在的挑戰類型都相同,可以使用以及自訂或重新包裝相同的技術。這樣一來,既有的硬體就更有價值了,它們原本做不到的事,讓硬體更有價值。智慧港口這個例子增加的是安全性,零售業同樣也適用:起重機在倉庫移動之前,最好先確認移動的路線沒有可能擋路的人員。

Steen Graham:從技術觀點來看,透過基礎技術,我們顯然獲得了 Microsoft 與 Intel® 的禮物。我們用 EFLOW 這個縮寫代表 Windows 上的 Edge for Linux,或是更精確來說,是 Windows 上的 Azure IoT Edge for Linux。我們之所以能在 Windows 和 Linux 享有不打折扣的能力,原因就在這裡。此外,Intel 透過整合式顯示晶片能力投資的硬體加速功能,是鮮為人知的一大福音,讓我們無須升級至昂貴的 GPS,便可在部署的 Intel CPU 執行這些工作負載。我們現在可以透過經濟實惠的現成技術,例如 Intel 的 NUC 平台以及 Windows 和 Linux,執行多個 AI 模型和多重攝影機摘要。這一系列出色的技術,讓我們得以部署這些新式工作負載,並確保工作負載能夠與既有的基礎架構互通。

EFLOW 如何用在港口的例子?

Steen Graham:EFLOW 是去年才推出的技術,所以我們仍在參與階段。從業務成果的角度來看,我們想解決的是與準備時間相關的瓶頸:貨櫃裝卸速度的作業技術指標。那麼,我們該如何將起重機的準備時間最佳化?起重機的裝卸速度為何?我們該如何確保卡車在正確的時間出現在正確的地方?同時為現場員工提供安全性更強的體驗。此外,我們還追蹤 CO2 排放,因此我們參考的另一項指標,就是許多港口目前搭配柴油起重機使用的混合式起重機效率為何。

EFLOW 還能解決其他哪些使用案例或挑戰?

Scott Chmiel:機會很多:運輸、工業和零售業只是幾個不同的垂直市場。我知道 Microsoft 和 Intel 都極為側重零售業:現有的機會就是執行工作負載整合,由一部機器同時完成監視錄影與銷售點的整合。或者可能有過去無法執行的新服務;交易若是有視覺元素,您可以從中產生何種價值?

程式碼和基礎技術皆可針對任何上述的垂直市場重新規劃用途。Microsoft 和 Intel 透過 OpenVINO 提供的加速器和工具,已經為他們完成了許多工作。

Steen Graham:醫療保健是另一個可能的產業。如果觀察超音波這類醫療影像設備,許多超音波廠商都屬於 Windows 應用程式,不過他們有意加入新的 AI 功能。麻醉師有時很難找到患者血管就是一個例子。超音波設備可用來準確判斷靜脈的位置。備妥既有的 Windows 超音波設備,然後加上新式的深度學習。

我們還發現,利用電腦視覺偵測製程瑕疵的需求也很高,我認為這也是絕佳的使用案例。如果採用即時 AI 缺陷偵測,就能在製造流程及早發現有品質問題的產品。如果及早在流程解決這些問題,其實能減少執行剩下流程耗用的化石燃料。

可以請你們聊聊加入這個過程的夥伴關係嗎?

Steen Graham:Arrow 一向致力於找出讓夥伴關係發揮綜效的方式。因此,Scott 帶著展現這項基礎 EFLOW 技術價值的出色點子來找我們,而我們能夠利用 Intel 和 Microsoft 的技術,以及許多開放原始碼專案,建立解決方案程式碼。Scalers 的工作則是徹底瞭解如何將這一切整合至高擬真的企業 AI 解決方案,然後提供該解決方案,以及建立部署用的自訂 AI 模型。

Scott Chmiel:Arrow 以協調者與集合商的角色自居,包括整合不同的技術、服務或元件,或是協助設計。為了一手包辦端對端解決方案,一家有遠見或是面臨挑戰的公司,很難在公司內部備妥所有資源或技能組合。因此,Arrow 希望與終端使用者合作,並且引進合適的合作夥伴。我們不僅協助他們的終端使用者挑選合適的解決方案,更仔細檢視了該解決方案的使用壽命和整體生命週期。智慧港口不會在幾年內部署及完工。此外,它也應該要可以重複。正在開發該解決方案,或是正在整合這些環節的公司,能夠重新使用它,在整個生態系統創造更大的規模,並創造更高的價值。 

關於 EFLOW 或這個主題,還有其他我們應該知道的事嗎?

Steen Graham:在我們討論開發與軟體工程設計成本時,撰寫整合這些夥伴關係的程式碼極為重要。雖然擁有優異技術的出色公司很多,但往往缺少連接 API 的單行程式碼,無法真正推動轉型。身為產業,我們真的必須一起克服部署挑戰,因為雲端的建構功能出色、極為經濟實惠,而且當今使用容易。在實體世界部署是挑戰之所在,同時也是持續學習、遷移學習和連續註釋的必要條件。

最後,雖然我們越來越擅長合成資料,以及用小型資料集建立 AI 模型,但如果真的希望讓社會進步,就必須能夠在良好的資料集建立高擬真的模型。此外,我們必須使用可解釋的 AI 進行,這樣我們才能瞭解它為了儘量達到包容且精確的目標,做出判斷的原因。

Scott Chmiel:我在與特定垂直市場的公司討論時,一向對於他們對於自己工作的瞭解感到驚奇,無論對方是負責管理倉庫、港口,或是監視錄影,抑或是在醫療界工作。他們的特定解決方案令人感到驚豔。由於這些解決方案越來越複雜,因此我希望大家知道,你們不必孤軍奮戰。建造單一用途裝置的時代已經過去了,光是顯像的 MRI 還不夠,現在的目標在於它如何與整間醫院整合。然而,公司不需要在過程中孤軍奮戰。此外,他們使用更複雜的解決方案時,確實無法孤軍奮戰。達成目標的門檻正逐漸下降,我們現在能夠解決過去無法解決的業務解決方案,這件事真是不可思議。

相關內容

若要進一步瞭解 EFLOW,請收聽播客 快速邁向創新應用程式:利用 Arrow 與 Scalers.ai。如欲瞭解 Arrow 的最新創新技術,請在 Twitter 的 @Arrow_dot_com 以及 LinkedIn 的 Arrow-Electronics 專注他們。

 

本文由 Erin Noble 編審。

邊緣 AI 推動永續智慧城市

各地的城市與鄉鎮無不希望改善空氣品質、居住環境和交通流量。但論及建立解決方案時,大家猶如走在五里霧中毫無頭緒。

「許多城鎮計算交通流量與行人活動的方式皆已過時,並且只仰賴軼事資訊制定規劃、政策和投資決策,」SSE Energy Solutions(英國能源供應商和代理商 SSE 的一個部門)智慧城市和場所負責人 Patrick Mitchell 表示。

由於缺乏證據資料,很難證明是否會將納稅人的錢花在可能依照預期或預測所執行的綠能專案上。一旦新的步道、銜接道路或停車轉乘系統啟用,官員也拿不出衡量其效果的方法。因此,地方政府許多人都受到挑戰,只能蝸牛爬行,無法大刀闊斧實現永續目標。

全新的 AI 型光學感應器系統正在改變全局。透過收集及分析與交通和行人相關的資料,結合來自環境感應器和其他來源的資訊,官員可以做出支持綠能專案的循證決策。部署全新的解決方案後,即可監控成果;成果會隨著城鎮的發展及轉型進而影響最佳化和變化。

智慧空間降低能源成本並提升安全性

IoT 傳應器技術雖然頗為複雜,但可以輕易部署在路燈桿上。SSE 自 2010 年起一直在進行這項工作,為地方政府開發遙控路燈,包括漢普郡議會和南安普敦市議會。 SSE 已在英國和愛爾蘭的 400,000 個路燈桿上安裝其解決方案。

連到路燈桿的感應器可讓城鎮管理員遠距開啟、關閉或調暗燈光,有助於減少能源成本及降低碳足跡。如果夜間發生事故,當局可以名符其實地為到達的緊急救助人員「開燈照亮」問題所在。

建構永續智慧城市

街道照明控制部署後是 SSE Sentinel 光學感應器的開發。光學感應器安裝在康沃爾、斯勞和彭布羅克郡以及其他地區的路燈桿上,可擷取街道活動的深入資訊,為城鎮管理員提供推動綠能規劃所需的工具。

Sentinel 在輕量級 AI 邊緣閘道上執行,收集並處理車輛和行人流量的詳細圖像。它透過行動數據網路將選定的資料安全地傳送至 SSE 智慧城市和場所平台,進而視覺化及分析資料,以便獲取規劃和證據的深入見解(圖 1)。

AI 和城市規劃考慮使用安裝在路燈上的感應器收集行人、車輛和交通資訊。
圖 1. SSE Sentinel 光學感應器收集車輛、行人流量和其他有助於設計永續智慧城市的資料。(資料來源:SSE 能源系統

「資料顯示並強調重型貨車、輕型貨車、計程車、公車、摩托車、電動滑板車等分類,」Mitchell 表示。「它也提供行人資料,包括流量和移動路徑。」

為了以近乎即時的速度處理資料量大的影像,這個解決方案搭載高效能的 Intel® 處理器。透過 Intel® OpenVINO 工具組部署的演算法可移除臉部特徵和車牌號碼等私人詳細資料,僅傳輸城鎮需要的資訊。

客戶可將感應器資料結合季節、一天當中的時段、天氣以及至關重要的空氣品質等資訊。

「地方政府可能會發現空氣品質下降與通過特定區域的車輛數量和類型之間存在著直接的關聯性。使用硬資料代替軼事證據是非常強大的工具,可讓地方政府落實政策改變,」Patrick Mitchell 解釋道。

比方說,許多規劃人員會把重點放在振興所在城鎮的主要商業街道,那裡的交通噪音和廢氣讓行人和購物者退避三舍。收集及分析與空氣品質、車輛流量和行人移動相關的資料,有助於改變現況。官員可以決定改變交通路線,降低速限,為自行車騎士和行人開發綠色通道,或者建構停車換乘系統。「鼓勵人們捨棄耗油量大的汽車,搭乘大眾交通工具是地方政府的首要目標,」Mitchell 說。

城市也可以排定公共工程專案的時程以減少干擾。「如果您有證據道路封閉或維護會對商業產生直接影響,您可以問:『什麼時段比較適合施工,還是可以實施其他替代方案?』」Mitchell 表示。

一旦解決方案到位,官員就可以監控交通、空氣品質和行人活動,藉此瞭解其運作情況。正面的成果可提升大眾信心,並為更多永續專案奠定基礎。

AI 和城市規劃

Mitchell 認為隨著環境和永續發展的關注日益增加,城市和社群可能會拓展智慧空間的使用。舉例來說,排水系統的感應器可偵測管線堵塞並通知維修人員。透過結合這項資料和洪災與天氣條件的歷史資訊,城市官員可預測即將到來的暴風雨會造成什麼影響,並優先排定修復,盡量減少洪災損害。

預測分析和智慧技術也可協助當局更有效率地推廣智慧和永續計畫。

「在未來幾年,電動車會取代傳統汽油和柴油運輸。規劃人員必須瞭解要在哪裡設立電動車充電據點,並加強承載電力的基礎設施,因為目前無論在哪裡都供不應求,」Mitchell 如是說。

隨著城市更密切地審查能源使用,可能會決定使用人工智慧分析作為碳排放交易系統的基礎。「資料和分析會變得無比重要,」Mitchell 說。「我們認為軟體平台將成為未來基礎設施管理和規劃的基礎。」

 

本文由 insight.tech 編輯副總監喬治妮.貝內施(Georganne Benesch)編輯。

人工智慧虛擬化身報到,讓公共空間躍於線上

疫情期間,各行各樣都受到衝擊;但博物館等公共場所卻完全無法開放。在某些地方,這樣的停擺狀態持續超過一年之久,即使解封,這些設施也必須維持清潔與安全,待顧客克服對公共空間的疑慮。

一如我們所瞭解的,疫情生活的眾多矛盾之一,就是曾經負責協助訪客的職員如今成了人們望之卻步的原因。這迫使安大略軍事博物館(Ontario Regiment Museum)等公共空間別無選擇,只能求助科技以尋找解決方案。它們迄今得到的回應,令人熟悉卻又出人意料(影片 1)。

影片 1。Cloud Constable 的一級下士拉娜(Lana)是一名人工智慧驅動的動畫虛擬專員,在安大略軍事博物館擔任講解員和健康篩檢員。(資料來源:安大略軍事博物館

認識一級下士(MCpl)拉娜。她不僅是歡迎訪客的健康篩檢員,也是提供博物館資訊和活動事項的講解員。而她剛好也是人工智慧。

更精確的說法是:動畫虛擬助理(AVA)。

動畫虛擬助理的深入剖析

一級下士拉娜由加拿大高科技新創公司 CloudConstable 開發,連同她在內,還有其他多個客製化 AVA 角色,原本的用途是改善智慧城市、醫療保健、娛樂和其他高足跡流量使用案例中的使用者體驗。疫情爆發後,使用案例便向外延伸,涵蓋各種公共空間的零接觸健康篩檢和接觸史追蹤。

「我們擁有北美最大的可運作軍車收藏,」安大略軍事博物館的營運經理 Dan Acre 表示。「『可運作』指的是它們還能開。我們擁有二戰到現今製造的坦克。

「我們的主要營收來源之一是每個月推出展覽,」他往下說。「許多訪客參觀、付費看展覽、前往禮品店、付錢乘坐館內的車輛。這是博物館一般的營運方式;然而在 COVID 疫情期間,可以參訪的人數驟減,我們的營運因此受到莫大的限制。」

由於在任何指定時間,允許進入博物館的人數都有限制,因此館方重新部署一級下士拉娜,將她從原本博物館導覽的崗位借調,協助辦理登記入館的流程。這表示使用 AVA 精密的感知感應套件,包括用於溫度篩檢的 LWIR 紅外線掃描器、連接至雲端型語音引擎的麥克風,以及用於匿名計算人數、進行臉部和手勢辨識的兩個 Intel® RealSense 攝影機(圖 1)。

使用 Intel® RealSense 在螢幕上顯示的自動虛擬助理
圖 1。CloudConstable 的動畫虛擬助理(AVA)利用兩台 Intel® RealSense 攝影機,作為感知的基石。(資料來源:Intel

RealSense 攝影機可讓拉娜計算訪客人數、掃描門票或 QR 代碼,以及擷取「凌空觸控」輸入,因此使用者可在不接觸表面的情況下進行選擇。攝影機拍攝的圖片和影片會輸入附近的 Intel® NUC 9 Pro,在那裡即時執行使用 OpenVINO Toolkit 開發及最佳化的 AI 推斷模型,以實現更進階的功能。

「如果你是員工,而館方也知道你的身分,她可以透過臉部辨識認出你、迎接你,並完成所需的篩檢問題。篩檢完成後,她會迎接你:『歡迎光臨。祝您有美好的一天!』」CloudConstable 總裁暨執行長 Michael Pickering 解釋道。

「還有一個頭部姿勢模型,用來查知你注視的方向。我們正在嘗試察覺點頭代表『是』,搖頭代表『不是』,」他繼續說。「一級下士拉娜想要知道你打算左轉還是右轉,因此往你那頭看,希望建立虛擬的眼神接觸。我們想要釐清與她互動的主要對象,大概是正在注視動畫虛擬助理的某人。」

除了視覺處理之外,NUC 9 Pro 的 Core 處理器也搭載 Intel® 主動管理技術,可對 AVA 平台進行安全的遠距管理,因此 CloudConstable 工程師得以維護和升級系統,而無需親臨現場或培訓博物館工作人員。

「COVID 爆發時,它成了令人夢寐以求的完美系統,可以篩檢、提問,最終以紅外線感應器替人們測量體溫;而且系統相當聰明,你給了幾個否定的答案後,它就不允許你入館,」Acre 表示。

動畫虛擬助理上場

顯然,AVA 在各個使用案例所展現的適應力是其一大優勢。不只動畫角色的外觀可以修改,以適應不同情境,它與使用者溝通的內容與方式也能調整。舉例來說,一級下士拉娜在博物館內經量身訂作,回答常見問題,例如禮品店是否收取營業稅、廁所或特定的展品在哪裡。

不過博物館也在探索其他獨特的方式來打造 AVA 平台,以為館內服務。包括引進虛擬勳章展覽,顧客可在其中使用 AVA 平台掃描加拿大軍功勳章,然後請一級下士拉娜識別及提供相關的歷史背景。

博物館也在規劃一個大型的互動式展覽,在博物館所在的實際機場周圍模擬坦克大戰
此計畫的其中一環由 CloudConstable 與建築設計公司 Cord Design 合作,設計互動式的地圖以將機場的實際空間情境化,你可以在地圖上「駕駛」,其中包含該地建築物、環境和地形的 3D 模型。

他們的最終目的是使用 Intel Game Dev AI Toolkit 和 Gaia ML 在地圖上加入虛擬戰鬥坦克,並創造一個環境,​​讓使用者體驗擔任坦克指揮官或砲手駕駛經典戰車的感覺。AVA 也會擔起導覽一職,在那裡現身。

使用案例的靈活性以虛擬方式呈現

在不確定的時期,靈活性至關重要。CloudConstable 的 AVA 等平台在一個整合套件中為公共空間帶來這種適應力,套件盡是免手動操作技術,可執行以前需要人工完成的各種功能,甚至是人類無法執行的一些任務。

多虧了現成的開源技術建構模組,靈活的人工智慧如今可在各地的公共空間落實。

 

本文由 insight.tech 編輯副總監 Christina Cardoza 編輯。

平衡的方法讓半導體設備重生

半導體製造設備的價格在全球數一數二昂貴,每台機器平均價格動輒超過 100 萬美元。某些儀器,例如極紫外線(EUV)光刻機,則可能要價上億美元。

可想而知,半導體製造商希望能保護這些投資。此外,如果製造商的考量不光是基於初始價格,那麼就是與次要市場已隨這些商品應運而生有關,可讓設備的使用壽命延長至初始部署後數十年。

顯然,擁有半導體設備的廠商與製造商,之所以想儘量延長這台機器順利運作的時間,原因就在於這兩項因素。

對於運用機齡數十年的設備,生產全球數一數二先進技術的電子產業來說,這個延長壽命的願望催生出了一項有趣的動因。當然,這類系統也可以跟任何其他電子系統一樣升級。然而,隨著系統老化,升級改造半導體製造設備成了越來越重要的任務,也才能跟上現今效能標準的步調。

舉例來說,在機齡數十年的光刻機添加最先進的電子束或 EUV 控制儀器,即可製造有微型矽電晶體晶片。然而,過程還需要大幅提高系統處理量,才能支援根據緊湊的確定性時間表,在設備控制單元之間傳輸大量資料。

將半導體製造從上一代升級至下一代

為了抵銷持續升級的成本,半導體設備製造商長年根據 VME 這類產業標準設計控制系統。VME 標準最早於 1980 年代初期擬定,並且有多家供應商提供,它所定義的一致 PCB、連接器和訊號系統,可以在發生損傷或需要升級時,將現有的主機板換成新的主機板。

理論上,這代表可以用效能更強的控制板取代舊式 VME 控制板,處理新式半導體製造儀器需要的更高頻寬。然而,光是挑選搭載先進處理器的控制板、將它插入系統,然後就收工,尚不足以讓此等效能發揮得淋漓盡致。

Eurotech Group 於 2011 年收購的 Advanet 這個分公司,專門為半導體製造設備這類尖端系統提供 ODM 服務。該公司總部設在日本,直接與全球的許多頂尖半導體設備製造商合作,協助整合新的處理器技術、舊式硬體和通訊協定,以及全世界數一數二精密的控制儀器。

「就某種意義來說,您擁有的是兩種速度的機器,」Advanet 的產品行銷主管 Luca Varisco 說明。「機器有某些零件已經使用 30 年左右。同時還有極為先進且瞬息萬變的部分,才能配合逐漸縮短的紫外線波長。波長越短,就越需要以更精密的方式控制聚焦紫外線光束的機器。

「因此,CPU 也必須進步。」他繼續說道。「因此,您必須用最新的 CPU 技術平衡問世 30 年之久的 VME 技術。這正是本公司團隊正在處理的棘手工作。基本上,他們正將超級天才的大腦植入恐龍體內。」

這個平衡策略的一大部分涉及 I/O 子系統,而且它一方面必須嚴格保持確定性,一方面則必須隨著 CPU 不斷演進,才能避免低速介面和高效能處理器之間形成資料瓶頸。然而,在此同時,整個控制機制都必須維持在 2000 年代前出廠系統的耗電量與熱耗散範圍之內。

製造晶片的晶片

Advanet 承接了為某大半導體製造設備供應商升級電子束(e-beam)光刻機控制子系統的專案,除了作業穩定性與長生命週期之外,這些也是這項專案的關鍵要求。

這個控制子系統的主要責任,是讓集中光刻系統 e-beam 的透鏡,聚焦於目標基板。以奈米級精度聚焦時,需要超強的運算能力,以及協調機器周圍的多個控制端點。當然,機器周圍有無數舊式元件,也必須與控制系統連接。

為了達成新舊融合的目標,Advanet 首先以全新的 Intel® Xeon® D-1700 處理器(代號「Ice Lake-D」),打造出最終成為 Advme8088 的解決方案。Advme8088 這款 6U、1 插槽寬之 VME 板採用的 Xeon D-1700 處理器核心高達 4 個,但 TDP 等級卻未高於 50 W。

另一個重點是,Advanet 卡包含值得信賴的 VME 連接器,以及各種新式介面,例如 Serial RapidIO Gen 2、PCI Express Gen 3 與多個 Gigabit Ethernet 連接埠。

討論中的這個光刻控制子系統屬於背板型,包含有 8 至 12 張 Advme8088 卡的 VME 機殼、二或三張同樣由 Advanet 開發的客製化光學板,以及一個電源供應器。Advme8088 和使用 VME 連接器插入背板的其他卡,會在機器內的各種板與舊式元件之間傳輸訊號。背板上的 FPGA 可作為彈性的 VMEbus 控制器,既可防止過時,還能提供部分訊號預先處理。

同時,Advanet 卡的新版介面,是讓內建 Xeon D-1700 處理器功能充分發揮的推手。在光刻子系統專案中,舉例來說,Intel® Time Coordinated Computing (Intel® TCC) 由 Xeon D-1700 支援,配置可搭配使用 Advme8088’s GbE 介面,將控制端點之間流動的乙太網路封包同步化,延遲為 sub-200 µs。

這同一個控制網路管理電子束透鏡的位置和方向,以及機器上的其他步驟階段。

舊式光刻設備的新生命

儘管對於效能的需求似乎永不滿足,但是由於它們位於許多控制系統核心,因此在可預見的未來,VME 產品依舊會是半導體製造設備的一環。

當然,無論您的工程團隊多麼有創意,所有技術(甚至是依照標準打造的技術)最終都會淪為過時的犧牲品。光刻控制系統的背版 FPGA 便是這方面的最佳例證,由於VMEbus 控制器晶片的供應商越來越少,而且價格水漲船高,因此背版 FPGA 部分可作為這類晶片的替代品。

因此,Xeon D-1700 處理器可供支援的長生命週期寬溫嵌入式種類使用七年以上。就其本身而言,Advanet 致力於為旗下解決方案提供數十年支援。

「這件事看起來很奇怪,因為 VME 可是『問世 30 年的技術」?那是怎麼回事?」Varisco 解釋。「然而,那其實正是半導體市場的不足之處,因為丟棄並非可行的作法。」

事實證明,沒有人想這麼做。畢竟,就主要與二級市場而言,它是價值數百萬美元機器的一部分。   

 

本文由 insight.tech 編輯副總監 Christina Cardoza 編輯。

系統整合商輕鬆部署互動數位招牌

AI、機器學習和物聯網已打造出一個零售科技市場,幾乎任何事情都辦得到。唯一的問題是:豐富的技術使得彼此連接更是充滿挑戰。當今的系統整合商必須為客戶組裝複雜的解決方案,並且提供支援服務來加深彼此的關係。另一方面,軟硬體供應商則需要協助,找到產品的新用途與市場。

創新技術媒合者的出現:當今的技術經銷商。透過其深入的產品知識與專業,他們將製造商與 ISV 和互動式數位招牌的 SI 結合起來,藉由與具有需求和解決方案的產業圈接觸,協助每個企業業務成長。

「當今經銷商必須具備的技術累積遠大於 5 或 10 年前。」Bluestar, Inc. 的行銷副總 Dean Reverman 表示,該公司的主要業務為電子產品代理商。「他們必須帶著更多的解決方案組合上門。他們要怎麼做到這一點?聰明的系統整合商會依賴可提供附加價值的經銷商。」

傳統的經銷商挑選、組合並出貨,Reverman 提到,加值型經銷商則是會藉由提供深入的知識來跨越基本的服務。

「我們獨特的配置為我們帶來機會。」Reverman 表示。「我們瞭解加值型經銷商每天所面對的事情,因為我們每天都在與他們互動。我們瞭解產品供應商藉由其策略目標和產品開發所想要達成的事情。而且我們瞭解軟體社群藉由建立他們想要的獨特解決方案所帶給市場的內容,來打進產業圈。」

為了促進媒合,BlueStar 推出其 TEConnect 計畫將軟硬體供應商結合,以產生新的解決方案,例如數位招牌資訊站和互動式數位招牌。

「我們嘗試做的其中一件事就是在軟體社群中挖掘,並讓他們出現在通路中。」Reverman 表示。「而且,如果沒有軟體,我們經銷的很多東西都會被拒於門外。」

Intel® 在 BlueStar 的媒合過程中扮演著重要的角色。「現在當客戶找我們進行初期的解決方案開發時,我們有了合作的夥伴。」Reverman 表示。「這對物聯網而言非常重要。部分解決方案能夠建立起來,在於能夠依賴 Intel 強大的工程能力。透過我們的 TEConnect 計畫,我們與 Intel 建立了深厚的關係,因此能夠將軟體開發公司帶進通路,讓他們銷售他們的產品。」

建立數位招牌資訊站

BlueStar 與 Elo Touch Solutions, Inc. 的夥伴關係就是產業圈一個很好的例子,該公司為一家領先互動式觸控螢幕製造商。這兩家公司共同打造並推廣創新的產業專屬解決方案。其中一個產品是 Appetize,這是專門針對體育館處理客人交易與追蹤大規模庫存所設計的銷售點系統。解決方案中包括固定式和可攜式的終端機、資訊站和手持裝置。

BlueStar 會組裝包含 Elo Touch 螢幕、支架和印表機等元件。接著經銷商更進一步,提供協助 SI 部署完整解決方案的服務。

「舉例來說,有了 Appetize,您就可以將成千上萬的設備部署到位。」BlueStar 的業務開發經理 Karey Linkugel 表示。「這非常的花時間,而且需要有人組合起來。在產品離開我們的倉庫前,BlueStar 將 Elo 螢幕放到支架上、拉好線,安裝好軟體。接著我們放進盒子,出貨到位。」

而為了產生需求,BlueStar 和 Elo Touch 結合其行銷預算執行活動,提高他們的業績。

「像 Elo 這樣的製造商,會想要與瞭解企業與技術、而且具有有經驗的業務團隊、可以共同合作拓展市場的人合作。」Linkugel 表示。

「我們很重視在大環境改變時可以相互協商的機會,來決定出什麼對兩家公司最為有利。」Elo Touch Solutions 資深通路銷售總監 Kim Davis 表示。「他們對我們公司而言非常具有價值,因為他們管理的很好,而且讓我們的產品線持續成長。」

媒合後

除了結合軟硬體供應商,BlueStar 也提供客戶客製化的配置、融資、行銷以及服務上的支援。

「經銷商某種程度上都有點現金壓力。」Reverman 表示。「他們在外簽下合約,但他們不一定有能力為這些機會提供資金。我們提供獨特的融資選項,讓經銷商可以向市場提供解決方案。」

經銷商也可從合作關係中得到好處,包括能夠以動態的新方式,包裝解決方案的能力。而且他們能夠向市場推廣這些創新的新用法,成長他們的業績。

隨著工具和使用案例漸趨複雜,像 BlueStar 這類加值型經銷商是零售解決方案的專家,能夠為 SI 提供適合的技術與服務,協助他們進入新市場與取得機會。

「我們運用最新經驗證的技術協助我們的合作夥伴、為他們開啟機會,讓他們能夠從現有的業務中成長。」Reverman 表示。「也許是機器視覺、也許是在後方貼標籤與追蹤資產。無論是什麼,我們的工作就是經由我們業界將其實現。就好像瑞士刀,將解決方案開發完成並推出上市。」

 

本文由 insight.tech 編輯副總監喬治妮.貝內施(Georganne Benesch)編輯。

AI 與機器學習改造癌症治療

肺癌在全球最常見的癌症類型中排行第二,其篩檢是一個複雜的過程。醫師使用低劑量電腦斷層掃描 (LDCT) 掃描患者,產生數百張 2D 影像。醫師檢視這些影像,識別腫瘤的位置與體積,然後根據患者的病歷、檢驗報告、切片檢驗,及其他資訊進行評估,這一切都有助決定病症分期和最佳治療手法。

LDCT 是對抗這種致命疾病的必備工具,但它亦是一個緩慢而艱苦的過程,留有發生人為失誤的空間。有一種使用邊緣處理、AI 和安全資料分享的新方式,協助醫師更快達致準確診斷,並更早開始治療。隨著時間,它可增進對肺癌和其他疾病的瞭解,並推進更多有效療法的發展。

提高偵測率

LDCT AI 助理解決方案由網路硬體和邊緣伺服器製造商其陽科技股份有限公司 開發,協調使用三種進階技術更快取得結果。最重要的是快速運算能力。AEWIN SCB-1932C 邊緣伺服器搭載第 3 代 Intel® Xeon® 可擴充處理器,可在現場幾乎即時處理數百個 LDCT 影像。

「要處理那麼多影像,CPU 必須極為強大。」其陽的銷售與行銷總監 Benjamin Wang 表示,「而且部分 Intel® 晶片也包含內建安全功能,協助保護醫療資料免受黑客之害。」

此 AI 助理平台使用 Intel® OpenVINO 工具組分析患者的 LDCT 影像。系統透過大量掃描,可把醫師需要考量的影像數量從高達 600 減至少數。

「AI 應用推斷來偵測異常的肺結節並作出分類,讓醫師只需檢查優先度高的掃描,協助提高診斷效率。」其陽產品行銷經理 Tiana Shao 說,「醫療 AI 架構設計人員從可在其陽邊緣運算平台上輕鬆執行的數百個已支援 AI 架構中轉換,提供顯著的效能提升。」

隨著醫療 AI 技術提升篩檢效率,可更早識別疑似癌症,帶動治療工作流程更早開始。提升 AI 系統這種可用性能加速開發早期偵測解決方案,並可降低照護的總成本。

改善 AI 模型

最近其陽開始使用一個可提高偵測效率、更準確預測病發,並導向已提升治療的新平台。

多年來,各種迴異並不斷演變的患者隱私法律交纏,阻礙了醫療專業人員彙集和分析他們資料的能力。透過全新的 Qisda 聯邦式學習平台,全球醫院可安全地分享重要的 AI 模型參數,而不需傳送任何敏感的患者個人資訊。

如此巨量資料流入將讓需依賴分析大量資料組來提升能力的 AI 模型受惠甚豐。「透過在以其陽為基礎的 IT 基礎架構上執行的開放式、安全的聯合學習,醫院可一起建立並調整更優異的模型。」Shao 表示。

機器學習也需要多樣性才能減少偏差。當醫院資料隔離在孤島時,便限制了地理及人口範圍。即使是醫師使用的醫療儀器類型也可影響結果。在日益增加的多樣化資料組支援下的 AI 模型會持續提升準確度。AI 系統與醫療程序相連帶來大量結果,可協助醫師更充分瞭解疾病進展,並決定在各種情境中最有效的治療。

其陽計畫在台灣兩家主要的大學醫院和數家較小的地區設施部署 Qisda 平台及其智慧影像解決方案。購買新的 AI 基礎架構對許多醫療機構而言往往是具挑戰性的投資。利用現有 IT 基礎架構的閒置運算可減輕醫療 AI 開發的高昴資本支出。此外,Qisda 提供可以在醫療中心內實作的雲端解決方案。對於未能負擔高效能設備的地區醫院,此商業模式可出租解決方案,而不是購買整個系統。

「醫療 AI 為現代商業模式如訂閱或每次使用收費舖路。」Wang 說道。

隨著 AI 演算法內嵌更多資料,小型醫院及其分支將在學習模型準確度及預測的提升下同等受惠。

迄今以來,其陽在肺癌方面使用其系統,但使用案例可能擴大。「肺結節以現今技術就可實現高準確度偵測。我們以此作起點,並期望未來的潛在應用。」Shao 說,「憑藉全球各醫院相互合作,智慧醫療保健可快速演進。我們預期在未來幾年可看到許多新的應用。」

 

本文由 insight.tech 編輯副總監喬治妮.貝內施(Georganne Benesch)編輯。

加速開發人員的旅程:邊緣 AI

建構在邊緣執行的 AI 應用程式或看似一項難以應付的工程。但透過如 Intel® OpenVINO 工具組 2022.1 般適當的開發工具與平台,開始、簡化您的工作,並部署實際生活解決方案其實很容易。

為了深入研究邊緣 AI 的作業及業務價值,我和 Intel 的網路與邊緣組中 OpenVINO 開發人員工具副總裁阿當.邦恩斯(Adam Burns)開展了對話。邦恩斯談到把新功能帶入 OpenVINO 2022.1,讓開發人員更輕鬆,可專注在建構他們的應用程式的策略。我們的對話涵蓋該從何著手,到如何解決 AI 開發人員的最大挑戰。

首先我們一同討論開發人員在打造人工智慧解決方案時應該具備什麼知識。

歸根究底,邊緣是產生作業資料的地方。它位於商店或是餐廳,在您試圖為購物者或消費者最佳化體驗的地方。在醫學影像中心,它位於拍攝 X 光的地方。或處於一家想要提高產能及製造效率的工廠。

然後您得看看 AI 如何與現有的應用程式結合。舉例來說,在工廠裡,您有在組裝線上執行部分作業的機器。您可以使用來自該應用程式的資料進行目視檢查,並確保商品品質。或者可以使用音和資料型機器學習,來監測電腦健康狀況並預防故障。在這個組合下,您可以將資料用於應用程式,再用它來增強系統正在執行的事項。

邊緣五花八門。您有不同的機器尺寸、成本和可靠度期望。因此,當我們思考有關邊緣 AI 的事時,我們也在考慮如何解決有多種應用程式、外型規格和顧客需求的問題。

在 OpenVINO 2022.1 版本背後的策略和思維是什麼?

我們首次推出 OpenVINO 時,許多的邊緣人工智慧應用程式將重點放在電腦視覺上。

從那時候起,我們就與數以千計的開發人員合作並聽取他們的意見。我們加進此版本的有三大內容。

最重要的是讓開發人員易於使用。全球有數百萬名開發人員使用諸如 PyTorch、TensorFlow 或 PaddlePaddle 等標準的人工智慧框架,而我們希望工具在使用上更方便。舉例來說,某人從這些框架中抽出一個標準模型,希望將其轉換,好在各種不同的平台上使用。我們已簡化並更新我們的 API,把它變得和這些框架非常相似,開發人員也感覺格外熟悉。

其次,我們在邊緣有一組廣泛的模型和應用程式。可以是音訊、自然語言處理(NLP),或是電腦視覺。OpenVINO 2022.1 中非常重視啟用這些使用案例,並真正提高橫跨這各式系統的效能。

第三是自動化。我們希望開發人員能在他們選擇的裝置或環境上專心打造應用程式。OpenVINO 2022.1 自動偵測您正使用哪類平台、哪種模型,並決定該系統的最佳設定,而不是需要大量參數來真正調節並獲得最佳效能。如此一來,即使沒有最佳化專業知識,開發人員也能在各種系統中輕鬆部署。

您可以分享更多有關音訊和 NLP AI 現時如何應用的資訊嗎?

先以一個客戶例子說起,然後再來聊邊緣吧。今天,許多人都使用視訊會議平台。在此背後,那些平台在處理我們所說的內容,讓我們能夠在需要時提供隱藏字幕以提供清晰度和協助。那就是自然語言處理。

它們也進行噪音抑制。如果有人來我家工作,而我身後有一台高速風箱,視訊會議平台會盡量補捉我的聲音,把其他雜音降到最低。

我們在看待邊緣時,類似類型的工作負載至關重要。在餐廳自動點餐,在零售商店自動訂購,始終是一大重點。NLP 可用於處理會進入一間免下車餐廳的訂單,確保他們準確取得訂單,然後向顧客顯示。

音頻處理可在工廠用來衡量機器的健康狀況,尤其是在馬達和傳動裝置等方面。您可以在多種類型的設備上放置音訊訊號,並且可以偵測到表示故障或異常的某些音訊特徵。

因此,您會開始透過電腦視覺發現更多缺失;同時,您的音訊特徵正在偵測馬達的異常情況。那是一個標記,標示潛在修復或啟動某類修正行動。

現今的開發人員在建構 AI 應用程式時所面對最大的挑戰是什麼?

其中一個主要問題是,許多圍繞 AI 和現有模型的研究都在雲端環境上建構,您擁有幾乎無限的計算。如今在邊緣,許多開發人員是在受限的環境中工作。

您如何讓應用程式與功能不再只是紙上談兵的書面研究,而是實際投入部署?我們正在做的諸多努力之一是讓它具備高效和經濟實惠的特點,以便在邊緣執行,讓您從部署中獲得的價值大於部署成本。OpenVINO 讓開發人員能夠利用部分最先進的 AI 應用程式,但以足以在邊緣上真正部署的效率利用。

對希望學習更多、實踐更多的開發人員來說,他們可從哪裡開始?

請從 openvino.ai 開始著手。那裡詳列了入門指南,逐步說明模型最佳化、存取 Jupyter Notebook、不同類型的應用程式,以及代碼範本。還有,您當然可以免費下載 OpenVINO。

對於想要在託管環境中工作或想在不同類型的 Intel 系統中進行原型設計的人,我們有一個 IoT DevCloud。您可以在幾分鐘內登入並使用 OpenVINO 執行工作階段。無論是最佳化網路還是在資料集上執行特定類型的應用程式,那些筆記本和代碼範本的存取都相同,讓人可立即著手做事。人們可以存取大量不同的模型類型和應用程式,也能使用自己的樣本資料。

最後一項方法是我們的邊緣人工智慧認證計畫。它與教授邊緣 AI 的應用更息息相關,同時您會使用 OpenVINO 做為工具。

我認為這三處都是絕佳的起點,具體取決於您在開發過程中所處的位置。

您還有其他想要補充的嗎?

在邊緣產生資料的應用程式何其多。而那些資料可透過結合人工智慧來促進節省成本、提高客戶體驗或改善運作效率。OpenVINO 就是從營運的角度考量已在邊緣運作的東西,並透過 AI 對其增強。

今天的許多 AI,尤其是雲端的,都部署在昂貴的加速器上。在很多案例中,這些解決方案不是會造成過熱,就是所費不貲。OpenVINO 透過調整這些 AI 工作負載和這些 AI 網路,在標準現成的 Intel CPU 上有效執行來解決那個問題,而那些 CPU 現時擁有強大的 AI 效能,而且遍佈全球的部署中,亦即無需購買額外的東西。這開啟了一系列嶄新的機會,幾年前您無法部署這些應用程式,因為它們的效率不夠高,或者成本效益不足。

我們正試圖透過 OpenVINO 將更多的開發人員帶到邊緣,確保在這些技術上盡可能地投資,我們認為這些技術在客戶體驗、節省成本、改良製造和獲得更多商品方面皆價值匪淺。

從這個角度來看,我們正嘗試使用 OpenVINO 解決兩件事。其中是使其經濟實惠,以便部署。然後透過開發人員的角度使其更易於使用,進而使人工智慧真正地普及化,讓更多開發人員得以參與,並建立和部署這些應用程式。

 

本文由 insight.tech 編輯副總監克莉絲汀.卡杜薩(Christina Cardoza)編輯。