AI 即服務:檢驗準確度以及快速的 ROI

機器視覺為製造商提供了有形的直接效益。由人力監督品質控管不僅準確度只有 80 % 左右,而且產品瑕疵或問題經常太小,肉眼無法察覺。AI 提供的解決方案更可靠,能讓製造商達到 99 % 的準確度,而且能夠揪出尺寸不到 1 mm 的微小異常狀況。

然而,機器視覺的前置成本高昂,可能是製造商的一大障礙,尤其是必須在不同生產線調整同一套解決方案的製造商更是如此。為了解決此一困境,AI 視覺即服務供應商 BlueSkies.AI,於是與運算裝置全球領導者 Lenovo 和 Intel 合作。同級最佳運算效能,結合開放原始碼軟體和視覺 AI 專業知識,締造出安全可擴充的品質檢驗解決方案。世界各地正面臨勞動力短缺的問題,這類解決方案可讓公司行號重新配置人工檢驗的人力,訓練他們擔任附加價值更高的職務。

AI 即服務運作方式

BlueSkies.AI 與 Lenovo 以及 Intel 密切合作,COVID-19 全球大流行期間面臨了種種限制,在一家大型製藥公司試行了解決方案。在硬體方面,他們部署了搭載 Intel® 處理器的 Lenovo ThinkEdge SE30,一款專為承受嚴峻環境所打造的工業電腦。

「這項裝置的設計可裝載於傳送帶,還可依照產品和潛在缺陷大小選擇攝影機。」Blueskies.AI 創辦人暨執行長 Ted Connell 表示。以這個案例來說,電腦視覺攝影機必須兼顧全局,並且偵測藥片生產線小至 0.1 mm 的瑕疵。

客戶不需要任何 AI 或物聯網技能。BlueSkies.AI 開發的 AInspect 是一種邊緣機器視覺裝置,搭載整合式電腦、攝影機,以及裝在傳送帶頂端的燈具。客戶只需要為系統展示每種瑕疵類型的實例 30 至 50 個,以及數量相近的模範實例,系統就會訓練自己的 AI 模型。

「光用這些資料就能開始著手,而且我們能達到 90% 的中高準確度。」Connell 表示。「我們已經順利設法用少量資料訓練模型,並且迅速達到比人類高的準確度。」如果客戶需要更高的準確度,向系統展示更多各類型瑕疵樣本即可,而且每次互動都會讓 AI 模型更臻完美。BlueSkies.AI 是其 AI 即服務模型的一環,負責監督初始訓練達到預先選定的準確度,並持續提供支援。

邊緣運算提供資料安全性以及可擴充性

確保資料安全無虞是製造商的重中之重。很多公司的通訊協定禁止資料離開工廠,因此不可能採用雲端解決方案這個選項。

「製造商考慮大規模實作及部署解決方案時,安全性是重要核心考量」– Lenovo ThinkEdge Business Group 資深主管 Blake Kerrigan 表示。「過去分歧眾多的組織打算融合 IT 與 OT 時,更是格外重視安全性。」

這項解決方案的內部部署運算能力強大,將資料保存於邊緣和客戶的防火牆後,消除了那方面的疑慮。製造商可信心十足部署 Lenovo 硬體,因為確信它符合所有安全條件與品質標準。另外,這個供應商計畫值得信賴,在全球 180 多個市場獲得支援,對他們也是一大優勢。「我們能夠利用那種規模經濟,服務大型全球企業。」Kerrigan 表示。

未來:邊緣開放原始碼

專屬機器通訊協定在製造業歷史悠久,互通性難題與資料瓶頸隨之而來,可能導致相連解決方案實現 ROI 的速度減慢。

Kerrigan 認為採用開放源始碼是未來的趨勢。「我看好 AI,尤其是電腦視覺,因為它基本上是單一語言。」他表示。「BlueSkies.AI 與 Intel 領先群倫,採納並擁抱這個開放原始碼社群,因為這是大勢所趨,將可幫助我們從 IT 點改善水平策略。」舉例來說,Intel® OpenVINO 工具組提供了完備的開發架構,依照標準執行,支援深層學習應用的創新技術。

延遲則是製造商面臨的另一道難題,而且採用 AI 機器視覺這類高頻寬解決方案時延遲格外嚴重。AI 與相連的事物逐漸普及之際,在邊緣處理資料是儘量減少延遲的方法之一,還可減輕安全性疑慮。

Kerrigan 表示:「大量工作負載持續在雲端整合,企業也紛紛將應用程式移至雲端,而今我們卻為了效率與速度,正在討論將工作負載與應用程式移回邊緣,」

不過互聯製造的未來,最終將採用全方位的運算觀點。「關鍵在於從邊緣到雲端管理整個廠房的資料。」Connell 表示。「AI 將無所不在。我們需要同質的環境和網路,儘量減少延遲,並且儘可能強化分散式運算中心之間的安全措施,才能支援那些應用。」

有了強大的邊緣運算與資料安全措施之後,不妨想像一下 AI 即服務能為您的企業創造哪些效益。

 

由 insight.tech 編輯副總監 Georganne Benesch 編輯。

徹底改變廠房的工業運作方式

有潛力讓廠房工業製程加速,並且更安全也更永續的新工具很多,其中包括邊緣運算和數位分身。然而,伴隨著這些效益而來的難題包括,弭平 IT/OT 落差,以及用先進的技術搭配舊式基礎架構。

工業製造解決方案供應商西門子的工廠自動化執行長 Rainer Brehm,討論了這些工業趨勢與轉型。他談及標準化、自主 AI,以及包含西門子本身的使用案例。他從 1999 年就效力於該公司,持續親眼見證了這個領域的演變,以及接下來可能的發展。

工業領域在 2023 年及往後的趨勢走向如何?

在我們看來,結合數位(亦即模擬模組、數位分身)與真實世界是未來的趨勢。基本上,只要事先模擬一切,然後執行就可以了。備妥回饋迴路。先從作業取得即時資料,然後將它回饋至數位分身,接著就可以進一步將資料最佳化。善用資料極為重要,因為雖然 AI 尚未在廠房蔚為風潮,但是由於資料越來越唾手可得,AI 將會在廠房逐漸風行。

另外,我們還注意到軟體定義的控制方式,或是軟體定義的自動化。目前,幾乎每樣東西都與硬體搭售,但是日後分開銷售和虛擬化的比例將越來越高。

最後一個重點則是,回顧廠房時我們發現,使用這些複雜技術的人,依舊是機器的操作者。這些人雖然不是 IT 專家,但依舊必須能夠操作與維護生產線、機器和基礎架構的機器設備。因此,我們必須面對以人為本的自動化這個議題:我們怎麼做才能讓過程儘可能簡單?

達成工業 4.0 的目標必須克服哪些難關?

我認為過程必須動用多項技術。然而,他們並未擴充的原因在於,OT 與 IT 人員的溝通方式截然不同。即使是在我們公司,身為 OT 人員的我也能感同身受。談及連線能力時,我想到的連線對象是真實世界、設備、感應器與硬碟等。IT 人員談及連線能力時,腦中浮現的連線對象則是資料庫、雲端與資料湖。客戶的體驗,我們在公司也感同身受。IT 部門與 OT 人員之間的落差仍未消弭。OT 人員負責定義如何自動化、如何架設設備、如何設置生產線,以及如何如何透過維護的方式最佳化。

那麼您如何整合溝通方式?雖然重點可能在於用字遣詞,但是舉例來說,可能與如何為 OT 整體環境制定計畫有關。我們引進了全新的程式設計環境,名為 SIMATIC AX (Automation Xpansion) 擴充套件。之所以稱為擴充套件的原因在於,它為 IT 人員拉近了與 OT 界的距離。

整體環境的異質程度也非常高。很多機器使用的語言都不一樣,因為機器是出自不同的廠商之手。由於沒有標準,因此其實無法擴充。標準是擴充的必要條件。這項必要條件甚至適用於新機器、新廠擴建,不過就連既有廠房擴建也需要有標準可循。工廠一般至少運作 10 年,多半運作 20 年或 30 年。如果是能源產業或化學產業,工廠或許會運轉 40 年。

邊緣與 AI 問世,如何使得工廠自動化的過程複雜化?

論及廠房的邊緣運算時,條件更多。所謂的即時,可能只有微秒之差。請試想,在速度飛快的流程中,一微秒可能發生很多事情。如果回應速度不夠快,那麼可能會懷疑機器有問題,或是可能得出不同的結果。因此,即時是非常重要的議題。

其次,如果想在廠房部署 AI 工作負載,並且希望它以極快的速度回應,那麼關鍵則在於這個 AI 工作負載必須有緊鄰機器的推論,而原因則單純在於光速。另一方面,AI 最好能與實際過程頻繁互動。基本上,您必須干涉這個過程,因此最好採用緊鄰機器或生產線的近距離配置方式。此外,您還必須從過程中擷取資料,然後回饋至 AI。

我可以舉個例子說明。我們在漢堡市的工廠,每天約產生 10 TB 的資料。儘量不要將那 10 TB 的資料傳送至雲端,讓資料留在資料來源才是明智之舉。這個作法或許有別於傳統的 IT 現況。但是除了新增即時功能,我們還必須加入安全措施。

這一點與自動駕駛有點類似,因為安全措施對兩者而言都是極為重要的一環。請試想,在汽車業推行自動駕駛時,將看到小朋友跑到街上時是否該停車的決定,交給雲端並非是明智的選擇。直接在車上儘快執行那個反應才是上策。機器也同理可證。如果印刷機故障,而且有人的手指夾住了,應該立刻停機才對。您需要的是那種光速反應。

但何不未雨綢繆呢?1999 年我開始在西門子工作時,自動化的工作內容基本上重複性質都很高。大量生產非常適合自動化,因為量產有很多重複性質的工作。或者也可以將可預測的工作自動化。基本上,可以只將已知的部分自動化。

雖然 AI 已經用於將流程最佳化,但是難道我們不能也利用 AI 打造更自動化的工廠嗎?我們該如何利用 AI,讓機器或機器人自行決定該怎麼做嗎?也就是說,AI 不僅能將流程最佳化、將工程設計最佳化及強化,實際上還能操縱機器人、機器與生產線。將 AI 應用於那個用途令人非常雀躍,因為它開創了全新的自動化領域。

西門子有哪些使用案例能夠當成這些解決方案的實際示範?

先從我們的廠房說起;我們自己也採用了用於客戶廠房的解決方案。我們位於漢堡市的廠房,正是 IT/OT 運用 AI 的使用案例。印刷電路板生產線的產量極高,而且將零件放在電路板的過程也很複雜。我們過去通常會在最後以 X 光檢查印刷電路板,而且始終遇到瓶頸。因此,利用 AI 之後,現在我們能預測每塊印刷電路板品質是否優異,也可預測每部機器是否有極高的可能性不會發生品質問題,將印刷電路板送去 X 光機的作法已經淘汰;現在印刷電路板會略過 X 光機,直接送去進行最後組裝。

另一個例子則是基礎設施,也就是隧道自動化。開車行經阿爾卑斯山或洛基山脈的隧道時,哪些隧道極有可能是由我們的 PLC 所自動化及控制。為了偵測隧道內的緊急情況,例如是否塞車、是否發生火災,現在我們利用 AI 的情況越來越多。如果需要快速回應,該如何從隧道疏散?如何開啟或關閉通風孔或燈光?

再以工廠為例,我們目前採用即時的彈性抓取方式,將物品從盒子中取出。AI 會指示機器人抓取哪個部位,完全不必用需要抓取的物品訓練機器人,也不必為機器人編寫程式。我們會訓練機器抓取的技巧。基本上,只要夾爪允許,機器人能抓取任何需要的物品。因此,有了那項抓取技巧,我們能開始將未知或無法預測的動作自動化。

我的最後一個使用案例雖然目前尚未實現,但卻是目前投資的標的:未來是否可以將維修自動化?以汽車電池為例。未來或許可以將汽車開去保養廠;電池取出後發現有缺陷,接著系統能自動偵測問題所在,然後自動修理電池電芯。這也算是將未知的過程自動化,因為每顆電池都獨一無二。是否能利用 AI 將那個過程自動化?因此,幾個令我十分雀躍的使用案例,將會在未來產生影響。

請跟我們聊聊合作夥伴關係的價值,例如與 Intel 的夥伴關係。

我們大概與 Intel 合作了四十多年。為了實現低延遲功能的過程,尤其是針對必須在微秒內採取行動的工作負載,我們在 2012 年展開了 TAP (Technology Accelerator Program)。成果極為豐碩,並且幫助我們在控制器採用 Intel 晶片。

我們目前正就供應鏈危機與 Intel 合作。因此,多虧了 Intel,雖然我們或許無法滿足客戶的所有需求,但我們能儘量達成那項目標。

機器視覺應用是耗用大量運算能力的工作負載。為此,我們將推出採用第 4 代 Intel® Xeon® 可擴充處理器的全新產品組合。這個產品組合可望在 2023 年中上市。那個全新的產品組合完全能解決廠房的需求,非常令人興奮。

最後有任何結語跟我們分享嗎?

首先,我深信,沒有自動化、電氣化和數位化,就沒有永續發展的未來。因此,我們與 Intel 的合作對未來貢獻良多。第二,我認為,隨著我們將無法預測的個人化工作負載自動化,自動化領域的範圍將進一步擴大。第三,我們必須儘可能讓這項技術易於使用,OT 人員才有辦法操作這項複雜的技術。

相關內容

若要進一步瞭解工廠自動化,請觀賞達成工廠自動化:利用西門子的技術。若要瞭解西門子最新的創新技術,請用 @Siemens 在 Twitter 和 LinkedIn 追蹤他們。

 

本文由 Erin Noble 編審。

遠距醫療解決方案:拉近醫療保健的數位落差

對於世界上很多地區來說,解決數位落差的問題,不僅關乎帶動及時取得資訊,更是攸關生死的大事。

偏鄉地區缺乏強大的數位通訊基礎設施,取得醫療保健及提供有效遠距醫療解決方案的能力受到了極大的影響。以巴西為例,這類國家的醫療保健設施的難題包括,執行大量身體檢查、以有效率的方式將這項資訊傳送給醫事人員評估,然後儘快將結果提供給患者,讓他們尋求必要的後續治療。巴西第一批專業遠距醫療供應商 Diagnext 的創辦人兼執行董事 Leonardo Melo 表示,在某些情況下,這類流程延誤不僅釀成慘劇,有時甚至導致患者喪命。

因此,Melo 立志改變這種延誤。針對不可能利用先進技術支援精密醫療活動的地方,Diagnext 打算讓醫療照護突破技術或地理位置的侷限

將遠距醫療解決方案引進巴西

在全球大流行之前,巴西完全沒有任何正式的遠距醫療法規。Melo 說明,這是因為巴西的遠距醫療體驗一向並非為個人所設計,而且效率低落。

「經實證,傳統的遠距醫療照護,至少就巴西與拉丁美洲而言,與患者距離甚遠,導致醫師與患者之間失去了必要的同理心。」他表示。「我們設法維持傳統服務的形式與人性,同時融入一點科技,不僅拉近醫療照護的距離,更提高了效率。」

有了 Diagnext 的解決方案,醫療保健設施在照護點直接就能提供所有身體檢查。這個流程從頭模仿傳統的醫療照護:患者進入檢查室,由醫事人員執行檢查,例如 X 光、超音波或心電圖。檢查在此處理完成之後,傳送至 Diagnext 的設備,利用 AI、低價 3D 數據機,以及衛星技術壓縮並高效傳輸資訊。資料會壓縮至極致,在上限一向接近 50% 的環境,達到 97% 無失真壓縮,Melo 表示。接著,資料會以安全的方式,以最有效率且最佳化的方式,轉寄給遠端的醫療專業人員。

Diagnext 的遠距營運中心採用搭載 Intel® 技術的伺服器,將身體檢查的資料轉散發並傳輸給醫療專業人員分析。在 AI 技術演算法的協助之下,Diagnext 會自動決定輸送資訊的最佳途徑,讓資訊儘快送達預定目的地,即使是通訊基礎設施有限的地點也不例外。該公司的解決方案對於巴西和拉丁美洲的偏鄉地區格外關鍵,因為這些地方取得科技或高速網際網路的能力有限。

Melo 表示:「這個環境會以整體的方式,根據提供檢查的急迫性,自動評估通訊結構的情況。這個流程甚至能視為傳統的遠距醫療,不過執行時間是一大差異。」相較於市場標準,這個速度快了高達 240 倍。另外,醫療保健設施採取這個方式,價格比傳統醫療照護執行流程便宜 60%。Melo 表示,這樣一來,他們便能處理更大量的諮詢,相當於每月數千次檢查。 

促進醫療保健平等

Melo 已經預見,Diagnext 的遠距醫療解決方案能帶動有意義的改變。

他說明,Diagnext 與亞馬遜雨林的政府醫療院所合作,突破侷限提供了醫療保健,而且將檢查傳輸時間從六小時縮短為兩小時。因此,臨床醫師光在一年之內,就為 52,000 名婦女提供了乳房攝影檢查,並且執行過 48,000 X 光,再次評估超過 4,500 次,癌症手術將近 150 次,協助拯救了許多性命。

該公司的解決方案在全球大流行期間也至關重要。聖保羅某大型醫院系統超過負荷,並且缺乏滿足需求的電信基礎設施,於是與 Diagnext 合作,並採用搭載 Intel® 技術的行動電話,以安全的方式傳輸檢查資料。巴西紅十字會在系統故障之後,與 Diagnext 合作,以高效率的方式處理資料。

Melo 表示,部分大型醫院也有類似的情況,因為系統無力因應 COVID-19 全球大流行期間暴增的醫療資料。在這種情況下,Diagnext 持續挺身而出,提供 AI 驅動的智慧資料壓縮功能,重新整理及部署資料,並且為關鍵任務系統釋出容量。

Melo 表示,Diagnext 的任務是讓所有人獲得高品質的醫療照護,不受環境或地點侷限。該公司在重塑遠距醫療未來方面的成果豐碩。Diagnext 與亞馬遜州打算建置第一套整合式臨床檢查資料環境,甚至利用 AI 分析更多患者檢查。亞馬遜州的公立醫院初次合作的成果是,在一年中成功處理了 100,000 份檢查,而今的目標則是超越這個數量。Melo 表示,他希望 Diagnext 能將醫療保健的觸角延伸至最有需要的人,留下歷久不衰的遺產。

「我們的目標是將技術、流程、專案管理與方法等,推廣至世界的其他角落。」他表示。「我們正在研究人口龐大且公共衞生需求極端的國家。我們的構想,是將醫療服務帶給任何地方有需要的人,並且兼顧效率、有效性、品質以及經濟實惠。」

 

本文由 insight.tech 編輯副總監 Christina Cardoza 編輯。

餐廳中的 AI:QSR 缺少的要素

現今的速食餐廳(QSR)在高壓的環境下營運。為了縮短顧客等候的時間,並且供應熱騰騰的漢堡和酥脆的薯條,員工莫不手忙腳亂,並且在心中祈禱設備不出任何差錯。他們在長期人手不足的情況下,必須管理一連串新的線上訂單,還要招呼餐廳和得來速的顧客。

那麼,這些餐廳何不直接僱用更多員工?除了食物、必需品與人力成本上升,QSR 還面臨了種種難題,因此排除了僱用額外人手的任何選項。

「餐廳負擔不起增聘一名值班經理的費用,也無力再多僱用六名員工處理訂單大量湧入。他們必須學習更有效運用現有員工的新方式。」Vistry 這家開發零售業 AI 與自動化解決方案的公司創辦人兼 CEO Atif Kureishy 表示。

這正是 Vistry 開發餐廳自動化平台 Discrn 的主因之一。餐廳利用邊緣 AI 與電腦視覺技術分析營運之後,能夠以經濟實惠的方式獲得即時的深入解析,讓他們事半功倍、提高效率,並且改善服務與食物品質。

餐廳廚房中的 AI

QSR 必須取得巧妙的平衡,事先準備滿足顧客需求的充裕食物,而且不能讓食物冷掉或泡軟。然而,員工往往分身乏術,無法監控預製的漢堡或薯條。他們必須在新訂單湧入同時,協調訂單數量與準備時間,完成這項棘手的任務。

Vistry 的 Discrn 平台正好能派上用場。這套平台運用電腦視覺攝影機,記錄食物從烤架或油炸鍋取出的確切時間,透過語音機器人傳送通知給員工,避免食物擱置的時間過長。這樣一來,不僅食物更新鮮,還能減少浪費,幫助餐廳省錢。

這套系統還可協助偵測食物準備速度落後訂單需求的情況。

Kureishy 表示:「語音機器人會說『嘿,經理值勤中,請前往油炸工作台,額外準備兩批』。」

在餐廳大規模運用 AI

擁有多間分店的 QSR 業主,還能分析所有分店的營運情況與模式,獲得寶貴的深入解析。

舉例而言,分店遍布全國的雞肉餐廳更換馬鈴薯供應商時,能夠用 Discrn 剖析 2,000 家分店的資料,確保維持品質。

Kureishy 說明:「如果投訴增加,他們能判斷原因是出在產品,還是食物準備過程。」

另外,餐廳正利用 Vistry 測試透過手機點餐顧客專用的得來速車道。Discrn 平台解析傳入的資料之後,能夠預測四分鐘內的等候時間,準確度為 90%。這項資訊對顧客的一大福音,而經理則可以利用它發現並解決阻塞的情況。

Kureishy 表示:「駛過的車輛越多,賺到的錢就越多。」

資訊視餐廳與營運情況可能有所不同。這間雞肉連鎖店運用計量數據執行規定,例如薯條不能擱置超過五分鐘。其他商店則將 AI 感應器裝在設備上,向員工發出故障通知,並且量測油質與產量等因素。Discrn 利用 Intel® 發行版 OpenVINO 工具組,依照連鎖店與商店需求量身打造解決方案。

Kureishy 表示:「我們使用 Intel 技術的裝置,能以極為符合成本效益的方式執行邊緣 AI 工作負載。」「我們瞭解,餐廳尚未準備好為了添購技術花大錢。」

處理日益增加的複雜度

然而,營運日趨複雜的原因不光是餐廳人手短缺而已。QSR 必須因應全新的手機與線上點餐選項以及外送服務。

「過去的情況是,一個 18 歲的年輕人製作食物,然後交給櫃台的人。如今情況不同了。」Kureishy 表示。

線上訂單增加,高級個人化的要求隨之而來,為精簡的營運方式增添了變數。

「顧客可以在線上看到所有選項,例如:『我想在三明治多加兩片酸黃瓜,還有番茄醬,但是不要芥末』。」這樣一來,餐廳員工的負擔更沉重了。」Kureishy 表示。

另外,由於 DoorDash 和 Uber Eats 這類第三方外送服務供應商對於餐廳及其產品不熟悉,因此餐廳業主必須因應人為錯誤和疏失。

「這類訂單有很高的比例是缺少商品或商品不正確,但是出錯時,餐廳的能見度有限。對於這個產業來說,這是當前的一大問題。」Kureishy 表示。

幸好,邊緣分析能幫助業主因應這些難題。電腦視覺攝影機可分析及追蹤訂單,並且驗證員工是否依照客戶規格準備食物,以及包裝人員是否將正確的商品放進正確的袋子。分析功能還可協助餐廳處理日益複雜的訂單優先順序計算過程。

「或許某次外送服務的每筆訂單能賺到更多錢。但另一筆訂單雖然賺到的錢較少,但是客群忠誠度高。您該如何理解這一切?邊緣分析能幫助您做出正確的商業決定。」Kureishy 表示。

其他零售商的 QSR 解決方案

由於營運日趨複雜,餐廳人手可能長期短缺,因此 Kureishy 認為,邊緣 AI 將在速食餐廳越來越受歡迎。

「我認為,我們是以符合成本效益的方式,大規模推動這項技術的先鋒。」

Discrn 平台輕輕鬆鬆便能調整,幫助其他類型零售提高營運效率。舉例來說,客戶一到,硬體商店就能將線上訂購的割草機送達停車場。便利商店可衡量數位告示板促銷活動的成效。汽車商店能瞭解員工是否已翻新修補或換油、工時、使用的材料量,以及員工是否遵守規則。

「這些系統最終將與人力合作無間,改善各項功能。」Kureishy 表示。「系統能提高企業的效率與效益,讓他們以相同或更少的資源完成更多工作。」

 

本文由 insight.tech 編輯副總監 Christina Cardoza 編輯。

應對 5G 和邊緣運算挑戰的硬體關鍵

5G 正在迅速擴大工業物聯網 (IIoT) 中邊緣運算和進階網路的可能性,讓製造商可更充分利用資料、自動化和人工智慧,以真正改變運作方式。

雖然製造商享有高頻寬、低延遲連線能力的好處,但 5G 技術的極快速度引起他們的注意,讓網路專家能夠打造更複雜且高效率的工業網路。

工業領域的邊緣運算和網路硬體製造商 IBASE 的產品高級總監 Jesse Chiang 表示:「在 5G 開發中,創新是整個網路結構的虛擬化。網路功能虛擬化 (NFV) 支援軟體定義廣域網路 (SD-WAN) 等技術,使管理資料流程變得更容易,並有助於降低資料傳輸成本。」

有鑑於此,工業系統整合商 (SIs) 和網路供應商開始探索 5G 提供可能性的原因就無庸置疑了。令人遺憾的是,他們很早就了解到,工業物聯網方程式中的 5G 網路硬體元素可能成為主要的障礙。

「工業物聯網確實需要滿足多項要求:多功能、高效能、高可用性、安全、容易安裝並足夠堅固,以便應對惡劣的環境條件。」Chiang 說。「對大多數 SI 和軟體專家而言,自行設計如此複雜的 5G 網路硬體並不符合成本效益,更遑論在漫長的開發過程中會失去的商業機會。」

幸好,為了克服此困難,工業 5G 硬體製造商運用其專業知識並製成產品,以便 SI 和軟體專家能夠利用技術標準的承諾。

專為工業邊緣所打造

硬體製造商可透過兩種主要方式,幫助應對工業 5G 和邊緣運算的獨特挑戰:設備設計和元件選擇。

例如,IBASE 做出多種設計選擇,以滿足 IIoT 環境的需求 (影片 1)

  • 模組化可讓 SI 和終端客戶根據其具體規格設定硬體平台,並視需求進行擴展及擴充。
  • 備援電源和冷卻風扇,以便在不中斷工廠運作的情況下維修或更換硬體元件,確保高可用性。
  • 散熱設計經模擬測試,以確保設備在惡劣的操作條件下正常運作。
  • 精巧外型規格,可視需要幫助設備適應狹窄或有限的空間。

影片 1。IBASE 為工廠打造 5G 智慧解決方案,同時充分考慮到模組化、效能、連線能力和散熱功能。(來源: IBASE)

在元件方面,Chiang 解釋說,製造商必須能夠在排除未知因素的同時,發揮最大效能。「若要開發 IIoT 的邊緣或網路解決方案,你需要可靠的平台建置。這代表 5G 硬體採用高效能元件打造,並具有容易理解及定義明確的功能,因此它們不會讓你在該領域失望。」他解釋道。

IBASE 充分利用其與 Intel 的技術合作夥伴關係,實現此目標:

例如,其設備包括:

  • Intel® 處理器會處理控制、運算、管理和封包處理,同時最佳化網路效能。
  • Intel® QuickAssist 技術 (Intel® QAT) 提供加速資料加密和壓縮/解壓縮處理工作。
  • Intel Hyperscan:正則表達式比對資料庫。IBASE 將其用於加速工業安全產品中的深度封包檢測 (DPI)。

Chiang 表示:「Intel 不僅具備強大的運算能力,也為其處理器配備了出色的網路功能。Intel 也在 5G 開發方面投入大量心力,這將有助於我們在未來幾年跟上最先進的技術。」

日益廣泛的 5G 和邊緣運算產品

隨著專為 5G IIoT 解決方案打造的硬體的出現,IBASE 已經在為工業計算領域的可能性未來做好準備。

例如,其產品路線圖包刮一系列相容 5G 的多接取邊緣運算 (MEC) 伺服器,為工業邊緣支援 AI 的解決方案提供穩定且高效能的平台。為符合日益增加的安全 5G 網路需求,尤其是在網路節點散布且本機 IT 資源有限的情況下,該公司也開發一系列「通用客戶端設備 (uCPE)」裝置,以支援 SD-WAN 和網路安全應用程式。

據 Chiang 所述,為 5G 和邊緣運算設計的硬體未來幾年將會讓工業 SI、邊緣 AI 專家和安全網路供應商能夠為其客戶提供許多重要的好處。

「SD-WAN 會讓網路管理更有效率,降低勞力和設備成本。」Chiang 說。「隨著越來越多的 5G 部署,邊緣運算將日益成為現實,迎來製造業的下一波數位化轉型浪潮。」

 

本文由 insight.tech 編輯副總監 Christina Cardoza 編輯。

智慧城市延伸觸角

埃及開羅以東 28 英里處,一座全新的行政首都正在崛起。這座智慧城市將利用物聯網技術徹底改變營運方式,從公共運輸到水表和停車都屬於管理範疇。行政人員日後能及時因應瞬息萬變的情況、在民眾報修之前就先派遣人員搶修停電、讓塞車公路上的車流改向,以及用最有效率的路線派出急救人員。600 多萬新居民將能利用一款行動應用程式解決各種需求,例如開啟自來水服務、預訂停車位,或是向適當的部門回報地面的坑洞,讓城市生活幾近無後顧之憂。

埃及政府的例子,完美示範了領導人如何全力打造物聯網和網路連線基礎建設,讓複雜系統控制措施自動化以及應對問題的方式徹底改變。

物聯網與智慧城市

所有規模的城市紛紛期望透過智慧城市技術與解決方案部署服務,以及用更有效的方式獲得可行的深刻見解。舉例來說,公職人員透過公車與火車上的感應器,便可追蹤車輛的位置,以及估量載重和燃油消耗量。智慧街燈會偵測行人,並且視天氣與當日時間以完整或部分功率的方式啟動。先進的攝影機系統可偵測事故、通知現場急救人員、為調查人員擷取資料,並且產生報告。

智慧基礎架構的實作方式因地區不同有極大的差異。在中東和亞洲的高成長地區,中央政府通常會合併各式各樣智慧裝置的資訊。埃及尚待命名的首都將從 32,000 台攝影機、二十五萬台智慧電錶,以及 10,000 個停車位傳送資料至 Honeywell City Suite 平台,讓管理人員以任何組合查看計量數據、設定控制方式,以及接收即時警示。

改善安全與安全機制

歐美城市往往是以漸進分散的方式採用智慧科技,而且系統之間通常無法傳遞資訊。

「城市可能無法取得需要的資訊,因為市區的交通攝影機系統無法與公共安全系統通訊,或者反之亦然。」HoneywellSmart Cities and Communities 總經理 Matthew Britt 表示。

若將資料摘要移至單一平台,官員就能以更快也更協調一致的方式因應緊急情況和大型事件。也就是說,舉例而言,回應緊急情況的時間可能大幅縮短。

協調用基礎架構不僅能用於緊急情況。這個架構也有助於城市為市民提供安全方面的支援,以及管理大型公共集會的運作,例如音樂會、遊行或體育活動。

「如果您正在舉行大型體育活動,而且攝影機網路顯示有人群聚集和封街的情形,那麼您可以改變車流的路線,讓每個人都能更快速安全抵達體育場。」Britt 表示。

有了 Honeywell City Suite,所有資料都會存放於城市伺服器,由採用 Intel 技術的高效能硬體處理。官員可以用機器學習和人工智慧演算法分析平台上的資訊,預測未來的需求,在情況惡化之前改善資源。

「城市正設法做出長期規劃方面的決定,而且對於資料的需求未曾如此孔急。」Britt 表示。

透過資料深入解析,行政人員可隨車流模式改變調整紅綠燈的時間設定,或是安排預測性維修,防止公共交通運輸系統故障,避免這類所費不眥又耗時的事件。行政人員還可視需求增加提高收費,從停車場收取額外收益。

未來:永續發展的智慧城市

智慧架構的版圖不斷擴大,部分城市正透過行動應用程式提供新服務。市民不必經過市府的繁文縟節便可回報各種問題,例如地面坑洞、電線掉落,或是蓄意破壞公物情事。通勤族可以用感應式支付方式購買公共運輸交通系統的車票,並且收到抵達時間的即時更新資訊。市民可以獲得自然災害和其他安全問題的警示。

智慧營運與分析方式也有助於城市逐步實現環境保護方面的目標。舉例來說,駕駛人能收到以最有效率路線前往車位的指示,不僅節省時間,也節省精力。

「如果一出門就能掌握停車位的確切位置,便可縮短困在車陣中的時間、減少浪費燃油,並且減少溫室氣體排放。很多城市設定了高遠的目標,但是卻並未設計任何實現目標的方式。透過彙整及分析資料,他們便能找到提高效率和永續性的方式。」Britt 表示。

5G 連線的版圖擴大之際,Britt 認為,城市可望擴大智慧基礎架構的使用範疇:「有了 5G,便可連接位於四散各地資產上的數百萬感應器,而且完全不需要費用,其他類型的連線也可避免延遲的可能性。」

美國《基礎建設投資和就業法案》以及《降低通膨法》提供資助,進一步的經濟激勵措施即將上路。「目前鎖定用於升級基礎建設的資金金額之高,可能是我們這輩子前所未見。」Britt 表示。

這項挹注有助於鼓勵開發創新技術,幫助城市創造更安全且更永續發展的未來。

舉例來說,Honeywell 正在研究城市的微電網,協助城市在長時間停電期間繼續提供重要服務,例如 2021 年德州那場北美冬季風暴。城市有了微電網,便可將能源儲存於電池,不必在迫在眉睫的時刻指望遙不可及的燃料送達。電池可以儲存任何來源的能源,包括太陽能。

「如果可以現場產生太陽能,理論上就能有無窮無盡的電力隨意支配。」Britt 表示。

他預計,這類構想近期將日益蓬勃發展:「我認為,智慧城市這個概念會加速成長茁壯。政府將採用更廣泛影響百姓生活的各種技術。」

 

本文由 insight.tech 編輯副總監喬治妮.貝內施(Georganne Benesch 編輯。

醫學影像 AI 為肌肉萎縮診斷提供長足的進展

肌肉萎縮症是一種遺傳性疾病,具有多種變異體,從幼年都中年的任何時期都可能發生,診斷起來相當困難。首先,必須鉅細靡遺地繪製患者的基因剖析。然後必須檢驗這些資料,並與研究中心和醫院儲存的大量基因組資料進行比較。分析工作十分艱鉅,需要醫生進行大量手工作業。整個過程可能需要 24 週才能得到結果。

一種新方法採用高效能計算和 AI 推斷,完成大部分繁重的工作,減輕醫生的繁瑣手工作業。透過指引醫生正確的方向,視患者的狀況而定,診斷時間可縮短至 16 週或更短。患者及其家人可提早開始治療,研究人員則能提高對疾病的認識,這對他們來說無疑是項喜訊。

協作促進 IoT 醫療保健解決方案的進展

這個新的診斷方法透過兩家台灣公司密切合作而來。IoT 運算設備供應商安勤科技(Avalue Technology Inc.)在醫院和實驗室擁有豐富的經驗。柏瑞醫股份有限公司(Biomdcare Corporation)專攻醫療軟體、影像和篩檢工具。兩家公司攜手開發一款肌肉萎縮篩檢套件,可快速分析巨大的基因組資料,提供準確度高達 97% 的結果。

為了建立基因組分析平台:肌肉萎縮篩檢套件,兩家公司必須克服醫療資料處理中耗時與困難的艱鉅挑戰。安勤科技資深產品經理 Lu 表示:「我們共同合作,利用最新技術開發軟硬體。」

安勤科技的任務是尋找一個能高效運輸及處理大量資料集以供分析的方法。

Lu 表示:「我們深知解決方案需要一個非常高效的 CPU,因此使用了最新的 Intel® 處理器。」該公司也在其伺服器中內建了一個額外的顯示卡插槽,以容納密集的醫學影像,並使用 10 GB Intel 乙太網路晶片組,避免常見的瓶頸降低資料傳輸速度。

柏瑞醫軟體必須識別患者的疾病變異體,並對能用於比較的大量基因組資料進行分類。大多數醫學實驗室的處理能力都無法因應這麼大的資料集,只有研究中心和大學才有這個能耐。

柏瑞醫使用 OpenVINO 工具組開發了一款 AI 輔助軟體程式,該程式能梳理所有資料、過濾無關的結果,並鎖定前途光明的關聯。接著全面分析這些關聯,再交給醫生。

使用 AI 分析醫學影像

諷刺的是,即使需要大量資料分析,柏瑞醫遇到的難題之一是缺乏相關資料可供處理。

這有幾項原因。第一,AI 演算法對資料永不嫌多,處理的資料愈多,得到的結果就愈準確。與 AI 系統最初設計用來分析的產品和機械裝置不同,人類獨一無二,他們的基因資料充滿了位數成長的排列。

「在工廠,每天都都會產生關於瑕疵品和生產線問題的大量資料和照片。但在醫療保健領域,與患者總人數相比,我們沒有多少資料。對於醫療保健而言,低資料量始終是 AI 解決方案的一大難題,」柏瑞醫行銷總監 Richard Lin 解釋道。

涉及基因突變的疾病格外複雜,進行分析也絕非易事。這個問題對於肌肉萎縮症而言更加嚴重,據國家衞生研究院估計,這種罕見疾病全球每 10 萬人受影響的不到四人。此外,變異體之間的差異極大,因此醫療機構經常將此病症稱為一疾病。

這些問題通常會導致難以找到足夠的具體相關性,因而無法胸有成竹地作出診斷。但柏瑞醫開發了一套專有流程,以利精準診斷。「我們使用較小的資料庫,產生更精確的 AI 模型。這是我們解決方案的關鍵價值,」Lin 表示。

經過資料分析後,系統會為醫生準備一份報告,並將報告和所有的基因組資料與患者記錄儲存在安勤伺服器上。醫療專業人士可以透過軟體軟體平台存取報告,該平台包含簡單的註釋和工作流程工具,以便他們用來做出最終的診斷。

智慧醫療保健解決方案有助於患者與研究人員

肌肉萎縮症篩檢套件不僅替醫生省事,更能讓患者更快瞭解自己是否患病。「在台灣,每 40 名患者中約有1 名可能具有隱性基因但沒有症狀,」 柏瑞醫產品經理 Olivia Wang 表示。

家族成員中若有人患此疾病,或情侶準備共組家庭,可以使用篩檢套件瞭解自己是否患病或是帶原者。雖然目前沒有一勞永逸的治癒方法,但已開發出一些治療方案,以提高肌肉強度並在某些情況下減緩病情惡化。更快的診斷能使患者及其家人有更充裕的時間做準備,並儘快尋求治療方案。

隨著愈來愈多人使用篩檢套件,其所產生的資料將擴大醫療資料庫,進一步推動研究並幫助 AI 系統提高準確性。Wang 表示:「我們希望解決方案有助於研究社群建構更多參考資料,進而協助其他需要進行檢驗的患者。」

這兩家公司也在擴展技術,篩檢其他疾病,包括乳癌和人類乳突病毒。「我們認為 AI 模型訓練解決方案能在許多情況下帶來助益,」Lin 表示。「我們預計今後會開發出更多疾病篩檢解決方案。」

 

insight.tech 編輯副總監 Georganne Benesch 編輯。

利用 AI 改善公共安全與交通

現代城市交通繁忙,而且車流量越大,鋌而走險抄近路的人就越多。汽車為了閃避闖紅燈的行人急轉彎,公車因為機車佔用專用停靠區只好在街道亂停,險象環生的情況倍增。

許多城市在主要十字路口安裝了紅綠燈攝影機,讓他們能夠處理部分違規事件。然而,這類攝影機所費不眥,而且遺漏了小街道上的問題,以及基礎設施受損和公車上的危險行為,例如司機打瞌睡。

7StarLake 是生產高效能運算設備,以及為台灣半自動接駁車開發感應器系統的台灣公司執行長 Martin Ting 與台灣、加拿大和美國的政府和運輸官員會面時,對城市交通問題有了透徹的認識。

他表示:「他們總是問我一個問題:『你可以幫助我們防止事故,改善公共安全嗎?』」

7StarLake 於是開發出一套裝載於公車的邊緣 AI 電腦視覺系統,可即時發現交通問題與危險的公車司機行為,並且就迫在眉睫的危險發出警告。城市官員分析系統長時間的資料,便可深入瞭解交通和行為模式,幫助他們改善公共安全與交通管理。

利用智慧公車預防事故

台灣在主要十字路口安裝了攝影機,以台北為例,安裝的數量是 14,000 台,就跟許多城市大同小異。然而,安裝一部攝影機的費用是 150,000 美元,而每年的維修費用也相當於這個金額。另外,攝影機無法即時解讀資訊,也無法發現有限視野以外的危險情況。Ting 說明,若要撒下天羅地網,一般的大都市必須安裝 100,000 台攝影機才夠。

相較之下,7StarLake 的 Time Eye Smart Traffic Solution 在公車安裝的電腦視覺攝影機價格便宜很多,另外還有 GPS 感應器,能夠擷取外部與內部資訊,有助於預防事故。舉例來說,如果司機閉上眼睛,座椅可以用振動的方式示警。另外,資料也會傳送給官員,讓他們能發出警告。

外部攝影機會擷取交通活動,包括違法停在小街道的卡車,以及因為其他車輛佔用而無法駛入停靠區的公車(影片 1)。

影片 1. 7StarLake 的 Time Eye 電腦視覺攝影機會辨識車輛,擷取交通違規事件的相關資訊。(資料來源:7StarLake

這類事故可能導致司機在沒有看到另一側的情況下,在更大型的車輛附近橫衝直撞,險象環生。

在台灣,與卡車和公車有關的事故,是交通死亡事故的主要原因。Time Eye 會立即將嚴重違規情事的相關資訊轉送給官員,讓他們可以在必要時開出罰單或安排拖吊。如果是情節較輕的違規情事,系統會記錄車牌號碼,而且在某些情況下,不需要召喚官員便可送出罰單。

Time Eye 的攝影機還可轉送關於基礎設施危害物的相關資訊,例如阻擋街道的岩石或樹枝,或是人行道人口蓋不見。城市可以立即通知維修人員,並提醒公車司機減速,或是避開危險區域。

電腦視覺攝影機揭露真相

公車司機嘗試避開事故時,可能突然加速或停車,可能導致乘客跌倒。跌倒索賠是台灣常見的市府訴訟來源。

Time Eye 電腦視覺攝影機會擷取時間、交通情況、公車位置、加速與剎車。另外,電腦視覺攝影機還會顯示乘客是站立,或者依據法律規定,在坐著時繫緊安全帶(上下車時例外)。這項資訊可作為客觀的可信來源,並且簡化調查與法律訴訟。Ting 表示,某個南台灣城市採用 Time Eye 之後,行人訴訟案減少 80%。

雖然攝影機會記錄乘客活動,但並未使用臉部識別軟體。資料經過加密之後,透過企業級安全性的 VPN 傳送至市府電腦。

更聰明的交通管理改善之處

7StarLake 為城市量身打造系統,而且系統會選擇他們想收集的資訊。工程師使用 Intel® 發行版 OpenVINO 工具組,節省訓練演算法識別交通情況、車輛與人類行為的時間。

「OpenVINO 有成千上萬經過預先訓練的演算法,能夠執行 70% 左右的 AI 模型開發工作,因此我的工程師不必從零開始建置模型。」Ting 表示。「我們可以節省很多時間,而且我不需要那麼多的工程師。」

市府公車可以擷取大量資訊,每天最多可達 1 TB。市府行政人員可以收到高達 2 MB 的即時資料與影像(透過高速 Intel® Core 處理器轉送)。其餘的資料稍後會轉送,而且儲存於市府電腦供官員分析之用,瞭解特定地點與時間的交通問題。接著,他們可以更妥善分配資源,改善車流量與公共安全,例如張貼標誌、派警察前往正確的地點,或是興建新的停車設施。

5G 智慧交通管理的未來

Ting 表示,採用 5G 連線的城市越來越多,加上頻寬費用下降,因此更高的傳輸速度與低延遲讓 Time Eye 這類系統甚至能即時傳遞更多資訊,實現市府官員強烈要求的水準。公共交通運輸當局與緊急技術員不僅能查看資料與靜止的影像,還可查看事件發生時的完整影片,幫助他們更深入瞭解及回應危機事故。

「智慧交通管理可幫助城市更妥善部署資源,拯救生命。」Ting 表示。「我堅信,5G 完全部署後,一定會大受歡迎。」

 

本文由 insight.tech 編輯副總監 Christina Cardoza 編輯。

在邊緣 AI 專案中使用超大規模雲端服務平台?請先閱讀下文

您想要建構一套 AI 系統。該從何處著手?

以多模態情感分析為例,其仰賴多個自然語言處理和/或電腦視覺模型,模型透過嚴格的資料標記和訓練最佳化。若要將其應用在零售客服資訊亭,則需要建立基礎架構,如資料庫和視覺化工具、網路應用程式開發環境、部署和交付服務,當然也少不了一兩個 AI 模型訓練架構。

如果這是您首次嘗試使用 AI 建立系統,貴組織可能尚未以利於快速 AI 系統原型設計的方式配置所有工具,甚至沒有具備所有必備的元件。在這種情況下,希望進行 AI 工程者往往會轉而使用 Microsoft Azure、 AWS 和 Google Cloud 等超大規模雲端服務平台。除了具有基本上無限的資料容量和基礎架構服務,許多超大規模雲端服務平台也支援隨時可用的端對端 AI 開發,或者只要按幾下就能為特定第三方工具提供 API 型的整合。

最重要的是,您能以相對經濟實惠的價格開始使用,之後以即服務的形式新增功能。那麼,既然可以自己輕鬆快速地開始使用,又何必組建一個技術合作夥伴的生態系統?

超大規模雲端服務平台對邊緣 AI 工程師的隱藏成本

在概念驗證(PoC)的早期階段,超大規模雲端服務平台非常適合構思創意。但是隨著您愈加接近成品的原型設計階段,它們的侷限性就會很快暴露無遺。

「超大規模雲端服務平台的難處在於製作真正定制的 PoC,因為超大規模雲端服務平台是基於標準運作。您要嘛使用那些標準,要嘛不用超大規模雲端服務平台,」全球資訊與通訊技術公司富士通(Fujitsu Limited)產品業務資料長 Glenn Fitzgerald 表示。「這適用於他們使用的基礎架構與應用程式堆疊。」

「此外還有資料主權與落地權的問題,這在 PoC 階段不是那麼相關,但是進入原型設計階段就變得至關重要,」Fitzgerald 繼續說。「超大規模雲端服務平台不希望您從雲端和結構中擷取資料以規避它。法律和監管問題會大幅增加資料驅動專案的複雜性,這些專案在超大規模雲端環境中使用 AI。」

資料是關鍵。AI 技術取決於不斷增加的資料匯集至訓練模型,進而提高神經網路的準確性和效能,使邊緣核心通訊及資料管理成為關鍵因素。資料儲存是超大規模雲端服務平台的主要收益來源。

不難想像,在超大規模雲端環境中使用幾張圖像啟動 AI PoC,隨著原型的發展,它會擴大為包含數十萬張圖像的多個資料庫。此外,由於從超大規模雲端擷取資料不易,起初貌似無害的平台選擇可能在瞬間淪為昂貴的平台陷阱。

AI 身分識別危機

這個時候,您也應該問自己究竟是否需要開發 AI。比方說,大多數公司並不出售情感分類,而是用它來推動零售資訊亭或市場軟體解決方案。這是因為隨時可用的 AI 並非解決方案,而是可以解決現有問題的一項新功能。

「AI 不是任何問題的解決方案,」Fitzgerald 解釋道。「如果您是從機器學習或自然語言處理或神經網路的傳統意義中思考 AI,在 99% 的情況下它是解決方案的組成元素,而非解決方案本身。

「公司應該從『這是我的業務問題』開始。太多公司的出發點是『我必須做點 AI。』」Fitzgerald 表示。「但是,如果您是從『必須做點 AI』著手,到頭來會一事無成。」

在許多情況下,較好的策略是利用技術生態系統來減輕 AI 模型建立的開銷,同時維持低成本。如果運用得宜,這種方法能讓原始設備製造商和系統整合商利用人工智慧的優勢,同時專注於最終應用。

透過合作夥伴生態系統加速 AI 推斷

富士通與 Intel 及英國諮詢公司 Brainpool.AI 合作,建立了合作夥伴關係,為 AI 原型設計者開啟大門。稱作「共同創造研討會」的公司可接觸 Brainpool.AI 的 600 多位頂尖 AI 學者,其就實現預期結果所需的基礎架構元件提供建議。富士通作為整合商,協調其他合作夥伴並建立必要的基礎架構,透過原型設計從 PoC 擴展 AI。

為了使流程更加順暢,富士通建立 AI Test Drive 這個 Web 型應用程式元件、資料服務、監控工具和 SUSE Linux、NetApp 和 Juniper Networks 的 AI 套件專用 AI 基礎架構。此軟體封裝在一個示範叢集,於搭載 Intel® 處理器的伺服器上執行,以便使用者對 AI 設計進行壓力測試,同時保留對其資料的 100% 控制,進而管理、擷取及清理。

可以透過入口網站存取 AI Test Drive 的免費試用版。為了在 AI 使用案例範圍提供一流的模型精確度、延遲性和效能,它使用 Intel® OpenVINO 工具組。
此工具組是一個 AI 模型最佳化套件,可以壓縮及加速在不同環境中產生的不同神經網路軟體,以便在不同硬體上使用。它與 Open Model Zoo 相容,因此可以將預先訓練模型輕鬆匯入原型製作流程中。

圖 1 所示,與同一個未最佳化的 PyTorch FP32 模型相比,OpenVINO 將 FP32 BERT 情感分類模型加速了 2.68 倍。

Pytorch FP32 與 OpenVINO FP32 之間的延遲比較
圖 1. OpenVINO 工具組最佳化了富通 Test Drive 平台中不同類型的 AI 推斷。(資料來源:富士通)

「您必須建立一個適合您試圖解決問題的生態系統,」Fitzgerald 表示。「像富士通這樣的組織,可以將其他組織納入其中並涵蓋所有基礎,這就是您獲得最佳團隊來解決問題的方式,」Fitzgerald 如是說。

從業務問題著手

如今各行各業都擔心自己未在邊緣 AI、視覺 AI 和機器學習中搶佔先機。但在被這股風潮席捲之前,請先瞭解該如何避免一窩蜂地隨波逐流,在不屬於自己專長的領域逞能。

「從業務問題著手,」Fitzgerald 建議。「如果您瞭解業務問題所在,接著便能與利害關係人、您信任的合作夥伴與第三方合作,攜手解決那項問題。」

 

insight.tech 編輯副總監 Georganne Benesch 編輯。

All-in-One 平台:簡化邊緣人工智慧產品開發

邊緣人工智慧可用於解決各種垂直市場的問題。它帶給製造業的優勢包括製程最佳化、即時資料視覺化,以及供應鏈管理。在醫學方面,它可助診斷工具與患者管理系統一臂之力,為人力短缺的醫護人員減輕負擔。對於智慧城市來說,邊緣人工智慧 有助於解決的問題包括塞車、能源效率、公共衞生和安全問題。

然而,諷刺的是,儘管邊緣人工智慧的用途與優勢廣泛,但是卻往往很難在廠房、醫院與市區街道採用這類解決方案。簡言之,這些產業別的系統整合商(SI)與組織,鮮少擁有建置端到端邊緣解決方案所需的內部資源。

數位轉型智慧網路與邊緣人工智慧解決方案供應商其陽科技的產品行銷經理 Tiana Shao 表示:「雖然邊緣人工智慧的體驗與日俱增,但依舊很難找到一應俱全的企業或 SI。」「他們或許懂硬體,但卻不懂如何打造合適的人工智慧應用程式。或者他們雖然可能精通人工智慧軟體,但卻沒把握如何挑選符合終端使用者規格的硬體。」

然而,All-in-One 邊緣人工智慧平台或許能彌補這方類數位轉型技能的落差。這類全方位平台實現了在安全可靠硬體執行的彈性靈活高效能邊緣人工智慧解決方案,簡化產品開發工作,並加速上市。

克服邊緣人工智慧解決方案開發的難題

簡化邊緣人工智慧產品工程設計的關鍵在於,建置時使用讓您在製程最困難環節超前的平台,這類環節包括:人工智慧軟體開發、裝置最佳化、效能提升與彈性靈活的設計。

All-in-One 平台同時善用硬體專家與人工智慧專家的優點,實現了簡化工程設計的目標。以其陽科技為例,雖然邊緣硬體是該公司的強項,但人工智慧軟體開發對他們來說則難度比較高。因此,該公司與人工智慧專家數位無限軟體合作,在他們的解決方案採用人工智慧軟體堆疊。因此,其陽科技能夠提供克服硬體與軟體難題的平台,加速開發工作,為各式各樣的處理器與伺服器締造裝置最佳化。

就硬體而言,這項解決方案還善用 Intel® 處理器的功能。Shao 表示,這項作法可獲得幾項優勢:

「運算速度對邊緣人工智慧極為重要,而 Intel 處理器幫助我們建置了高效能的運算平台,非常適合各種邊緣應用。此外,這些處理器還提供重要的安全功能,例如 Intel® Software Guard Extensions (Intel® SGX)、Intel® Platform Firmware Resilience (Intel® PFR) 以及執行控制措施。」

最後一點,All-in-One 平台是專為彈性所建置,因為這類平台必須隨各種不同的使用案例調整。舉例而言,其陽科技的平台幾乎可安裝於任何邊緣環境,並且隨附網路介面卡和硬體型加速器適用的擴充槽。

Shao 表示:「這款平台旨在提供多種選項。」「終端使用者不同,需求當然也不一樣。我們設計的解決方案,可以根據客戶需求自訂。」

最終締造的成品,是可以用於許多情境的平台,即使需要相對複雜精密的解決方案也不成問題。

在更短的時程內讓城市更聰明有智慧

其陽科技的智慧交通管理使用案例,正是這個解決方案實作的例子。

全球的城市壓力重重,必須解決城市交通問題、緩解通勤塞車之苦、改善生活品質、減少碳排放,才能達到永續發展的目標。支援邊緣人工智慧的交通管理系統,雖然可望解決難題,但是設計與執行的技術層面卻要求嚴苛。遺憾的是,系統整合商與城市管理者卻因而將可能有效解決這些問題的方案視為畏途。

然而,SI 和城市利用其陽科技這類 All-in-One 平台,便可在更短的期限內,聯手開發出量身打造的交通管理解決方案。

這個平台支援在邊緣以即時電腦視覺的方式處理交通攝影機影像,因此不需要將大量原始資料傳送至雲端處理。同時,人工智慧軟體堆疊則可用來量身打造解決方案,不僅可免除漫長的開發過程,還提供各種功能,包括資料視覺化、車流最佳化、交通管制燈號整合,以及在偵測到交通違規情事時自動發出警示。

Shao 表示:「雖然智慧城市的交通管理,僅僅是一種可能的使用案例,但卻充分說明了 All-in-One 平台如何協助 SI 在需要複雜的解決方案時縮短上市時間,並且打造出他們可銷售給其他客戶的可重複擴充產品。」

數位轉型的多功能工具

邊緣人工智慧功能豐富,意味著它幾乎可以用來解決任何環境中的業務問題。All-in-One 平台排除許多傳統的邊緣人工智慧實作障礙,有助於在多個產業帶動採用人工智慧,並推動數位轉型,進而為 SI 與解決方案供應商創造利潤豐厚的商機。

長遠來看,邊緣人工智慧普及之後,這些平台還能帶動下一波數位轉型。其陽科技確保自家的邊緣人工智慧設備支援新一代技術,例如數位分身,也就是以虛擬方式呈現實體裝置。數位分身實現了即時模擬、精準預測分析和更有效的自動化,為醫學、汽車工程、製造業與智慧城市帶來驚人的效益。

Shao 表示:「數位分身技術需要強大可靠的邊緣人工智慧伺服器,才能因應那麼大量的即時資料處理,另外還需要頗為精密複雜的人工智慧軟體開發。」「因此,多數組織至今遲遲都無法實現數位分身,不過在未來,All-in-One 邊緣人工智慧解決方案,將能讓這項技術唾手可得。」

 

本文由 insight.tech 編輯副總監 Christina Cardoza 編輯。