傳播 AI:加速開發者成功的關鍵

愈來愈多 AI 嵌入任務關鍵的應用程式,包括製造業的缺陷偵測、零售業的客戶行為分析,乃至於智慧城市的交通偵測。AI 制霸一切。但要實現這些功能,即訓練 AI模型,以及將其真正轉化為商業價值,需要投注大量的時間與精力。

值得慶幸的是,Intel 年復一年精益求精,使 AI 更易於使用。今年 Intel 歡慶 OpenVINO 工具組五週年,以及 OpenVINO 2023.0 的發布。它剛發布 Intel® Geti 解決方案,專為讓開發者更輕鬆地與業務方進行合作。Intel OpenVINO 架構師 Yury GorbachevIntel AI 軟體推廣員 Raymond Lo 為我們介紹一切須知(影片 1)

影片 1。Intel 的 Yury Gorbachev 與 Raymond Lo 探討 AI 的發展以及 OpenVINO 持續扮演的角色。 (資料來源:insight.tech

近期在 AI 的發展中,您看到哪些趨勢?

Yury Gorbachev:AI 已是主流。相當多的使用案例正在透過 AI 解決,包括客戶監控、道路監控、安全性、病患健康檢查,這些應用皆已成主流。

但我認為過去一年中,人們對 AI 的看法以及它能解決的問題上發生了巨大的變化。我指的是生成式 AI,以及現在的 ChatGPT、Stable Diffusion 以及所有模型的熱門趨勢。我們見證了影像產生、見證了影片產生、見證了影片畫質提升、見證了文字產生。這些功能都發展神速。回首 10 年前左右,當時深度學習的採用呈現爆炸式成長,如今生成式 AI 也發生同樣的狀況。

能不能和我們談談開發者的進展?

Raymond Lo:若要與開發者合作,必須自己成為一名開發者。我大概在 10 到 12 年前與團隊建構了第一個神經網路。我試圖釐清如何追蹤指尖,確保攝影機能理解我在它面前做的動作。我們花了三個月的時間才搞懂如何訓練第一個模型。換成今天,如果我把它交給 Yury,也許兩天後就統統搞定了。可是在當年,光是建構一個極其簡單的神經網路,就花了我很長時間。

最後當然成功了;我釐清它的運作方式。但經過多年的發展,如今架構已問世;TensorFlow 與 PyTorch 更易於使用。當時我是使用自己的 C++ 程式進行運算。很死硬派,對吧?現在大家用的是 OpenVINO。

現在我與社群的開發者交談,聊的是 OpenML、GPT,產品功能一應俱全。您不必擔心那麼多,因為如果犯錯,猜猜怎麼著?變!它不會再運行,或者會給出錯誤的結果。現今有價值的地方在於,我有一套工具與資源,因此一旦有人問我,我可以迅速給出一個經過驗證的答案。如今 Intel 為人們提供這個經過驗證的工具。

您如何與開發者合作建構這些類型的解決方案?

Raymond Lo:我與年輕開發者交談時,我傾聽他們的心聲。「你需要什麼,才能讓某些東西照你所需的方式運行?」這麼說好了,假設有人想在購物中心安裝攝影機。他們需要考量隱私,倘若是在極為耗電的裝置上執行又希望它保持隱蔽,則也要考量散熱。某些使用案例需要非常獨特的系統。使用者希望它置於工廠並且處於邊緣。他們不想上傳這些資料,想要確保一切都在現場進行。

因此我們考慮產品組合,這正是 Intel 所具備的。依我看,與客戶的合作愈多,我們正在嘗試收集這些使用案例,並為他們建構這些解決方案套件。但我不需要所費不貲的超級電腦進行推斷。

Yury Gorbachev:您說得完全正確。我會說,最被低估的平台就是您桌上的那台電腦。大多數開發者實際上使用的是搭載 Intel 技術的筆電或桌電。而 OpenVINO能夠在這些裝置上運行,並為我們所說的情境提供相當出色的 AI 效能。無需資料中心為您處理影片、執行風格轉換、偵測車輛和人員。這是我們多年以來一直試圖向客戶與開發者展示的。

從商業角度來看,完全相同的平台在攝影機與影片處理裝置等裝置上運行。這一切都始於每位開發者所擁有的基本款筆電。

您如何看待過去幾年 OpenVINO 的進展?

Yury Gorbachev:最初我們從開發 OpenCV 著手。因此我們從 OpenCV 範例借鑑許多,也從 OpenCV 理念借鑑不少。我們在 OpenCV 上處理大量電腦視覺,因此最初要處理 OpenVINO 的電腦視覺使用案例。然後我們著手開發這個開源工具組,以部署 AI 模型。

後來,隨著歲月的流逝,我們見證了 TensorFlow 的成長和 PyTorch 的爆發。所以我們必須跟上這個趨勢。我們見證了近距離影像分類,接著是物件偵測與分割等場景的演進。我們最初只製作執行階段;然後開始開發最佳化工具,最終新增訓練時間最佳化工具。

所以,我們一開始從電腦視覺著手,但隨後在 NLP 領域,也就是文字處理領域,發生了巨大的爆炸性變化。因此我們必須大幅改變在 API 中處理推斷的方式;為了支援這些使用案例,我們在生態系統中做了許多改變。 如今我們見證了生成式 AI、圖像產生和影片產生的演進。 因此我們也在適應這些領域的發展。

我們與合作夥伴密切合作;我們團隊之間也進行大量合作,以便這些技術始終擁有 Intel 效能最佳的架構。我們最近研究了世代之間演進的規律,成長不只 5% 或 10%,有時是前幾代的兩三倍。

能否談談 OpenVINO 與 Intel® Geti 如何協同合作?

Raymond Lo:這實際上取決於您想要解決什麼問題。Geti 填補了兩者之間的訓練差距,您可以提供一組您希望演算法識別的資料。它可以是缺陷,可以像是模型或物件的分類。如今我們提供這個介面,為人們提供工具。工具也有這些微調參數,您可以根據自己的需求確定訓練方式。

甚至可以將它和資料集一起使用,這樣每次訓練時都能加上註解。我們稱之為主動學習方法。提供足夠的範例後,AI 會為您解決剩餘的問題。這是 Geti 真正的功能。現在您有多種辦法解決這個問題:只要取得能在 OpenVINO 上部署的模型即可。 

您對 AI 的未來有何看法?

Yury Gorbachev:很難確切預測一年內會發生什麼,或透過 AI 可能出現哪些潛在情境。但有一點我可以肯定:我認為我們可以完全相信,我們現在看到的,所有使用生成式 AI 的使用案例—圖像產生、影片、文字、聊天機器人、個人助理等等,這些功能最終都將在邊緣執行。主要是因為人們希望將這些功能部署在邊緣。

人們希望在本機編輯文件;與自己的個人助理進行對話,不必將要求傳送至雲端,以享有一點隱私。同時,您希望快速完成這項任務,而在邊緣通常會比在雲端作業更有效率。這就是 OpenVINO 能扮演關鍵角色的地方,因為我們將嘗試在一般筆電上執行這些任務。

最初,筆電效能不足。顯然,最初在最化與您會達到的效能之間有些折衷取捨。不過最後需求會高到筆電不得不去適應。

Raymond Lo:就像 Yury 所說的,由於情勢瞬息萬變,很難為事物建立模型。但總有什麼是我不論如何都能建立模型的吧:只要有一項成功的技術,就一定會有採用曲線,對吧?這稱為必然發生的趨勢。「必然發生」表示每個人都會明白它是什麼。在 2023 年 OpenVINO 版本中,我們的下載量達到 100 萬次。這個數字意義重大。這代表市場正在採用它,而不是雖然優秀但沒人再次使用的技術。

我可以告訴您,一年後我們擁有的 AI 將會更卓越。 

OpenVINO 五週年與最新版本有何重要意義?

Yury Gorbachev:這個版本的效能持續提升。我們正致力發展生成式 AI,並在多個平台上改善生成式 AI 的效能。但最明顯的是,我們開始支援 GPU 上的動態形狀。我們下了很多苦功,終於得以在 GPU 上執行大量的文字處理情境,包括整合式 GPU與獨立 GPU。我們正在研究聊天等功能,我認為就連它們也能在整合式 GPU 上執行。在提高效能等方面仍有可以改進的空間。但一般而言,以前百分百天方夜譚的事,現在冒出可能成真的曙光。

第二件重要的事:我們正在簡化量化與模型最佳化體驗。我們正在開發一種工具,可以透過 Python API 實現所有功能,更適合資料科學人員使用。此外,我們也開始支援 PyTorch 模型,直接轉換 PyTorch 模型,目前還是試用階段。雖然尚未達到生產就緒的狀態,但團隊對此非常興奮。

相關內容

若要進一步瞭解 AI 開發,請收聽《利用 OpenVINO 加速開發者的 AI 成功》,並閱讀《開發工具讓 AI 在各行各業中落實》。若要進一步瞭解最新版本的 OpenVINO ,請造訪 https://openvino.ai/。若要瞭解 Intel 最新的創新技術,請追蹤 Intel 的 TwitterLinkedIn 帳號。

 

本文由 Erin Noble 編審。

智慧課堂解決方案提升學習成果

世界各地的學校都在尋找提升學生參與度、提高教學品質及改善學習成果的方法。智慧課堂(網路數位裝置、協作工具與學習軟體套件)是達成這些目標的強大工具。

儘管智慧課堂很有成效,但技術實施起來卻頗具挑戰性。「對許多學校而言,現有的數位學習系統成本過高且複雜度高,表示教師要經歷陡峭的技術學習曲線,」硬體設計商與製造商精英電腦系統行銷經理 Amanda Lin 表示。「在網際網路連線能力有限的地區,也難以維持穩定的網路以執行此類解決方案。」

但新一波智慧課堂技術有助於克服這些阻礙。基於高效低功耗處理器和邊緣設計原理,簡單且具成本效益的智慧課堂套件幾乎可在任何環境中提供數位學習的好處。

智慧課堂解決方案的應用場景

精英電腦在肯亞的部署就是一個很好的例子。

肯亞政府正在推動一項數位識字計畫,旨在將資訊與通訊技術(ICT)應用到全國的每所公立小學。這是一項艱鉅的任務,因為肯亞的許多學校都地處農村地區,網路連線能力有限且根本沒有 IT 資源,因此難上加難。

精英電腦之所以獲選為協助眾多學校將課堂數位化的技術合作夥伴,部分原因是該公司的 ECS 智慧課堂套件提供一站式解決方案,無論有無網際網路連線都可運作。

精英電腦解決方案的核心包括一個名稱「內容管理存取點」(CMAP)的硬體裝置,可作為無線存取點與檔案伺服器,不僅儲存教育內容,也能連結課堂中的數位裝置。由於能夠連接多達50 台裝置,CMAP 可用來共享無線網路連線,或在無法連線時設定本機課堂內部網路(影片 1)。

影片 1。智慧課堂解決方案可實現互動式學習體驗與更完善的課堂管理。(資料來源:COE GP

精英電腦與肯亞政府及當地合作夥伴合作,協助 13,500 間課堂配備智慧課堂技術,促進 30,000 名教師的培訓,並影響 695,000 名學生。在專案的主要實施階段,精英電腦及其合作夥伴平均每週建立 500 間課堂。

這顯然是團隊同心協力的成果,但工作也因套件的技術堆疊而簡化:旨在實現隨插即用的設定,以及穩定簡便的課堂網路。Lin 認為精英電腦與 Intel 的技術合作夥伴關係是讓套件如此方便易用的主因:「Intel 處理器與 Wi-Fi 模組提供具成本效益的運算能力與穩定的連線能力。CMAP 中的 Intel CPU 提供全校一天所需的高效、低功耗處理能力。」

彌合數位與經濟鴻溝

低成本、易於部署的智慧課堂套件最顯而易見的好處展現在教育。學生將熟悉在 21 世紀全球經濟中保持競爭力所需的技術。教師透過引人入勝的教育軟體與數位課堂管理工具改善課程品質。這是在任何學校系統都令人看重的成果,在開發中國家,這些成果甚為重要,因其有助於彌合本地學生與發達經濟體同齡人間的數位鴻溝。

然而,智慧課堂對社群的社會經濟效益也遠超過教育範疇。以肯亞部署為例,精英電腦與技術合作夥伴和其他利害關係人合作,在肯亞莫伊大學建立本地硬體組裝廠和客服話務中心。

「智慧課堂技術為真正具有變革性的夥伴關係提供契機,」Lin 表示。「我們在肯亞的目標不僅是要與師生就技術培訓密切合作,也希望為當地經濟增加商業與就業機會。」

智慧課堂解決方案與教育的未來

我們期許未來不只在新興市場能有更多學校系統善用整合式智慧課堂套件提供的機會。這項技術在偏遠及服務不足的地區帶來顛覆性益處,在舊金山、倫敦和東京也同樣具有吸引力。具成本效益、易於管理的智慧教育功能,在豐富的教育軟體生態系統的支持下,應引起關注預算、學生參與度與教育工作者賦權之教師與管理人員的注意。

從長遠來看,智慧課堂將因利用技術進展,提供更完善的教育體驗而變得更加強大。「我們已在思考如何整合 AI 功能與提供混合式學習支援,來強化我們的智慧課堂解決方案,」Lin 表示。「AR/VR 技術與 5G 連線能力的普及,將在未來推動新的智慧學習功能。」

對學校、家長和學生而言,這是再好不過的技術趨勢,因為智慧課堂讓優質教育唾手可得,而且人人都能負擔得起。

 

insight.tech 編輯副總監 Georganne Benesch 編輯。

視訊分析的未來就在虛擬化之中

相機已遍及現代生活之中,而我們不只是會自拍而已。攝影機在保全、製造和交通規章中隨處可見。只要有大量攝影機,就會有大量資料:要收集、存取、分析的資料。資料對於企業而言越來越重要,因為企業能夠從資料中獲得寶貴的價值。但在收集資料後和分析資料前,必須要妥善儲存資料。儲存因而變成實際的問題。

虛擬化可能是該問題的解決方案,而且系統整合商正很快就明瞭此事,視訊儲存解決方案供應商 BCD 商業開發主管 Darren Giacomini 說道。以下他將會討論過渡到虛擬化的過程及其可以給企業和一般大眾的好處—從箔片到網路犯罪,再到空的停車位(影片 1)

影片 1. BCD 的 Darren Giacomini 探討為何企業應開始轉移到虛擬化。(資料來源:insight.tech

從我們可以從視訊攝影機系統受益這方面來看,可以窺出哪些趨勢?

視訊攝影機系統和分析功能變得越來越強大。攝影機可以提取分析資料和要分析的中繼資料,而且我們也在網路邊緣的 IoT 裝置中有許多專門設計的應用程式。人們正在內建分析功能,以在製造業中進行如物體計數等工作,但您也會在智慧城市的邊緣設置 IoT 裝置,讓這些裝置監視停車位和停車場,並判定哪些停車位可用。您現在可以開啟智慧型手機,並查看是否有個停車位,而非永無止盡地繞圈,不斷尋找停車位。

企業面臨哪些攝影機系統挑戰?

您會看到人們開始延長保留期限的趨勢—您必須以全畫面播放速率保留視訊的期間。在部分矯正設施中,他們需要保留視訊兩年,以保有證據價值。

當您開始提到保留該時間範圍的高品質視訊時,即意味著有龐大的儲存量—PB容量的儲存資料。當您看到城內環境可能設置數千部攝影機的智慧城市時,隨時儲存所有攝影機的所有資料不僅十分昂貴,也難以正確維護。

因此您會在轉換到 5G 網路和邊緣 IoT 裝置的過程中看到人們正嘗試將決策轉到邊緣,以判斷哪些資料對於視訊重要,哪些不重要。鮮為人知的事實是,在大多數的情況下,錄製的視訊只有 5% 至 10% 曾被用過。其餘的就只是儲存起來而已。

例如,您可以搜尋一段兩年期間的資料,表示:我想要任一天內在此時間範圍內駛向此方向的所有白色貨車。您可以將這段視訊提取出來,然後根據分析查看。但在 5G 的邊緣這樣做的概念是,如果您可以判斷哪些資料重要,哪些資料不重要,則不必儲存每筆資料。我認為分析功能在縮減龐大的資料量和資源上,扮演著非常重要的角色。

我認為整個方法即將徹底改變。現今的概念是:保留每筆資料兩年。這些年來,我們看到人們已稍微改變規則。每段視訊都以 30 或 60 每秒幀數保留約 6 個月。然後降到 15 幀。但我們做不到的是,將規則降低到低於在都市法院內作為證據力所需的下限,因此其實您可以知道自己正在查看什麼。

為什麼資料儲存是企業在視訊領域中的問題?

標準生產伺服器多部是迎合 IT 環境所設計。在 IT 界中,您會擁有許多資料儲存在存放庫或資料中心,而且資料會在個人在特定時間索取時傳送到這些人手上。

例如,就實體保全而言,您擁有數百台和數千台攝影機和 IoT 裝置會同時傳資料。我們在 BCD 的工作就是專門重新設計和重新實作這些特定裝置,以確保這些裝置會針對特定應用類型最佳化。

虛擬化在減輕此儲存壅塞負擔中扮演什麼樣的角色?

就是資源的使用率。在標準的實體保全環境中,您所擁有的攝影機位於正在傳回資料的邊緣、IoT 裝置或感測器。您將會有正將所有資料傳回集中式或分散式紀錄點 (儲存資料處) 的網路基礎結構—無論是無線或有線網路基礎結構。在某些情況下,您可能也會有第二層儲存裝置。

然後會有實際監看攝影機並需要看到特定事件的人員。您遇到一件汽車意外事故;您需要即時提取合適的視訊並真正查看發生什麼事情。那需要取得資料,並直接從攝影機取得,或透過伺服器將資料重新導向至工作站。全都會利用到資源。

但在此最重要的區隔則是儲存視訊之處。伺服器的資源有限:您有 CPU、記憶體和網路資源。無論您是採用裸機伺服器方法或並未虛擬化,您可能會讓配置給該伺服器的核心中 40% 或 45% CPU 週期閒置。與伺服器的能力本身無關;這或許與您在 Windows 2019 伺服器等等上執行,而且您只能載入該軟體應用程式的一個執行個體。

因此虛擬化可以讓您在抽象層 (如 VMware、ESXI、Hyper-V 或 Nutanix) 新增至裸機伺服器作為封存工具。您可能會將目錄伺服器或存取控制虛擬化為可以在一般共用點儲存的一般檔案結構。然後您可以在該機器上建立不只建立應用程式的一個執行個體。您或許可以執行五個執行個體,然後將資源劃分使用,而不用只在伺服器上只執行一個 Windows 2019 執行個體。然後您可以讓 CPU 執行傳統上用不到的記憶體,並從投資中發揮更多生產力。

就如 BCD 等銷售高效能伺服器的公司而言,您自然而然會認為那會是我們也不想要發生的事情,但卻就這麼發生了。虛擬化在 IT 領域中存在已久;沒有什麼是辦不到的。您必須擁抱以下事實:人們想要以更少的資源成就更多。

企業如何成功邁向虛擬化?

就跟現在從類比轉變到數位或 IP 一樣非常相似。我認為在成長中會有很多相同的痛處,其中現今習慣運用有特定技能組合的人員必須改變自己的方法。但如果您不改變自己的方法,就會覺得書到用時方恨少。

由於如果您要求八台伺服器的報價,但我可以用三台伺服器就做到相同的事情,那麼我的報價肯定會贏過您,即使我們的報價接近或我稍微高一點。當我回去找指定財務決策的人員並告訴他們:「看看執行八台伺服器與三台伺服器的總所有權成本之間相差多少。這將會更有效率;在您的資料中心所佔的面積更少,冷卻所需的耗電量更少。」所有上述因素都會交互作用。

雖然我認為將會有點困難,但我不認為跟從類比轉變成數位或 IP 一樣那麼困難。每個人現今都習慣使用 Windows;每個人習慣使用使用伺服器。後續學習步驟就要您將會進入代表伺服器網頁,而那是您將使用的虛擬機器,而不是要在伺服器面前插電。這將會是教育學習體驗,人們或許將要派員工外出去接受訓練,才能趕上進度。

您是否有任何使用案例可以分享的嗎?

美國東岸有座城市,整個市政府都是執行我們的 Revolv 平台,此為以虛擬化為基礎的混合式超融合方法,可提供高可用性。此方法減少了人員要在清晨兩三點起來處理因斷電而關機的某台伺服器,因為這台伺服器將要執行自動化復原功能。四五台伺服器的佔用空間真的小很多,每項任務都在虛擬化環境下執行,而之前要 20 台或 25 台伺服器才行。

Intel 技術在促成此成就中扮演什麼角色?

讓 BCD 脫穎而出的關鍵之一就是我們不只是建置伺服器,我們真的是進行全面的端對端解決方案集。那也在我們全都齊心協力的此虛擬化工作中起到一定的作用。那也是 Intel 攜手合作的地方。Intel 真的很擅長提供資源,像是價格不便宜的 100 張 gig NIC 卡和我們需要進行分析所需的其他資訊及本質相似的事情,以挑戰極限。

除了實體方面,您認為虛擬化會往哪個方向發展?

真的關乎更有效率地利用您的資源。此外,當您提及#虛擬化時,就是指建立復原點和快照的能力。我們另外一家公司 Tiger Technology 攜手合作,就我認為,絕對是要探索次世代混合雲儲存。換言之,您即將擁有內部部署,同時有能力掌控 Windows 的 NTFS 或實際檔案結構,並成為平台的延伸。因此,您隨時都可以取得備份,或取得備份的多個執行個體,並將這些執行個體推送至雲端復原。您真的無法在裸機環境中進行這類型的工作。

如果您可以拍攝快照,並建立快照的存放庫,則可以在發生錯誤時使用。..那您的災難復原計畫為何?如果遭受損失,您的業務持續性計畫為何?每個人都會可能會遭受攻擊。我不在乎您多小心,目前也有零日案例出來,您即將會在某個時間點遭受攻擊。

您現今大多看到的是勒索軟體。當您處於虛擬化環境並拍攝定期快照,您其實可以表示:「這是可接受的損失。回復一週的快照。接著我們就可以承受一週的損失,而不用耗費巨資。」

您認為此主題還有什麼我們需要知道的地方?

總結來說,如果您是整合商,並要參與實體保全市場,則無法忽略虛擬化即將來臨的事實。我預測在三到五年內,絕大部分的市場即將邁入主流虛擬化。您需要認可此趨勢,否則您將會發現自己處於在市場上難以競爭情況。

相關內容

若要進一步瞭解視訊分析領域,請聆聽虛擬化對於視訊分析的影響:透過 BCD。如需 BCD 的最新創新,請在 Twitter 追蹤 @BCDvideo 和 LinkedIn

 

本文由 Erin Noble 編審。

電信業的未來:開放式 RAN 與 vRAN 成為矚目焦點

萬物皆相連。但相較於世界上其他任何地方,今年的世界行動通訊大會最能體現這句話的真諦!一如預期,行動通訊與連線成了熱門主題,尤其是在開放式 RAN 與 vRAN 方面。但這些詞彙到底是什麼意思?它們之間有何關聯性?(它們之間又是如何毫無關聯性。)它們與其他技術創新有何關聯,包括那些剛出爐以及尚未問世的創新?

我們採訪了兩位參加過 MWC 的來賓,而且他們在行動通訊與連線領域擁有豐富的專業知識(影片 1)關鍵任務型智慧系統軟體供應商 Wind RiverProduct Management Cloud and Industry Verticals 部副總裁 Randy Cox;以及 Embedded Computing Design 主編 Brandon Lewis

影片 1. 開放式 RAN 與 vRAN 正如何為電信業提供互通性、效能與可靠性。(資料來源:insight.tech

開放式 RAN 與 vRAN 有哪些趨勢?

Brandon Lewis:經年累月下來,網路已經變成極為複雜的系統,因此網路設備製造商持續提供高度整合的專有解決方案,包括組成網路的許多不同元件,以及許多加速的專門硬體與軟體堆疊。我們正邁向 5G 之際,關鍵在於提供更高的頻寬和更高的容量,以及無所不在的連線能力,因此擴充勢在必行。

開放式 RAN(無線存取網路)的概念正好能派上用場。它的設計採用標準化量產硬體、標準化量產伺服器和平台,以及開放式介面,因此您可以搭配不同的軟體。接著是 vRAN。這種虛擬化 RAN 部分執行了過去在硬體當成軟體功能使用的許多專門功能。利用這項技術,您可進一步擴充網路,並且從堆疊獲得更大的彈性,讓更多參與者加入生態系統。

Randy Cox:但從某種意義來說,vRAN 與 ORAN 無關。舉例來說,目前各大企業不需要開放網路就能實現虛擬化網路。ORAN 是一種架構,也是一種解構式網路,其開放式介面可供多個供應商參與,然後服務不同的網路元件。O-RAN 規格恰巧未包含虛擬化 RAN。

Brandon 表示,電信領域的傳統供應商,例如 Nokia 與 Ericsson,一般提供自訂硬體與自訂軟體,但這類專有電信業者設備提供的解決方案非常專業且成本高昂,電信業者仰賴這些供應商的時間較長。開放式 RAN 可真正解構網路,讓新參與者進入市場,不僅降低成本,更在挑選同級最佳類型供應商方面帶動創新並提高靈活彈性。

在 O-RAN 聯盟這個生態系統組織中,所有供應商和營運商希望參與:定義規格、舉辦插拔測試大會,以及在不同活動中相互配合,以期讓 ORAN 型架構普及化,讓它儘速打入市場。

目前的主流將焦點放在 vRAN 與 ORAN;除了調查或可行性分析之外,還有實際的執行規劃。也就是說,客戶與合作夥伴討論與計畫會更詳細,當前執行的 RFP 數量也更多。如果你在 MWC,絕對不會錯過 vRAN 和 ORAN 這兩個焦點。

Wind River 如何因應電信業對規模與彈性的需求?

Randy Cox:其一是 Intel® Xeon® 平台第 4 代 Sapphire Rapids 上的單核心功能。去年 12 月之前,我們的雲端平台解決方案,基本上佔用了一部伺服器多達兩個核心。我們將這個數量最佳化,減少至單一核心,就特定伺服器的資源使用率而言,明顯減少了 50%。它為在我們平台執行的應用程式或工作負載提供強大的功能。

第二個主題與能源效率有關,而這也是業界目前非常熱門的主題。我們持續與 Intel 和其他幾個合作夥伴密切合作,減少基地台的耗電量。我們打算在今年下半年將它應用於商業環境,目前正邁向這個過程的下個階段。因此,我們其實能操縱和改變 CPU 本身的 C-state 和 P-state,以最佳化和減少基地台使用的耗電量。

我認為處理器有六個不同的 C-state 層級。取決於基地台使用案例,一端層級基本上處於全功率狀態,另一端層級則是將耗電量降到最低。我們可以根據需要的用途變更 C-state 和 P-state,降低功耗,比方說,在凌晨 3:00 到清晨 6:00 這段時間,因為很多地方的基地台用量可能微乎其微。我們可以使用 RAN 軟體監測及判斷基地台的使用量或使用人數,並且能夠減少 C-state 或 P-state 的數量,降低那段時間的功耗,進而真正減少營運商的總體擁有成本。

請告訴我們,第 4 代 Intel® Xeon® 可擴充處理器的幾項新功能。

Brandon Lewis:每個新版本的 Intel 處理器效能都有改善,對嗎?我想第 4 代有高達 60 個核心,真是瘋狂。另外還有與這個新世代處理器整合的大量加速器。其中一個功能是 Intel® QuickAssist 技術,這種密碼編譯工作負載卸載可讓 CPU 核心速度不變慢。

另一個則是動態負載平衡功能。軟體定義的網路中有負載平衡器,這項設備基本上可將流量工作負載分散到不同的設備,讓您可以高效處理封包,不會嚴重卡頓、緩衝和延遲,使整體網路效能受到明顯的影響。

第 4 代 Xeon 處理器的動態負載平衡功能,處理晶片的方式基本上與負載平衡相同,但是在網路層面:您會將處理封包的工作負載分散到不同的核心,以及晶片的記憶體,因此不會遇到任何瓶頸遽增的情形。請試想,晶片就像整個網路平衡工作負載過程的縮影。

第三個功能是 Intel® vRAN Boost。這項功能呼應了 Randy 所說的話,因為它能為 vRAN 工作負載將處理器最佳化,因此相同功耗基本上可獲得兩倍的效能,或者如果你喜歡,也可以說只要一半功耗就能獲得相同的效能。降低成本是這個競爭態勢的關鍵,因為耗電量對電信網路資料中心而言是高昂的成本。耗電量最佳化的程度越高,無論是透過 P-state 與 C-state,還是透過晶片本身的 vRAN Boost,就越有機會成為這場競爭的贏家。 

您可如何利用合作夥伴的專業知識在這個領域成功?

Randy Cox:我認為,從定義上來看,ORAN 確實孕育了合作夥伴關係的環境:ORAN 的定義是透過更多供應商提供更多功能。Wind River 目前有多個優秀的合作夥伴,舉例來說,我們與 Intel 和 Samsung 密切合作,每週和每天都是。這點至關重要,因為 Wind River Cloud Platform 位於堆疊的中心。

一方面,我們必須向下與硬體整合,包括 Intel 及任何伺服器製造商,例如 Dell、HPE,或是任何 COTS 硬體伺服器的製造商。去年 9 月,我們透過 Dell 發售了第一款商用 Infra Block 產品;基本上就是 COTS 硬體伺服器,以及 Wind River 軟體整合為單一產品。

我們與 Dell 建立合作關係,在加速器硬體本身和我們的軟體之間有完整的堆疊;這個產品經過完全整合、完整測試,而且隨裝即用。唯一需要整合的是現場客戶實際的 RAN 工作負載。我們很努力在這個 ORAN 環境簡化這個整合過程。

但我們也必須向上與這個 RAN 工作負載或任何其他工作負載整合。在 RAN 工作負載方面,我們與 Samsung 緊密合作;與 JMA 建立合夥關係;我們已經與 Mavenir 整合。目前,我們也正與 Ericsson 和 Nokia 建立合作關係。

關於未來,兩位各有哪些重點摘要或想法想跟我們分享?

Brandon Lewis:每個人務必都要認識一下第 4 代 Intel Xeon 可擴充處理器提供的酷炫新功能。另外,生態系統有許多可供開發人員使用的啟用工具,例如 Data Plane Development Kit。另外,我們經常在 Embedded Community Design 和 insight.tech 撰寫關於這個主題的文章。

Randy Cox:得知 Wind River 在這個領域取得了跟我們一樣多的進展,我真的很開心。然而,雖然我們依舊在 5G 和實現商業部署方面取得進展,但我們真的希望能夠協助業界與生態系統加速 ORAN,這樣我們才能在 6G 時代降臨時做好準備。5G 毋庸置疑還有很多工作要做,但這個 vRAN/ORAN 環境的 5G 確實正在為 6G 環境做好準備。

我要告訴對 ORAN 存疑或稍有疑慮的人,ORAN 真的誕生了。Wind River 就是一個例子:我們的表現出色,而且正大規模部署於商業服務。我很期待帶動這個產業的其他業者在這個領域真正有所突破。

相關內容

若要進一步瞭解 Open RAN 與 vRAN,請閱讀 MWC 2023:物聯網網路遇上智慧邊緣,並且收聽邁向開放式 RAN 與 vRAN 的趨勢:與 Wind River 同行。如需瞭解 Wind River 的最新創新技術,請在 Twitter 與 LinkedIn 跟隨他們;並且在 @TechieLew 追蹤 Brandon。

 

本文由 Erin Noble 編審。

探索尖端製造 AI 進展

工業革命改變了製造業。電腦的興起帶來了系統和流程的再次遽變。如今,數位轉型與 AI 的出現徹底改變了製造業。這個全新領域在今年四月的德國漢諾威展覽會(HMI)上公開展出。這場展覽是後疫情時代的首批展覽活動之一。展覽會上不僅探究工業環境中所有新的可能性,同時也實體展示出這些新發展與設計。

在今年 HMI 的與會者中,我們邀請到 Intel 的工業解決方案總監 Ricky Watts,以及數位趨勢專家 Teo Pham。他們會談談他們在漢諾威的所見所聞(包括 ChatGPT)、這些新可能性能對製造業領域帶來的變化(沒錯,在製造業領域應用 ChatGPT),以及說明為什麼這些超凡的技術創新必須堅守簡單原則,讓使用者易於使用,否則可能會大幅降低開發價值(影片 1)

影片 1。為工廠廠房帶來新的產業機會、工具和技術。(資料來源:insight.tech 

來談談兩位在展覽期間的所見所聞,參與展覽會後,兩位認為製造業將走向何方?

Ricky Watts:就技術而言,我認為有三個領域讓我感到十分驚豔,並且在某種程度上也讓我感到有些擔憂。此領域的部分大型公司已經在使用這項技術來提高製造效率。老實說,看到技術應用的案例數量與先進程度,讓我感到非常驚訝。

還有 3D 實境,Omniverse、元體驗等諸如此類,以及未來產業運用沉浸式技術的方式。我是不是可以在 3D 虛擬實境中設計、建造工廠,進而帶來變化成果?然後使用 ChatGPT 和 AI 打造數位分身,創造製造業的真實情境?

最後,是我注意到展覽會中應用了許多機器人技術。機器人技術在製造業中無處不在,很顯然,這是因為機器人非常適合進行我們在製造業中常見的物流和重複性工作。但讓我覺得特別感興趣的是利用在機器人上建置機器人來推動成果。交付一台機器人一項工作,然後在其上建置另一台機器人,進而推動工作成果。第二台機器人運用 AI 來瞭解工作內容,將建立或設計新工具等命令傳送給第一台機器人,得以完成最佳化。

Teo Pham:這次展覽會的主題和參加者類型繁多,讓我十分驚訝。因為您可以預期會有機器人、硬體製造商、半導體製造商參加。而實際上,展覽中還可以看到軟體公司、顧問公司和雲端服務供應商。您可以看到整個展覽會的多樣性,不只有實體裝置,還有更多更多。這樣的多樣性足以讓您創造驚艷人心的全新應用程式。

Ricky 提到元宇宙。我看到 Siemens 和 Microsoft 等公司正在推廣工業元宇宙等技術,創造新技術為生產過程增添沉浸式體驗,但若在建置實體裝置前,先使用數位分身來執行完美的模擬,在數位空間中進行測試,成也會降低許多。

看向製造業的未來,有哪些 AI 應用程式讓您感到特別期待嗎?

Ricky Watts:我特別期待 AI ChatGPT 的應用。在製造業領域中,我們會用一套系統標準稱為製造執行系統 MES,或稱作可程式化的邏輯控制器 PLC。基本上,就是用於執行製造流程的裝置或設備。PLC 中用來規範運作與執行的語言,稱為 61131。我看到其中一個展示範例就是用 ChatGPT 來建置符合 61131 規範的程式。一般來說,製造工程師會撰寫目的碼,通常需要花費數週或數月的時間。交給 ChatGPT 撰寫,我只能說,用不到幾分鐘或幾秒的時間。

我要強調,這只是開發早期的展示範例成果。開發人員已經很難在 ChatGPT 所撰寫的目的碼中找到錯誤,而我可以預見,不用多久,就能提高準確度,並能將此目的碼直接部署到機器,實用度將能大幅提升。製造業基本上是一個結構化的環境,可藉由一套標準來驅動。但在技術發展初期就能達到這樣的成果,非常令人雀躍。

Teo,您認為製造商有哪些新商機呢?

Teo Pham:回到人工智慧領域,這樣的技術可以加速流程,變得更快、更便宜。一直以來 ChatGPT 的討論度都非常高,但也有一些 AI 工具可以產生影像、藍圖,或是影片、網站或應用程式。我認為,80% 的解決方案開發成本可幾乎降為零。不過,當然,您還是需要經驗豐富的人才,幫助您從 80% 達到 100%。舉例來說,未來將會出現一些非常酷炫花哨的應用程式,例如 AI 3D 建模,但我認為,對於文件處理或翻譯等較無聊的領域也會十分有幫助,因為在未來只需要不到幾分鐘,就能完成這些工作。

您認為需要具備什麼樣的處理能力,才能充分運用這些機會呢?

Ricky Watts:AI 非常仰賴資料。提取資料後,會分為學習和推論兩部分。都與 CPU、GPU 和 FPGA 高度相關。

製造業中許多 AI 的早期使用案例都與視覺相關:將相機放入製造環境並進行分析,然後藉由得到的影像來訓練模型。假設我有一條生產線製造瓶子,瓶子上有標籤。我用相機拍下這些瓶子,想知道標籤是否正確。因此可以得到影像,然後我們一般會在 GPU 環境中訓練模型,因為需要大量密集處理。

現在,我可以辨識出好壞。但在製造環境中沒辦法一直持續學習,難度太高了。所以接著會來到推論的階段。我想應用我正在使用的模型。CPU 在此派上用場,因為此階段十分具有策略性,也與製作商息息相關。

如果您有強大的運算能力,特別是在雲端環境中,即可完成訓練。在大多數情況下,推論都在製造階段完成,且在邊緣上。所以您有 CPU 和 GPU,且兩者都有一定的專業知識領域。但從 Intel 的角度來看,我們要整合這些知識技術。從我們的一些新技術,特別是最新的 Xeon® 晶片,即 Sapphire Rapids 晶片,您可以看得出來,

但現在我們開始看到,這些環境中的運算平台從邊緣走向雲端。在這些環境中,有兩組資料:我前面提到的影片,但在製造領域中更普遍的是時間序列資料。製造業使用我們稱之為固定功能的設備,如機器、機器人、輸送帶,這些設備所產生的資料並非視覺資料。可能是熱、壓力、振動等。針對此類型資料進行最佳化,即可在邊緣的 CPU 上執行。因此,您可以在邊緣的 CPU 進行訓練推論,此時資料完整性和資料主權就變得非常重要。

在 CPU 方面,我提到過 Sapphire Rapids。我們也即將推出全新的 GPU 產品組合。Intel 在此領域尚處於開發初期。但我們的學習速度很快,未來幾年將有更多產品問世。我認為對我們而言,整合硬體解決方案是關鍵,以及為 AI 領域的開發者提供統一架構,讓他們存取這些技術,我們也為此打造了許多工具組與最佳化。

無論是 CPU、GPU 或 FPGA,我們都會進行最佳化;您告訴我們工作負載有哪些,然後我們會將其部署到邊緣的合適晶片平台,並提供統一功能部署到雲端。

您能否進一步解釋製造商轉型至邊緣能帶來的優勢有哪些呢?

Ricky Watts:製造業是競爭程度極高的行業,無論是實體產品,如汽車,還是流程,如化學製造業。在這些環境中使用資料,可提高競爭優勢。關鍵在於他們能否將技術應用於推動業務成果。

在我們的環境中很容易讓人忘記,歸根究底,關鍵不是技術,而是成果。回到我剛剛舉例的瓶子。如果我每天處理十萬個瓶子,且假設錯誤率為 5%,我可能每天需要丟棄 5,000 個瓶子。這問題關乎於永續性,也關乎於利潤。如果我能將故障率降低到 1%,則會對工廠效能產生重大影響。

我們在技術產業需要做的是,讓製造商更容易使用技術。製造商想要使用技術,但他們不是 AI 專家,也不一定有雇用資料科學家。我們必須確保製造業中的每位從業者都能使用技術,而不只是擁有龐大工程師與資料科學家部門的大型製造商可以使用。我們希望提供每位從業者簡單且輕鬆的應用方式。

Teo Pham:談論到 AI 實作,我認為我們必須做出的決定之一,就是要使用邊緣運算還是雲端運算。當然,邊緣運算有一些優勢:可減少延遲。就資料隱私而言,我們不需要將資料傳送至雲端。但另一方面,我們需要在硬體方面投資更多,而硬體成本高,且佔用空間。

您對「邊緣與雲端」的爭論有何看法?

Ricky Watts:兩種情境各有不同優勢。將資料傳送至雲端的成本極高,因為資料量非常大。需要考慮監管法規、資料主權、隱私、安全性等。但在雲端進行訓練,並在邊緣進行推斷,則有多種優勢。而隨著邊緣運算功能越來越強大,不僅可進行訓練,還可進行學習。因此,在我看來,未來更多處理流程會在邊緣進行。

那麼,這個領域的未來發展為何呢?

Teo Pham:大家都說,我們正在見證人工智慧的 iPhone 時刻。雖在 2007 年 iPhone 問世之前,就已經有手機了,但 iPhone 的出現改變了一切。今天,我們甚至無法想像沒有 iPhone、沒有智慧型手機、沒有行動應用程式的世界。

同理,AI 已經問世 50 年甚至 60 年之久,但我認為我們目前處於一種良性循環:我們有大量資料;我們有必要的計算能力;我們有模型;我們有非常易於使用的介面,如 ChatGPT。技術發展突飛猛進,也許在六到十二個月內,此領域將截然不同。我們期待,這會是一場美妙的旅程。

Ricky Watts:製造業的終極目的仍舊是生產商品。我看見的是,製造商專注於開發新技術,但他們也需要想一想在未來幾年內,目前的製造業環境是否仍然存在。

在 Intel,我們將確保製造商持續生產出我們需要的產品;如果是能源,那麼就需要維持運轉。我們希望確保未來轉型順暢且可整合,並且儘可能減少中斷。

相關內容

若要進一步瞭解智慧製造,請閲讀「漢諾威展覽會 2023:智慧製造的下一個階段」,以及聆聽「智慧工廠如何帶領工業領域的革命性改變」。如需 Intel 的最新創新資訊,請跟隨他們的 Twitter 以及關注他們的 LinkedIn,並關注 Teo 的 Twitter 帳戶 @teoAI_

 

本文由 Erin Noble 編審。

ADMS 微服務為分散式能源注入動能

想像一下日常公路的交通狀況。車輛以相同速度移動時,便可預測交通,流量也更加順暢。不過,要是改變車輛的速度、方向和種類,就很容易造成交通壅塞。

電網系統也呈現出類似的混亂模式。現今的電網錯綜複雜。充滿不可預測的事件和負載需求的新格局,催生了對新功能的需求。

氣候事件增加了持續停電及損壞老化基礎架構的風險。配備太陽能電板的智慧建築、城市基礎架構和住宅,正在打造雙向流量:既消耗電力,又產生回流電網的電力。包括車輛在內的一切都已實現電氣化,這表示需求和負載的不可預測也隨之增加。

進階分散式管理系統微服務,讓敏捷性如魚得水

Indra 公司旗下的 Minsait 電網控制產品經理 Carlos Mora 表示,這種分散式能源讓公營事業營運商夜不成眠,電網的可見性也成了一種寶貴資源。他補充道,管理分散式發電和用電需要,透過進階的配電管理系統(ADMS)提高電網作業的透明度。

Mora 表示,Minsait 的模組化 ADMS 解決方案以微服務形式提供公營事業迫切需要的透明度和敏捷性。這些微服務以小型應用程式的形式產生業務解決方案,每個應用程式自主執行個自的流程,同時也與其他應用程式協調。

Minsait 提供一整套模組化微服務應用程式,包括電網最佳化、監控與效能,以及需求預測等。該公司有許多微服務解決方案都在雲端運作,公營事業可從一系列理想的選項中挑選,因應他們所面臨的最大挑戰。迷你微服務也帶來另一優勢:可讓公營事業將財務資源分配到最需要的地方。

模組化 ADMS 的實際應用場景

舉例來說,一家歐洲公營事業必須提高其故障定位、隔離和服務還原(FLISR)能力,尤其因為收益與停電次數直接相關:停電次數愈多,收益就愈少。Minsait 不打算升級整個 ADMS ,而是提出僅升級 FLISR 模組的解決方案,該模組可與主系統同時運作。透過模組化解決方案,該公營事業得以減少系統永久故障(停止服務超過三分鐘)的次數。

令 Mora 驚喜的是,客戶欣然接受迷你模組化微服務。Mora 表示:「將傳統上是單一整合的東西分解成若干部分,尤其是處理關鍵基礎架構時,擔心是合理的;不過我們已見證公營事業對這類解決方案保持開放態度。」畢竟,ADMS 的模組化方法有助於提供公營事業所期待的效率,且無須拆卸及更換整套系統。

AI 和電網

現代 ADMS 的功能更豐富:就像熱門的應用程式在交通高度壅塞的情況下將車流導向小路,ADMS 可改變電網的「拓撲」,以適應快速波動的供需條件。

基本假設是電網能夠處理這些不同負載和需求;只需協助轉移流量,就不會有任何部分在壓力下崩潰。Mora 指出,為確保順暢運作的負載監控也變得更加動態:過去電網每小時會進行一次校準檢查,但現在時間間隔縮小為 15 分鐘。

如此迅速的協調需要在AI 指導下進行自主作業。Intel 授權 Minsait 使用 Intel® OpenVINO 工具組在邊緣進行 AI 推斷。

「您必須具備一定程度的電網自動化,這些應用程式才不僅能做出決策,且能真正自主運作電網,」Mora 表示。「有許多彙總的資料需要經過分析及最佳化,而這正是 AI 最擅長的。AI 能夠更準確且即時地預測客戶需求或發電對負載造成的影響。這絕對是改善預測的好方法。」

在處理大量消費者資料時,網路安全是企業營運的關注焦點。「Intel® Trusted Platform 是確保參與電網運作的元素身分(物件身分)的不二法門。這可確保易受網路攻擊的分散式裝置之間的通訊安全,」Mora 表示。

分散式電網是永續性不可或缺的要素。「我們大多數的解決方案都能讓未來更加環保,因為它們允許更多再生能源流入電網,」Mora 表示。此外,使用基於 AI 的 ADMS 系統以及模組化微服務,公營事業得以應對未來的複雜狀況。

 

insight.tech 編輯副總監 Georganne Benesch 編輯。

智慧餐廳技術最佳化 QSR 作業流程

面對持續攀升的勞動成本和員工嚴重短缺的情況,現今的速食餐廳難以維持堪稱傳奇的效率。透過新行動 app 和外送服務流入的訂單使廚房作業複雜化,挑戰也更顯艱鉅。用於培訓員工或監控設備的時間太少,在競爭劇烈的市場中,服務延遲的風險恐使顧客敬而遠之。

許多餐廳增設自助服務機台和數位平台,連接起前端的訂購與後端的作業流程,欲藉此減緩部分壓力並改善顧客滿意度。訂單頃刻間傳輸並自動分門別類,協助員工節省時間且避免出差錯。透過收集及分析餐廳資訊,管理者將能進一步了解顧客喜好,協助建立更有效促銷活動,做出更完善的庫存決策。

QSR 自動化強化自助服務並降低成本

速食餐廳多年來持續實驗自助服務機台,這項服務在疫情期間大受歡迎,因為顧客更偏好於快速的感應式訂購和付款流程。

「過去兩三年,我們觀察到轉向自動機台服務和數位平台的極大趨勢,」Prox Systems Co., Ltd.的高級銷售總監 Terry Wu 如此表示,該公司是Protech Systems Group 其中一個事業部,為餐廳和酒店業提供硬體、軟體和服務解決方案

自動機台透過數位觸控螢幕顯示菜單選項,提供顧客多種感應式付款的選擇,包含聯名卡、Apple Pay 和 Venmo等第三方系統,以及信用卡、簽帳卡和現金。

有了 Prox 智慧餐廳服務解決方案,所有訂單(舉凡來自自動機台、服務櫃台、得來速服務窗口、餐廳本身或外送服務應用程式)將全部被引導至同一個數位平台。Intel 處理器構成的運算平台將快速分析這些訂單,接著傳送到廚房的數位螢幕上。自動分門別類並傳輸訂單可避免錯誤,並給予員工即時的指示,達到最大備餐效率。店內取貨的訂單準備好之後,員工將餐點放在數位管理的保存櫃,顧客掃描 QR 碼即可取餐(影片 1)

影片 1。QSR 顧客在自助機台下訂單,機台將資訊傳送給廚房員工,員工備餐完畢將食物放在數位管理的保存櫃以供取餐。(資料來源:Prox Systems Co, Ltd.

獨家秘方:速食餐廳軟體

有關交易和菜單選擇的資訊均上傳到雲端,管理人員可分析雲端中的資料以察覺趨勢。餐廳也可以在自動機台安裝電腦攝像機,進一步瞭解顧客的構成,Wu 如是說。所有敏感資訊(包括臉部的影像)都會在上傳至雲端前移除。

管理人員透過分析顧客的食物選擇,做出良好菜單決策、剔除不受歡迎的菜色,藉此儲藏更充足的原材料,提供能滿足人們的食物。儀表板整合了假期和天氣預報等相關資訊,幫助店家預測需求情況,善加分配員工人力。

分析結果也有助於店家微調顯示於自動機台螢幕等顧客接觸點的促銷活動內容。單靠螢幕就能增加追加銷售的機會,Wu如是說。

「顧客站在廣告牌前感受到的壓力小於在櫃台回應他人。根據我們的經驗,自動機台的追加銷售收益比櫃台高出20%。」

餐廳將自動機台、列印機和數位廣告牌等設備均連接到 Prox Eye(雲端監控軟體平台)亦可減輕員工的負擔,不必再忙於管理諸多設備。

「中型和小型餐廳通常沒有技術人員。Prox Eye 擔任這些店家的 IT 部門,」Wu 如是說。Prox 的技術人員可遠距修復機器,並在營業時間外安裝更新。透過預測分析結果,他們也通常能在破壞性的當機情況發生前就預測到並解決問題。

客製化智慧餐廳技術

餐廳、咖啡店和茶館使用自動機台和數位系統的方式各有不同。Prox 可幫助他們決定升級哪些技術,以及應該將自動機台設置在何處才能獲得最佳效率。舉例而言,公司與台灣一家廣受歡迎的連鎖炸雞店合作,安裝自動機台並新增了網路訂購選項。即便訂單變多,餐廳依然能在減少 20 到 30 % 櫃台員工人數的情況下更快地提供服務,Wu 如是說。

管理者回應不斷變化的顧客偏好也更得心應手,只需手指一點就能更新數十家分店的數位螢幕上的菜單。使用數位螢幕也省去了印刷成本,員工管理菜單更容易。

甚至能幫助餐廳引進新產品。舉例而言,連鎖雞肉餐廳在店內經營不同聯網的珍珠奶茶店。管理者希望餐廳也賣茶飲,但習於準備炸雞的廚房員工難以記住複雜的飲料配方,投注的心力不見成果。藉由 Prox 在廚房螢幕上列出調製飲料的詳細指令,最終改善了銷售情況。

隨著技術的發展,Wu 相信餐廳定能發掘更多新方法來使用數位應用程式。未來兩到三年內,他期望用自動機台取代觸碰螢幕菜單,藉由讓機台搭載生成 AI 系統支援的語音聊天機器人,例如Open AI 的 Chat GPT 或 Google 的 Vertex AI。

「顧客不需要操作螢幕。顧客們只需要開口問:『咖哩的辣度是幾分?配料有哪些?』,」Wu 如是說。隨著這些創新內容帶來的客源,他相信餐廳對數位與自助系統的需求勢將有所增長。「這是一個充滿有利機會的龐大市場。」

 

insight.tech 編輯副總監 Georganne Benesch 編輯。

有了 AI 支援的自助服務結帳,再也無須等待

你終於買到票,可以觀賞喜愛的球隊比賽了。你趁半場休息時間偷偷溜出去買零嘴,站在漫長的餐飲區人龍中,聽到了體育館傳來觀眾歡聲雷動。你的第一個念頭是:我錯過了什麼?接著心想:排個隊為什麼排這麼久?沒錯,你可以觀看即時重播,但這總不像親眼目睹精彩比賽在眼前上演那樣令人興奮。

雜貨店等其他零售環境利用自助結帳亭減少等候的時間,但販售比賽日熱狗和啤酒等無條碼商品的商家,就非得仰賴人力收銀員不可。可惜的是,人手短缺拉長了顧客等候的時間。

大排長龍往往會導致銷售損失;但如今,Mashgin 等零接觸結帳體驗創造者所開發的 AI 驅動自助結帳,正在透過人工智慧(AI)、電腦視覺和物件辨識功能來解決問題,執行銷售點交易。

透過自助結帳亭顛覆傳統

和大多數創新一樣,Mashgin(代表「通用智慧的混搭」)的靈感來自個人經驗。2013 年,Mashgin 創辦人 Mukul Dhankhar 在荷蘭的 Toyota 電腦視覺實驗室從事自駕車和人形機器人的研究工作。每天下午,他都會到公司內部的自助餐廳買個沙拉和無酒精飲料,無奈結帳總要等到天荒地老,因為公司的每個人午餐時段都一樣是那兩小時。

排隊等候的 Dhankhar 心想:「我可以解決這個問題。」而他也做到了。Mashgin 的零接觸結帳系統以電腦視覺和深度學習為基礎,使用多部攝影機辨識產品及結帳。顧客將所有商品都放在結帳托盤上。搭載 Intel® 處理器的系統可產生產品的 3D 影像,與庫存資料庫比對,在不到一秒的時間就將整個托盤的商品都結好帳。沙拉等需要秤重的商品則置於結帳亭的磅秤上。顧客用信用卡、簽帳卡或現金付款後就能離開(影片 1)。

影片 1。AI 驅動的物件辨識打造了能加速交易並改善顧客體驗的自助服務結帳。(資料來源:Andy Peacock

即使是 Mashgin 資料庫中尚未儲存的商品也能輕鬆掃描至系統。「教會機器辨識一件大約只需 30 秒,」Mashgin 行銷副總裁 Toby Awalt 表示。 「不同攝影機會拍攝不同姿勢,形成一系列的影像,以便打造 3D 設定檔。神奇之處在於,只要拍幾張照就能辨識出物件。然後,這份資料會傳送至網路中其他所有機器,每部機器都會變得更智慧。」

Mashgin 短短 15 分鐘就成功部署系統。Awalt 表示,市場整備工作至關重要,因為勞工問題對零售商而言是個重大議題。「千真萬確,我們只是把機器放在櫃枱上、核對帳目,就可以啟用了,」他說。

安裝完成後,Mashgin 以「結帳即服務」的模式運作。「我們負責硬體保固、支援、演算法更新等,」Awalt 表示。一如其他結帳系統,Mashgin 收集即時銷售資料,協助零售商追蹤庫存及維持供應水準。

未來的智慧零售解決方案

透過降低平均結帳時間,便利商店、自助餐廳、機場商店和體育館餐飲區等高人流商家,可大幅減少排隊、改善顧客體驗。

舉例來說,美式足球隊丹佛野馬的主場 Mile High Stadium 即將 30 台的 Mashgin 結帳亭整合至其餐飲服務系統。部署解決方案後,這個可容納超過 76,000 名球迷的體育場整體通過速度提升 100%,餐飲區的銷售額增加 34%。中位交易時間縮短至不到 15 秒。

「我們知道每個體育館都有排隊問題,」Awalt 說。「我們正在協助他們促進銷售,打造更完善的粉絲體驗。使用 Mashgin,你可以在前台安排一人檢查身分,後台指派一人確保所有飲料都已開啟、瓶蓋皆已打開,」Awalt 表示。「在前台與後台之間可以放置兩到十台機器,處理繁重的交易工作。」

Awalt 表示,便利商店連鎖店 Circle K 在店內設置了 10,000 台 Mashgin 機器,協助因應員工流動率的問題。這個解決方案讓讓員工可以騰出時間,專心提供客服或處理補貨或清潔商店等工作。

「我們的機器比一般收銀員快兩到四倍,」Awalt 表示。「在便利商店,只要把兩台機器擺在櫃枱上,結帳的顧客就能從一人變成五人。員工可以對顧客說:『嗨,那裡的結帳機可以協助您結帳。如果要買樂透彩券,請至前台收銀機由我效勞。」

評為《Fast Company》2022 年最具創新力公司和《Forbes》AI 50 名單之一的 Mashgin 正在推動零售業的未來,為顧客提供更好的體驗,同時維護零售商的銷售業績。有朝一日,體育館內唯一需要排隊的地點會是女子洗手間。

 

本文由 insight.tech 編輯副總監喬治妮.貝內施(Georganne Benesch)編輯。

軟體定義的流程:製造業的未來

工業 4.0 正透過開放式軟體定義的流程,迅速推動製造業的發展,也就是釋放過去封閉的資料,迎接更靈活彈性的作業方式。

專為解決特定問題及最佳化製造成果設計的技術是這項轉型的推手,其中又以工業邊緣 AI 最為關鍵。Scalers.ai 為各行各業提供這類解決方案,該公司執行長 Steen Graham 表示,邊緣人工智慧創造了「製造業更上層樓絕佳機會」。

這項技術在很多方面對製造業而言都是一大福音:AI 是資料需求量大的企業,因此在邊緣進行 AI 推論,製造業便能捨棄大量不相關的資料。Graham 表示:「從經濟角度來看,不將該資料傳送至雲端極富價值。」此外,製造商可針對各式各樣的使用案例,善用邊緣 AI 近乎即時的特點,包括即時偵測缺陷和監測生產線數量。

Scalers.ai 在負責為各種製造效率自訂 AI 軟體的同時,與 Dell Technologies 建立合作夥伴關係,讓該公司獲得了可靠快速部署邊緣 AI 所需的效能。Power Edge XR 平台經過強化,符合所有需要的規格,Dell Technologies 技術行銷工程師 Manya Rastogi 表示。Power Edge XR 採用短身外型規格,已經通過嚴格的衝擊、振動和防塵測試。Rastogi 指出:「它可承受惡劣的製造條件。」

提高邊緣部署的速度

雖然承受得起各式各樣的製造條件是好事一件,但這個產業無法大費周章針對每個使用案例反覆量身打造 AI 模型,而且這種作法也無法讓邊緣 AI 發揮效果。反之,移轉學習結果或應用型 AI,皆有助於讓開發人員現有的方法和範本更豐富。

利用透過過成千上百萬個(若不及數十億個)參數訓練過的強大機器學習模型,未必是務實的作法。您不妨想像一下快速休閒餐廳排隊選擇配料的隊伍,製造商可以先從「米飯和豆類」計畫這個基準線著手,然後再增加自訂層,「並且執行移轉學習工作流程或重新訓練練習,增加該自訂功能」Graham 表示。「我們建置於現有的優異模型基礎,使用者可以針對他們的領域、使用案例及執行方式自訂這些模型。」

這類捷徑不僅可節省工程設計與開發人員資源,還有助於企業加速部署邊緣 AI 模型。面對有迫切需求的客戶,快速推出新的邊緣 AI 部署可能產生重大影響。

Graham 表示:「軟體定義的製造方式賦予企業『因應客戶瞬息萬變需求改變環境的能力』。」

製造業的未來:近乎即時的監測方式

企業不僅能透過搶先滿足消費者需求增加收益,將時間、金錢和原物料的支出方式最佳化,也能締造相同的成果。

Rastogi 表示,強化的邊緣 AI 運算也有異曲同工之妙。以諸多工業程序使用之旋轉元件葉輪的製造過程為例。在電腦視覺堆疊,便能在邊緣以近乎即時的速度偵測缺陷,而且這個零件製程的任何階段皆適用這項程序。舉例來說,在製模階段加入 AI 驅動的缺陷偵測,有助於及早發現缺陷,避免再將任何材料或資源浪費在不良成品。由於這個程式能即時發現問題,因此可以立即採取修正行動,減少耗時又昂貴的生產後檢查評估過程。

利用邊緣 AI 還有助於透過遙測資料,以及透過 OPC 統一架構(OPC-UA)這類機器對機器的通訊協定,縮短製造停機時間。OPC-UA 以解鎖的資料取代人為干預,獲得關鍵的深入解析,透過傳遞生產線機器實際運作情況展現效果。在現有機器傳送的這類資料應用邊緣 AI 工作負載,是製造商如何讓過去不透明的機器和生產線更透明化的絕佳例証。

舉例而言,如果生產線上的塔燈持續閃爍紅燈,就表示必須立即檢查某個問題。由於邊緣 AI 能在問題發生當下辨識問題,因此廠房管理人員更有機會解決問題,達成每日生產配額。

Dell 的 Power Edge XR 平台搭載第 4 代 Intel® Xeon® 可擴充處理器,不需要額外加速器就能進行 CPU 推論,Rastogi 表示。Graham 表示:「Intel 第 4 代 Xeon 處理器有別於現成的通用處理器,其獨一無二之處在於,它內含 AI 的指令集最佳化。」

Graham 表示:「近年來,透過應用 AI 實現深度學習的能力,讓開發人員更容易在製造過程部署深度學習,即使是利用小型資料集也不例外。」他補充道:「這一點改變了競爭態勢。讓需要的硬體在強化的小外型規格執行這些模型,也有助於簡化部署過程。」這為製造業自訂 AI 驅動的未來奠定了基礎。

這對製造商及其要求嚴苛的消費者而言都是好消息。

 

insight.tech 編輯副總監 Georganne Benesch 編輯。

透過 AI 支援的數位招牌為離線零售業轉型

隨著網路購物的出現,零售業的數位轉型已持續很長一段時間。數位化商店讓消費者獲益匪淺,舉凡個人化、唾手可得的豐富產品資訊,以及便利的一鍵購物。從商業角度來看,它為企業提供符合成本效益的客戶取得方式、對銷售管道無與倫比的洞察力,以及執行精準定位的行銷能力。

但數位轉型工作忽略了一件事,那就是納入實體商店。這個年頭,由於顧客網購經驗良好,他們的期望也無以復加地高,但離線零售商店的服務卻遠遠落後。

「在網路商店,零售商必須進行受眾測量、目標受眾設定行銷,以及在對的時間提供對的產品,否則顧客就會離開,」數位招牌與訪客分析軟體開發商技術長 Alex Rekish 表示。「但在實體商店,這些都不存在。缺乏可衡量性使得離線銷售過程昂貴且效率低下,導致顧客的店內體驗不佳。」

因此,品牌和零售商無不想方設法要協助實體商店急起直追,迎頭趕上網路商店。所幸,隨著電腦視覺的進展,現已能實現 AI 支援的數位招牌解決方案。

邊緣支援解決方案提供深入見解,將銷售業績推向巔峰

AI 支援的數位招牌已成為數位轉型的強大工具,因為它可以將多項尖端技術整合為易於管理的單一平台。舉例來說,DISPL的智慧零售解決方案包括:

  • 控制店內顯示器的智慧媒體播放器。跨平台的播放器軟體可安裝於 DISPL 硬體或任何廣播顯示面板、LED 等內容的媒體播放器裝置。
  • 提供顧客行為洞察力的電腦視覺處理。USB 攝影機擷取顧客影像,以便進行電腦視覺處理。邊緣的 AI 支援演算法可用來深入瞭解顧客的人數統計資料、購物行為與參與度,並透過店內顯示器向個別顧客即時展示相關且具針對性的內容。在資料隱私法嚴格的地區,使用電腦視覺與邊緣 AI 也意味著沒有必要收集敏感的個人化資料或傳送至別地處理。
  • 網頁型 CMS(雲端或內部部署)可協助零售商管理內容和硬體網路,以及檢視所收集的資料。CMS 可將自訂內容顯示給不同購物者,或在不同的時間和地點顯示。它也提供一個儀表板,供決策者查看人口統計資訊、轉換指標和顧客參與度資料,以最佳化店內顯示器與空間佈局,進而促進銷售。

這些技術的結合可協助零售商和品牌將商店顯示器轉為強大的智慧工具,能夠取得顧客洞察力、增加銷售量,並改善購物者的店內體驗。

迅速改善的 AI 數位招牌

部署完成後,AI 數位招牌可迅速改善銷售量和顧客體驗。信不信由你,原因是大多數品牌和零售商已上線多年,早就熟悉如何使用這些「新」功能。

正因如此,他們的行銷和銷售團隊非常瞭解如何使用數位技術提供有針對性的訊息傳遞、根據顧客個人檔案最佳化顯示內容,以及 A/B 測試媒體。有別以往的是,這些功能也首次可供品牌在實體地點使用。由於企業知道如何在網路使用這些工具,這表示實體店的改善幾乎可以一夕之間實現。

一個好例子是 DISPL 在歐洲與兩家電子產品零售商的經驗。

總部設於賽普勒斯的 Acean 和希臘規模最大的消費電子產品零售商 Kotsovolos 都在想方設法,要將線上業務流程套用在實體店。兩家公司有著類似的目標。Acean 想瞭解實體店的行銷漏斗和受眾,並最佳化店內行銷,以推動銷售量。Kotsovolos 想使用店內螢幕進行分析,並根據個別購物者的人口統計資料向顧客顯示具針對性的訊息。

DISPL 與 Acean 和 Kotsovolos 合作,量身打造其 AI 數位招牌解決方案的部署。成效立竿見影。Acean 將 44% 的訪客轉換為參與的潛在客戶,銷售量也因而成長 15%。就 Kotsovolos 而言,訪客參與度大幅成長。令該公司印象深刻的是,他們在數週後將初步試驗部署的螢幕從 16 台擴充至 100 台,並表示這項體驗協助其轉變對針對性訊息和實體店角色的思維。

為了取得這些改善並將產品迅速有效地推向市場,DISPL 採用 Intel 電腦視覺技術。

「Intel® 發行版 OpenVINO 工具組協助我們訓練神經網路、最佳化演算法,並透過加速開發來縮短上市時間,」Rekish 表示。「此外,如果顧客有此需求,Intel 軟體開發工具可協助我們更快推出新功能。」

AI、數位招牌和零售業的未來

Rekish 認為,DISPL和其他 AI 數位招牌供應商由於才剛起步,在未來數年將有大量的開發工作和功能需求要處理。

一方面,在其他垂直領域和產業中(從智慧城市和博物館到銀行業、安全性和物流),系統整合商和解決方案開發商將有機會參與 AI 數位招牌的應用。

此外,零售空間將進一步增強。舉例來說,DISPL 已設法使用 AI 自動進行 A/B 媒體測試,並利用電腦視覺簡化受限產品的銷售點年齡驗證。

簡而言之,無論是在零售空間的內或外,AI 數位招牌對解決方案供應商、SI 和品牌來說都具有無窮的可能性。

「能實現 AI 數位招牌解決方案的方式何其多,這項技術的應用領域將遠遠超越零售業,」Rekish 表示。「放眼未來,實體店的營運方式會更像網路商店,節省成本、提供更輕鬆的顧客體驗,並讓實體世界比以往更具互動性。」

 

本文由 insight.tech 編輯副總監 Christina Cardoza 編輯。