各大公司目前正在加速開發 IoT 應用程式專案,而疫情也加快了這種趨勢。但是,每一個組織是否都擁有順利擴展這些專案所需的技能和資源?AI 又將在其中扮演什麼樣的角色?您要如何在舊硬體現實與新軟體創新之間取得平衡?
我們與 Microsoft Azure Edge Devices Platform and Services Group 的 Silicon and Telecom 資深總監 Pete Bernard,討論了 IoT 開發的主要趨勢與挑戰、如何讓 IoT 開發人員的生活更輕鬆,以及這些努力的重要性。
現今,商業 IoT 應用程式有哪些主要趨勢或挑戰?
這是一個非常以解決方案導向的市場,尤其是在我認知中的邊緣生態系統中。在和商業客戶交談時,他們會遇到一些非常複雜的問題,這些問題無法透過單一裝置或單一應用程式解決。如果要解決問題,通常需要深入探索這些系統的協作方式。系統如何安全協作?如何管理系統?如何部署系統?
方式極其多樣化。舉例來說,某些 AI 模型可能會在雲端和 Azure 上進行訓練,然後部署到邊緣。但是,它們要如何針對邊緣矽晶片進行最佳化?我們使用了 Intel® 的 OpenVINO™,並且在 3 月推出的 Azure Percept 的平台上大量合作。這只是其中一個例子,我們利用了矽晶片的特性和功能,來取得效能與解決問題的能力。
您能談談這些密集工作負載的興起,以及為什麼需要在邊緣完成嗎?
我們都看到了獨立系統(或稱未連線系統)的革新,以及只能將資料傳送至簡單感應器的雲端連線系統革新。現在,我們讓雲端與邊緣通訊,讓邊緣與雲端交流。基本上,您可以在邊緣和雲端上以非同步執行大量運算,且您必須釐清這些系統的協作方式。
許多新情境都需要相當高效能的邊緣運算,原因可能是隱私,也有可能是頻寬。但是看到那些持續發生的創新,以及使用者的用法,真的很激勵人心。
疫情是否改變了公司對 IoT 應用程式的看法?
我認為是的。我認為網際網路是疫情期間的英雄之一,因為網路讓所有人得以保持聯繫並持續工作。但是,一切也隨之加速。我們準備在兩三年後進行的所有實驗,現在全都已經投入部署。
而且,未來你會看到更多的 AI 視覺工作。疫情期間,自動化的發展確實大幅加速。而且,健康照護領域還有相當大的最佳化空間——在邊緣利用更多資訊,確保人們可以獲得流暢且經驗證的體驗。疫情讓許多原本仍在準備階段的事情大幅加速發展。
我們該如何在這種加速的基礎上繼續前進?尤其是以全新方式將系統整合在一起的方面。
部署中的系統不能是一次性的特製系統,對吧?你不能在今年把你的解決方案寫死,然後明年再把另一個解決方案寫死。您必須考慮目前要解決哪些問題,而不是兩三年後的問題,然後加入越來越多的功能。
其中一個例子就是零售業的銷售點終端——現在非常普及。人們常說「我有這些銷售點平台——我還能用它們做什麼?我可以加入 AI 視覺,在商店中提供某種安全監控嗎?」於是,我們會看到這種不起眼的平台,實際上變成了可以進行大量運算的邊緣端點。
我們注意到的另一點是,許多人都有舊式設備。最近我們和一間超市交流,他們說的第一句話是「去年我們買了這些攝影機,現在全都放在箱子裡賦閒。」所以,您要如何連接舊式設備,讓這些設備更具備 AI 功能、更加安全且更易於管理?
您必須系統地思考。如果您有需要解決的問題,目前有哪些設備可以用來解決問題?然後,不可避免的是,當晶片升級、速度越快且價格越便宜時,您要如何擴充設備。到了明年或後年,將會有更精良的設備連接到系統上。
Microsoft 打算如何提供協助?
顯然,Azure 是一項不可思議的雲端業務。我認為《Fortune》雜誌 500 大企業中,有 95 % 都在 Azure 上執行業務。而我們團隊所做的努力,確實在邊緣提供了協助。
我們有一個名叫 EFLOW 的系統,在這個系統中,您可以在 Windows 上執行 Linux 工作負載。因此,您可以擁有一個安全且受管理的 Windows 平台——每個人都知道如何管理和部署——而且最重要的是,您現在可以從雲端執行舊式 Linux 工作負載,無需另外擁有一部機器就能執行 Linux。這就是我們團隊的工作案例之一,這能夠確實協助客戶解決手邊的設備問題——只要使用一點點的新軟體——這真的非常酷。
好消息是,我們有許多不同方法,能以高成本效益、低資本支出的方式解決問題。但是這種做法的缺點——我想這就是我們能夠賺取報酬的原因——就是非常複雜。您必須使用開發人員工具,消除各平台間的摩擦。這就是我們真正想要做的事情,努力消除摩擦,讓使用者能利用所有選項,同時又不會太過複雜。
您認為 IoT 應用程式的發展是否更偏向軟體模型,而非硬體性質?
我是這麼認為的。因為軟體必須跨越系統的各個部分運作。不同的硬體都必須協作,而這就是軟體真正發揮作用的時候。如果您的商務邏輯和強大的應用程式,以及所有的一切都在硬體上執行,那麼一切行為都會由軟體所驅動。大約有 7% 的 Tesla 員工是軟體工程師。我記得在 General Motors 中,大約 1% 或 2% 是軟體工程師。
我曾指導過很多大學生,他們總是問我「如果我想從事科技業,我應該去哪些公司上班?」我總是回答他們「這個嘛,現在幾乎所有公司都是科技業。」所有人都必須具備技術能力,並且您必須擁有所有公司內建的軟體能力。所以,從就職的角度來看,這對許多大學畢業生來說是令人興奮的消息,因為如果他們具備軟體能力,他們幾乎可以在任何地方工作。
我們正在利用許多新的半導體功能——更低功率、更高上限、更高效能、更低成本——所以還有相當大的發展空間,而且我認為硬體還有加速發展的機會。或許在消費領域沒有這麼嚴重,但是在商業領域方面,所有人都在追求更高的效能、更低的功耗、更低的耗電和更低的成本。而且,這樣的追求永無止盡。不過,軟體確實可以解鎖一些驚人的情境。
您認為擴充升級的關鍵痛點是什麼?Microsoft 打算如何減少相關摩擦?
這是個好問題。「向你的老闆示範你的相機可以識別香蕉」,然後才能實際部署。我們一直在嘗試做一件事,那就是盡量減少向老闆示範和部署之間的步驟。Azure Percept 採用了一些超酷的 Intel 技術;這種開發工具套件能讓使用者快速輕鬆地識別香蕉,並匯入自己的 AI 模型,或使用各種開箱即用的模型。
我們正在努力提供一種方法,能讓開發人員將概念性驗證 (POC) 階段的工作直接收成,無需再次執行任何動作即可進入完整部署階段。生產硬體可能會改變——您可能會想變更模型,或是增強防寒效能之類的。但是您開發和訓練的軟體和 AI 模型,以及您的管理和部署方式——這些都是生產級代碼。當您想要進行完整的生產部署時,在 Azure 上開發和部署能讓您走得更遠。
現今,IT 部署可能會非常複雜。公司是否應該確保鞏固特定的技能或資源?
我們嘗試透過我們的工具,以及 Visual Studio 和整個 Azure 平台,釐清如何使嵌入式開發人員成為更聰明的 AI 開發人員,反之亦然,所以您不必擁有兩個不同類型的軟體開發人員。一名軟體開發人員能夠提升技能,並且具備處理以下內容的能力——開發和訓練 AI 模型,並且編寫代碼以在嵌入式或邊緣裝置上開發和部署應用程式。但可以肯定的是,資料科學和 AI 能力是當今許多公司真正需要的新技能。
過去,IT 部門會在半開的門後面,你會走過去說你的筆記型電腦壞了之類的。然後,他們會從拿走電腦,並且告訴你可以在幾個小時後回來領取。現在不再是這樣了。
您的 IT 部門專注於安全性和生產力,並且可能會進行一些自訂應用程式開發,並希望購買某些解決方案或採購一些解決方案,並在您的特定業務之上加入他們的強大應用程式和其他商務邏輯。我認為對現在的開發人員來說,這是一個難得的機會,他們可以稍微走出舒適區,開始嘗試 AI 之類的內容。
從中長期來看,您認為 IoT 生態系統將走向何方?
每間公司都有自己的問題,每間公司都有自己的設備。因此,我們看到許多行動的目標是「我如何在棕地而非綠地中,利用我的舊設備?」我們會看到許多活動:「我如何編寫新的軟體和應用程式,讓它們在這些平台上運作?」
同時,人們正在規劃下一個大型硬體週期:「我如何使用 5G 和私人 5G?我如何使用 Wi-Fi 6?我如何利用新的視覺處理器,完成各種新的工作?」所以,這一切都是平行發生的,但我認為棕地是有很多近期行動的地方。
在連線能力方面確實發生了很大的變化。關於這個,你能夠多談一點嗎?
談到連線能力,我的建議是保持開放的心態。所以,我們有 Wi-Fi,也有 5G。有一種叫做 LPWA 或低功率無線存取的東西。還有「藍牙低功耗」,現在已經發展得很成熟了。我們有各種不同的方法能夠將這些技術連結在一起,所以對於什麼是最佳的方法,人們應該保持開放的態度,因為現在的選擇實在太多了。
關於如何讓 IoT 開發人員的生活更輕鬆,您認為重點是什麼?
我們必須「執著於客戶」。聽起來是陳腔濫調,但確實別具深意。「執著於客戶」代表必須考慮解決方案,而不僅僅是著重於科技。因此,請考慮如何從整體上協助公司或客戶解決問題,並假設面對的是多樣化的生態系統。您的附加價值就是能夠無縫將這些內容結合在一起以解決問題。
若要瞭解關於克服 IoT 開發挑戰的更多資訊,請收聽我們的播客,與 Microsoft 一起解決 IoT 專案的困難。