我认为,在所有这些人工智能趋势中,现在一个好事是,很多模型都是开源的,这也是我们在 SAM 上所具备的能力。OpenVINO 也是开源的,开发人员可以非常轻松访问此工具套件。每天,我们将多个 AI 趋势放入 OpenVINO Notebooks 存储库中,AI 领域会发生一些事情,两到三天后,那里就有我们的笔记本。对于开发人员来说,有一个好消息:我们已经在 OpenVINO 存储库中为 SAM 提供了优化管道。
我认为,OpenVINO 是降低构建深度学习应用复杂性的好工具。如果您拥有 AI 专业知识,那么这里是一个很好的地方,您可以详细了解 AI 趋势,以及了解 OpenVINO 如何改善您的日常工作。但如果您是新开发人员,或者如果您是开发人员,但并非 AI 专家,这也是一个很好的起点,因为您可以看到我们提供的示例,并且可以跟进 Jupyter Notebooks 中的每个单元格。
从采用角度来看,我们认为有以下几大驱动因素。第一个是物联网。大量数据正在生成,需要借助机器学习或 AI 进行近乎实时的分析和处理。其次,作为供应商,电信公司最近对多接入边缘计算和专用网络表现出较大兴趣。最后还有经济环境这个驱动因素。许多公司正在审视自己的云支出,这会对扩大边缘计算的利用起到一些刺激作用。
可否讲讲我们在各行各业都有哪些不同的边缘计算机遇?
Dan Rodriguez:让我们来看一看零售业。零售商面临的最大成本之一就是盗窃;尽管可能难以置信,但这是一个每年造成 5000 亿美元损失的大问题。计算机视觉与 AI 可以解决这个问题,遏止发生在店门前(即结账区)、商店中部(货架之间的通道里),甚至商店后方(仓库和配送中心)的盗窃行为。
而从零售商的营利性业务来看,他们可以通过各种新颖有趣的方式将 AI 付诸应用。以购物体验为例:AI 可以针对不同的商品展示策略提供反馈。当货架上出现缺货情况时,它可以快速识别。有时,只需做出一个小小的改变,就能带来更好的结果。
还有几个可能特定于制造业和生产行业的挑战。其一,实时作业,这是一组在 IT 部门中基本不存在的特殊需求。而制造业中既有以微秒计的反馈回路,也有需要精确到百万分之一的化学品混合物。及时性和准确性至关重要。而且,真正重要的是,这是需要在系统层面达到的目标 — 不仅仅是一个组件,而是整个系统都必须做到的事。
Martin Garner:让我来举一个凸显出扩展问题的例子。一家大型高校附属医院在安装网格网络,用以跟踪呼吸机和其他重要设备,并采集来自传感器的信息。他们先采用电池供电的节点进行了一项试验,良好的试验结果令其颇为满意。但他们随即意识到,当他们将该网络扩展至整座医院时,他们将使用数千台电池设备来进行监控。总会有某处的电池需要更换,而如果做不到绝对及时的更换,就有可能造成危险的后果。于是他们要求供应商生产[电网]供电版本的设备。
我从中吸取的经验教训是:从一开始,供应商就必须按照他们最终要面对的规模进行设计。而客户也需要从设计阶段就开始从大处着想。正如 Dan 提到的那样,这是一段旅程,一路之上您将学到许多东西。
请谈谈合作伙伴关系对于实现这些目标的重要性。
Dan Rodriguez:英特尔创建了一个开放式和标准平台兼有的多元化生态系统。拥有这样的生态系统对于市场的整体健康至关重要;该社区不仅提供众多供应商选项,而且有助于促进整体的创新螺旋。
Martin Garner:边缘计算的应用广泛、深入且复杂,正如我之前提到的。只有极少数客户有能力全盘把握。能够做到这一点的供应商也极少,因为供应商通常专精于特定领域。实际上,我们论及的大多数系统设计都需要涉及 3 到 5 家供应商。我认为我们都应该加入这一预期 — 而且意识到这将是一个团队合作的过程。
您认为物联网边缘计算在工业环境的演变中会起到怎样的作用?
Dan Rodriguez:第一阶段是向软件定义的基础架构迁移,由此实现的工作负载整合可以在更少的服务器或设备上支持多个应用。
显然,生成式 AI 已成为当前最热门的话题,而随着时间的推移,它也将被纳入这一策略。产量增长,良率提高,全新模拟和建模技术都在未来工厂中得到应用的前景必定会令人极为兴奋。
看看苹果为手机所做的事情。他们向各位表明,任何体验都应该令人愉悦。它应该简单而直接。现在,这种期望正在进入开发领域。当所有内容打包在一起时,我们基本上是需要构建软件定义的 AI 用例,这些用例非常简单,方便人们在日常生活中应用。
Adam Burns:我完全同意。如果将这些趋势应用于市场的转变,特别是在边缘物联网世界,那么过去几年中,这种转变迅速加速。英特尔在 30 多年前发起的嵌入式世界,其重点是关注可靠性。开发人员正在寻找非常可靠的软硬件的组合,可以在生产过程中使用五到十年,而不必有任何担心。现在,我们的转变是:“我想了解该设备及其所在系统正在发生的一切。我想了解如何提高效率。”
Bill 提到的软件定义系统、AI 以及所有这些事情的结合,都是为了做到这一点。与我们对嵌入式计算的传统看法相比,开发人员和操作人员思维模式的这种转变从根本上改变了人们的要求。
开发人员在构建边缘 AI 应用程序时面临哪些挑战?
Bill Pearson: 第一个挑战是我要如何开始?行业中有众多选项和许多噪音。首先,人们询问,开始实现他们的目标和关键绩效指标的途径是什么。接下来,他们寻找最有效的方法,在其独特用例中实现他们想要做的事情。
但它并不是每个问题的答案。生成式 AI 产生强大效力的时刻是,当您不只是开始关注主要应用程序,还关注所有集成工作时。它能够了解接口并帮助客户自动化集成、系统设置,也可以做到许多不同的事情。它会使操作人员和开发人员异常高效。
行业中领先的 AI 开发人员表示:“我现在只编写约 20% 的代码,因为生成式 AI 正在完成许多代码编写和设置类型的工作。我可以真正专注于算法以及实现自我增值的特别之处。”因此,它是一个惊人的能力倍增器,可以提高开发人员的工作效率。了解企业即将推出的应用程序会非常有趣。从 OpenVINO 的角度来看,至关重要的是,我们不仅要在云端提供支持,还要对这些模型进行调整和微调,以便为边缘专门构建。
Bill Pearson:尽管进行了多年的研究,但目前尚处于早期阶段,我们才刚刚起步。随着生成式 AI 突破公众认知,它创造出更多的 AI 意识。但它也打造了更多的实验,事实证明,它在这方面非常优秀。目前正在探索许多有趣的用例,但我认为故事还未开始书写。
对我来说,有趣的是,我们有两件事要做。一是生成式 AI 创造可能的艺术。这个故事只是想象力的故事,我们将对它的未来走向感到惊讶。实际上,如今许多客户可以利用其带来的机会探索他们真正需求:他们试图实现的 KPI,试图实施的用例。但在许多情况下,我们无需生成式 AI 即可做到这一点,坦白地说,有更专注、更具成本效益的优秀解决方案可为此提供帮助。关键在于帮助我们的客户找到他们试图解决的问题的合适解决方案。
对于想要了解更多详情的开发人员,如何开始?
Bill Pearson: 如果您希望构建解决方案, 英特尔® 开发人员专区 是适合您开始的地方。您将在这里找到英特尔提供的所有工具,例如边缘软件中心和 OpenVINO。如果您对构建边缘 AI 应用程序特别感兴趣,可以直接访问 OpenVINO.ai,这是另一个绝佳的起点。
Adam Burns: 我认为,我们生活在一个人们希望实际操作并修正的世界。在这里,人们可以使用边缘软件中心真正深入探索解决方案并了解它们。
你们是否要为我们的对话作其他补充?
Bill Pearson: 对我来说,进入这个行业没有更好的时机,原因是快速变化的市场节奏、软件定义一切以及 AI 变得如此流行。成为开发人员是激动人心的时刻,是参与构建现代解决方案的激动人心的时刻,我们都会在此过程中帮助创造这些解决方案。
Adam Burns: 正如 Bill 所说,看到开发人员、客户和合作伙伴能够利用我们的技术实现目标,这是令人非常满意和愉悦的。皇家布朗普顿医院和儿科肺疾病检查即为一个很好的案例。刚好我堂表兄弟的一个女儿患有肺部疾病。得到这些案例后,我们立即可以发现真实的价值,无论是确保个人更快地获得所需的诊断,还是提高工厂的效率。能够参与其中并允许开发人员创造出他们所能创造的东西,这令人满意,也非常有益。
Scott Chmiel:由于解决方案的复杂性大大增加,所面临的挑战也已经发生了变化。过去,所有的一切都包含在单个硬件或软件中,但现在我们增加了云,复杂性日益上升,技术也层出不穷,不仅从技术角度来看需要的更多,从开发角度来看也需要不同的技能组合。现在,解决方案必须整合并部署到彼此各不相同的现有客户环境中。互联设备现在对运行安全性的要求也更高。另外,很明显,我们可以做到之前不可能做到的事,如机器学习和人工智能。我们有可能解决过去根本无法解决的业务问题。
Scott Chmiel:第一步是了解各企业希望达成何种业务成果。它们试图完成什么目标,利益相关者是谁?在洛杉矶港的例子中,不只有一家公司;还有市政当局、处理集装箱的人员、卡车司机、几十甚至几百个分包商,他们必须相互配合完成港口的运转。我们的解决方案专注于解决他们在安全方面所面临的挑战,以及对进出货物进行跟踪。
Steen Graham:回答该问题的第二部分,我和 Scott 所寻求的是一个无需互让的解决方案。从操作系统的角度简单来看,全球有两大主流操作系统:Windows 和 Linux。现代人工智能应用程序中的云原生工作负载是用 Linux 编写的,而大量现有工作负载和应用程序则是用 Windows 编写的。通过向其中一些技术添加跨平台功能,我们已经能够在现有基础设施上改造人工智能应用程序,从而确保它们更好地协同工作。对现代云原生属性和人工智能功能加以分层才是我们在这一特定解决方案中真正使用的方法。
这种跨平台互操作性的推动力量是什么?
Scott Chmiel:通常是现有的硬件。而技术、基础设施可以应用于多种不同的解决方案,无论是零售应用、智能港口还是仓库,它们都会面临相同类型的挑战,因此可采用同样的技术并加以定制或重新封装。这为他们现有的硬件带来了额外价值,并通过先前无法做到的一些工作为这些硬件增加了价值。在智能港口的例子中,安全性有所提升,而这也适用于零售业:在起重机穿过仓库之前,要确保它所到之处没有人。
Steen Graham:从技术角度来看,我们得到了一份底层技术大礼,这里微软和英特尔® 的贡献尤其大。我们使用的缩写是 EFLOW,即 Edge for Linux on Windows,或者更准确地说是 Azure IoT Edge for Linux on Windows。这就是我们在 Windows 和 Linux 上提供的无需互让功能。其中的隐藏优势在于,英特尔通过投资其集成显卡实现了硬件加速功能,这让我们能够在已部署的基于英特尔的 CPU 上完成这些工作负载,而不必升级到昂贵的 GPS。现在,我们可以依托经济实惠的现成技术运行多个人工智能模型和多个摄像头画面,比如英特尔 NUC 迷你电脑平台,以及 Windows 和 Linux。这是一系列令人不可思议的技术,且由此我们能够部署现代工作负载,确保它们与现有基础设施实现互操作。
Scott Chmiel:Arrow 称自己为协调者和聚合者,他们能够将不同的技术、服务或组件相整合,还可以帮助进行设计。对于一家有远见或面临挑战的公司来说,很难整合内部的所有资源或技能组合来完成端到端解决方案的全部工作。因此,Arrow 希望与最终用户合作,并引入适当的合作伙伴。我们帮助他们选择正确的解决方案,其中不仅考虑到了其最终用途,还考虑到了该解决方案的寿命,即总体的生命周期。智能港口,这不是几年内就能部署和完成的东西。而且这应该也是一项可重复的工作。开发该解决方案的公司,或将各部分整合到一起的公司,可以重复使用此过程,扩大应用规模,在整个生态系统中创造更多价值。
关于 EFLOW 或关于这个话题,我们还应该了解些什么?
Steen Graham:我认为,谈到开发和软件工程的成本时,我们编写代码来整合这些伙伴关系这一步异常重要。这么多不可思议的公司带来了各种出色的技术,但很多时候缺少的是连接 API 的单行代码来真正推动转型。作为一个行业,我们确实有必要携手应对部署方面的挑战,因为在云中构建功能效果非常好,且现在此过程十分经济便捷。挑战在于在现实世界中进行部署,此过程需要持续学习、迁移学习以及持续注释。
Scott Chmiel:当我与具体某个垂直行业的公司员工交流时,不管是运营仓库的人员、港口上的人、还是监控或医疗行业的人,总会惊讶于他们对自己所从事工作的了解程度。随着这些解决方案变得愈加复杂,我想确保人们明白,没有必要去单独行动。现在早就不是打造一台设备去完成某一件事的时代了,一台核磁共振成像仪器不仅要检查视力,还要考虑如何与整个医院相整合。但公司不需要单枪匹马地去解决这一问题。而且,面对这些复杂性更高的解决方案,他们确实无法独自完成这项工作。对于可以做到的事,标准越来越低;过去无力应对的业务解决方案现在可以实现了,十分让人惊叹。
“这些解决方案无疑是成功的关键因素……在医疗保健领域内存在更大的机会。” BlueStar 的医疗保健业务发展经理 Matt Jordan 表示。
该公司是一家为系统集成商、增值经销商和托管服务提供商提供支持的全球分销商。“远程医疗显然不会消失。我认为这原本应该更早实施,但机构缺乏一些软件合作伙伴的实力,后者已经准备好了解决方案。”
医疗保健的加速数字化转型
Jordan 解释说,远程医疗是唯一能够应对 COVID-19 疫情需求的直接解决方案。医院处于超负荷状态,必须开设临时分诊站来为每名患者提供服务。除此之外,患者仍然需要预约、药物和治疗,他们不能无限期地等待接受治疗。
“远程医疗成为唯一的权宜之计,医疗系统必须迅速采用这种技术,因为患者无法实地问诊。” Jordan 表示。
因此,医疗保健机构开始使用 Google Meet 和 Zoom 等消费者视频会议解决方案作为应对措施。COVID-19 的初始冲击消退后,医疗保健行业开始意识到,这些解决方案不是针对医疗保健服务打造的,也不是该行业的理想选择。行业人士开始寻找更积极主动的方法来满足新需求。