反向代理服务器加强 AI 网络安全

AI 模型依赖于持续的数据流进行学习和推理。这正是其价值所在。但这也让它们变得脆弱。由于 AI 模型基于其所接触的数据构建,因此极易受到数据被破坏、操纵或泄露的影响。

网络威胁可能来自不良行为者,他们编造推理并向模型注入偏差,以干扰模型的性能或运行。分布式拒绝服务 (DDoS) 攻击可以产生同样的结果,使模型运行的平台(以及模型本身)不堪重负。这些和其他威胁可导致模型及其敏感数据遭遇 IP 盗窃,特别是在周围基础设施未得到适当保护的情况下。

不幸的是,急于实施 AI 模型会造成 AI 部署架构存在重大安全漏洞。随着企业将 AI 与更多的业务系统和流程整合,首席信息安全官 (CISO) 必须努力弥补这些漏洞,防止在每次推理时都要提取宝贵的数据和 IP。

追求性能的 CISO 所面临的 AI 网络安全困境

在技术层面上,当前一代 AI 部署缺乏安全性的一个简单原因在于:性能。

AI 模型计算是资源密集型任务,直到不久前几乎仍是计算集群和超级计算机的专属领域。如今情况发生变化,八核第四代英特尔® 至强® 可扩展处理器等平台为 Dell Technologies PowerEdge R760 等机架服务器提供强大支持,能够同时高效托管多台 AI 模型服务器(图 1)。

Dell 机架服务器图片
图 1。Dell PowerEdge R760 等机架服务器可以同时托管多台高性能英特尔® OpenVINO 工具套件模型服务器。(来源: Dell Technologies

然而无论是托管在边缘还是数据中心,AI 模型服务器都需占用平台大部分资源(如果并非全部)。这是以牺牲安全性等功能为代价的,安全性对算力的需求也很高,并且与部署模式几乎无关:

  • 部署模式 1——主机处理器:在同一处理器上部署 AI 模型服务器和防火墙或加密/解密等安全功能,会导致工作负载争夺 CPU 资源、网络带宽和内存。这会减慢响应时间、增加延迟并降低性能。
  • 部署模式 2——独立虚拟机 (VM):在同一主机处理器的不同虚拟机上托管 AI 模型和安全功能,会带来不必要的开销和架构复杂性,最终影响系统的可扩展性和敏捷性。
  • 部署模式 3——同一虚拟机:在同一虚拟机上托管两种工作负载类型,模型服务器和安全功能可能会暴露于相同的漏洞。这可能会加剧数据泄露、未经授权的访问和服务中断风险。

CISO 需要新的部署架构,既能提供 AI 模型所需的性能可扩展性,又能够保其中的护敏感数据和 IP。

COTS 硬件上 AI 模型代理的安全性

另一种方法是,将 AI 模型服务器和安全工作负载托管在不同的系统上。这样可提供足够的资源,避免 AI 任务发生不必要的延迟或性能下降,同时在推理、安全运行和 AI 模型本身之间进行物理分离。

随后挑战变为物理占用空间和成本。

发布 意识到这一机会后, 全球领先的应用交付架构厂商 F5 Networks, Inc. 与英特尔以及提供广泛产品组合全球领先的 OEM 公司 Dell 合作开发一种解决方案,以单一的商用现货软件 (COTS) 满足上述要求。基于搭载第四代英特尔至强可扩展处理器的 Dell PowerEdge R760 机架服务器,F5 集成了英特尔® 基础设施处理器(英特尔® IPU)适配器 E2100(图 2)。

英特尔 IPU 适配器图片
图 2. 英特尔® 基础设施处理单元(英特尔® IPU)适配器 E2100 从主机处理器分载安全操作,释放资源用于 AI 训练和推理等其他工作负载。(来源: 英特尔

英特尔® IPU 适配器 E2100 是一款强大的基础设施加速卡,可提供 200 GbE 带宽、x16 PCIe 4.0 通道及内置加密加速器,结合先进的数据包处理管道以满足线路级安全需求。该卡的标准接口可与 PowerEdge R760 等服务器原生集成,而 IPU 具备足够的计算能力和内存,可托管 F5 NGINIX Plus 等反向代理服务器。

NGINX Plus 基于开源 Web 服务器构建,可作为反向代理服务器部署,以拦截和解密/加密进出目标服务器的流量。这种分离有助于缓解 DDoS 攻击,但也意味着加密操作可以在 AI 模型服务器主机以外的地点进行。

F5 Networks NGINX Plus 反向代理服务器提供 SSL/TLS 加密,并在未经身份验证的推理与 R760 上运行的英特尔® OpenVINO 工具套件模型服务器之间提供安全气隙。除了作为反向代理服务器运行外,NGINX Plus 还提供安全控制、负载平衡、内容缓存、应用程序监控和管理等企业级功能。

简化 AI 模型安全。聚焦 AI 价值。

AI 备受瞩目,但其潜在部署风险却常被忽视。任何期盼获得竞争优势的企业都必须在其技术堆栈中迅速集成和部署 AI 解决方案。然而买家避免后悔的关键在于,还必须认识到 AI 应用伴随的安全风险。

在专用 IPU 上运行安全服务不仅可简化安全 AI 的部署,还能通过在 AI 和安全开发团队之间建立明确的隔离,以增强 DevSecOps 管道。

也许我们根本不会花太多时间担心 AI 安全。

 

本文由 insight.tech 的编辑主管 Georganne Benesch 编辑。

英特尔® 至强® 6 处理器让 AI 无处不在

全球各个组织通过部署 AI 来提高运营效率及其在市场中的竞争力。我们与英特尔产品管理、网络和边缘事业部副总裁 Mike Masci 以及英特尔副总裁兼至强和计算产品总经理 Ryan Tabrah 就全新英特尔® 至强® 6 处理器进行了交流。Mike 和 Ryan 讨论了以可持续性更强的方式推动无缝可扩展基础设施发展的重大改进,这是让 AI 无处不在(从数据中心到边缘)的必备要素。

为什么英特尔至强 6 处理器的发布对英特尔、合作伙伴以及客户如此重要?

Ryan Tabrah:这款处理器的发布是许多因素共同的结果,其中包括从制造流程开始回归我们交付技术的本源,构建可以满足未来需求的 AI 数据中心。我认为英特尔至强 6 以合适的时机满足了客户的需求,使他们可以继续使用自己的解决方案进行创新,并以前所未有的方式构建数据中心。英特尔至强 6 处理器中的 E-core(能效核)经过优化,可最大限度地提高性能功耗比,同时 P-core(能效核)能够为当今数据中心普遍存在的计算密集型工作负载提供更强的每核性能。

Mike Masci:我们认为至强 6 不仅是一次升级,而且是 AI 驱动计算基础设施的必备要素。现有数据中心的性能功耗比并不足以让客户根据 AI 驱动时代的需求扩展数据。无论网络是否需要处理从边缘 AI 到云 AI 的海量数据,这款处理器都能在更高的效率和更强的性能下实现这个目标。在数据中心,它使基础设施能够满足 AI 的性能需求,同时能够实现线性扩展。

开发人员希望至强 6 平台具有从边缘到云端的一致性,而且可以从非常高端的产品扩展到更注重成本和功耗的低端产品。由于任何降低效率或产生障碍的因素都会减少花费在 AI 技术开发上的时间,因此他们希望获得完全无缝的体验,无需将不同的架构和系统配合使用。

英特尔至强 6 是首款同时配备 E-core(能效核)和 P-core(性能核)的英特尔至强处理器。它的工作负载和相关用例有哪些例子?

Mike Masci:首先,E-core(能效核)专为数据中心级工作负载设计和构建,可在经过优化的密度和功耗水平下提供高性能。这对我们的客户来说是一项巨大的优势,因为它具有可组合性,而且能够将适合各种工作负载的产品分配到合适的位置,无需承担复杂管理和部署所需的支出。

在网络边缘部署与数据中心内部相同类型的工作负载正逐渐成为常态。人们希望能够在不同位置使用相同的基础设施,以便更快速、更轻松地进行部署。长期而言,这样可以节省资金。

最重要的工作负载是云原生工作负载。英特尔至强 6 E-core(能效核)能够出色地处理此类工作负载。对于在网络和边缘侧充分利用其优势的用例,5G 无线内核是我们最重要的细分市场之一。前几代产品是固定功能的专有硬件,采用 NFV(网络功能虚拟化)和 SDN(软件定义网络)的原理,而现在正向云原生技术转型。正因如此,英特尔至强 6 处理器经过优化的多线程性能功耗比极其重要。

对于配备 P-core(性能核)的英特尔至强 6 的其他边缘应用而言,客户对英特尔® Advanced Matrix Extensions(英特尔® AMX)技术充满期待。具体而言,其 P-core(性能核)中固有的专用矢量 ISA 指令使他们可以在边缘进行轻量级推理,因为在边缘,客户可能没有属于训练集群典型配置的大规模 GPU 的功耗预算。AMX 的强大之处在于,对软件开发人员而言,它可以无缝运行,而且借助 OpenVINO 和我们的 AI 套件等工具,无需了解如何对特定 ISA 进行编程,即可充分发挥 AMX 的优势。

Ryan Tabrah:实际情况是客户无法配置功耗更大或体积更大的加速器,边缘尤其如此,因此可以依赖已经集成到英特尔至强 6 P-core(性能核)家族中的更紧凑解决方案。

视频是另一个典型用例。只有可以轻松地扩展并提取视频并将其推送给最终用户,客户才能盈利。这就是我们专注于通过整合机架来运行更大视频工作负载的原因之一。与前几代产品相比,通过三合一的机架整合,可以在相同的性能下传输相同数量的视频。数据中心的性能更强、能效更高,能够以更少的设备和更大的密度为更多的客户提供服务。客户可以在 5G 网络的边缘采用相同的基础设施,在这里缓存视频并将其推送给最终用户。

您能否谈谈英特尔至强 6 在特定细分市场和用例中的应用?

Mike Masci:以医疗保健为例,该领域需要大量数据来训练医疗图像模型。为了获得可操作的数据和洞察,需要在云端训练模型,并在边缘有效运行。需要运行 RAG(检索增强生成)等功能,确保模型能够执行预期功能,辅助诊断方面尤其如此。那么需要重新训练模型时,会发生什么情况?边缘设备会向云端发送更多数据,在那里对其进行重新训练,然后将其重新发送到这些边缘设备。对于开发运维和机器学习运维领域的开发人员来说,整个流程就是一门完整的学科,而且可能是当今 AI 领域最重要的学科。

我们认为,如果能够获得经过训练的模型,将其部署到边缘,然后由边缘给模型重新提供数据,在云端进行训练,那么 AI 的真正价值才真正得到了发挥。对许多开发人员来说,将模型部署到可扩展系统上非常重要。

Ryan Tabrah:此外,世界各地的医疗保健机构也有许多老旧代码和应用程序,它们采用的是他们不愿升级或采取任何措施的内核。他们希望能够迁移这些工作负载,甚至将其容器化,将其迁移到无需进行任何更改即可直接运行的系统上。我们利用开源工具帮助他们更新了部分基础设施,新建了可以满足未来需求的数据中心,并与旧应用程序基础进行了连接。

这就是它的神奇之处,客户无需从头开始。医疗保健机构可以利用所有旧数据和旧应用程序执行全新的功能。这就回到了 Mike 刚才所说的,只要有一个从边缘到云端的统一平台,以便在电脑上进行开发,就不用担心这个问题。

至强 6 可以为客户带来哪些可持续发展优势?

Mike Masci:我们的部分网络和边缘工作负载的性能功耗比有显著提升。其性能功耗比是第二代英特尔® 至强® 可扩展处理器的 3 倍。简而言之,如果性能功耗比高达 3 倍,就可以将所需的服务器数量减少三分之二。这不仅可以节省 CPU 功耗,还可以节省整个系统的功耗,包括开关、机架本身的电源以及所有外设。

英特尔的使命就是推动这种可持续发展机制,因为 CPU 性能功耗比在很大程度上决定了客户在部署整体硬件方面的选择。

我们与 5G 内核领域领先的独立软件供应商爱立信的合作就是一个很好的例子。在爱立信内部的 5G 内核 UPF(用户平面功能)真实世界测试中,与上一代产品相比,其性能功耗比提升了 2.7 倍。更重要的是,在拥有 200 万订阅者的控制平面,与上一代产品相比,爱立信为相同数量的订阅者提供支持所需的功耗降低了 60%。这又回到了性能功耗比和可持续发展的范畴。它也显著节省了运营成本,对全球大有裨益。我们通过爱立信的例子证明,这不仅有可能,而且可以变为现实。

在这个方面,我们有基础设施功耗管理器,可以根据实际使用情况对 CPU 功耗和性能进行动态编程。例如,当负载较低时,CPU 会自行降低功耗。因此,整个产品线的负载线路性能有了巨大提升。当今的大多数服务器无法始终得到充分利用。英特尔至强 6 等英特尔 CPU 能够根据低利用率场景显著降低功耗,减少了整体功耗需求,从而提高了平台可持续性。

这看似一项基本要素,但难度超乎想象。需要在操作系统层面进行优化,才能充分利用这些电源状态。需要确保拥有合适的服务质量和 SLA 以及充足的正常运行时间,这一点非常重要。

Ryan Tabrah:我们在制造、验证实验以及制造供应链方面所做的努力,证明了我们在可持续发展方面的领先地位。如果客户知道他们使用的是英特尔芯片,他们就能确信,芯片的开发、测试、验证或制造都是以可持续性更强的方式完成的。我们在在全球各地制造产品时对水资源以及其他资源进行重复利用,对环境给与保护,我们在这个方面也持续处于领先地位。

英特尔至强 6 也为我们的客户提供了实现可持续发展目标的机会。由于英特尔至强 6 的核心数量大、效率高,我们的客户可以更换其数据中心的老旧服务器,将其整合为更少的服务器,从而减少需要能耗和占地空间。

请您介绍一下数据安全以及英特尔至强 6 的哪些增强功能使开发人员可以更轻松地构建更安全的解决方案。

Mike Masci:安全增强功能非常重要,对网络和边缘来说尤其如此,而我们的 SGX 和 TDX 技术的推出则是对它的一大补充。对客户来说,特别是在 AI 驱动的时代,成熟的技术在安全生态系统中极其重要。模型需要具备安全性。例如,如果要运行多租户,就需要设置安全区,这在云原生驱动的时代变得极其重要。总体而言,显而易见的是,英特尔至强 6 采用的成熟安全技术是一项差异化优势。

Ryan Tabrah:我们将安全作为基础构建模块,从头开始构建英特尔至强 6 及其平台。我们的几代至强都是如此,使机密计算尽可能成为合作伙伴生态系统中简单的基本要素。我们在英特尔至强 6 中引入了最新的量子电阻和平台增强技术,使客户能够通过安全性、隐私性和合规性实现业务目标。

您最后还有什么要补充的吗?

Mike Masci:英特尔至强 6 对边缘和网络 AI 来说必不可少。我们认为,构建一个简单顺畅的平台并通过可组合性轻松处理多种工作负载,这个理念已经获得了极大的成功。对我来说,这是英特尔至强 6 所蕴含的关键信息。它无缝且可扩展,因此可以在边缘运行与数据中心相同的应用程序,而无需担心在哪些硬件上运行。

Ryan Tabrah:我同意。在数据中心电力不足的不同环境和地区,无论是因为建设速度不够快,还是存在新的限制因素和清洁能源要求,情况尤其如此。我们提供了从边缘到数据中心的解决方案,对客户来说,其优势是显而易见的。

我认为,最佳验证方法就是客户的反馈。他们需要的不止如此。他们希望借助我们的力量实现更多的目标。他们不仅希望我们能够尽快优化处理器,而且希望我们尽快构建新一代处理器。英特尔在电信、边缘建设、基础设施建设和数据中心等关键领域占据领先地位,他们对此感到振奋不已,我们也很高兴能够与他们共同引领行业发展。

 

本文由 insight.tech 的编辑主管 Christina Cardoza 编辑。

多感官 AI:减少停机时间并提高效率

当您在路边等待拖车时,是否总会意识到自己忽略了 75,000 英里的调校和安全检查?“检查机油”灯和低胎压警报可以避免危险情况,但您仍然可能遇到令人沮丧且耗时的故障。如果将这种不便和生产力损失扩展到工厂环境,相对应的机器故障可能导致代价高昂的停机。

这就是预测性维护的作用所在。机器学习可以分析正常工作流程中的模式,并及时检测异常以防止发生代价高昂的停机;但如果是新设备,没有现有数据可供 AI 学习,会发生什么情况?是否可以将人类在应对新情况时的某些优良特质(尽管效率不高)用于基于机器的检查呢?

AI 视频分析提供商 iOmniscient联合创始人兼首席执行官 Rustom Kanga 针对上述问题和有关预测性维护未来的其他问题给出了一些答案。他谈到了传统机器学习在预测性维护中的局限性;现有基础设施何时可以成为预测解决方案的一部分,何时不能,以及 e-Nose 到底是什么(视频 1)

视频 1. iOmniscient 首席执行官 Rustom Kanga 谈论多感官和直觉性 AI 对预测性维护的影响。(资料来源:insight.tech

传统的预测性维护方法有哪些局限性?

今天,当人们谈论人工智能时,通常将其等同于深度学习和机器学习技术。例如,如果你想让 AI 检测一条狗,你需要有 50,000 张狗的图片并标记:“这是一条狗。那是一条狗。那是一条狗。那是一条狗。”训练好系统后,下次出现一条狗时,它会知道那是一条狗。这是深度学习的运作方式。

但如果你没有针对某些特定或独特类型的狗训练系统,那么它可能无法识别这类动物。这样你就必须重新训练系统。这种重新训练会一直持续,可能会永远训练下去。

维护系统的挑战在于,当你安装一些新设备时,你没有任何关于设备如何发生故障或何时发生故障的历史记录:没有任何数据可用于深度学习。所以,你需要能够在没有这些数据的情况下预测将发生什么事情。

我们所做的是自主、多感官、基于 AI 的分析。自主意味着通常没有人类参与,或非常少的人类参与。多感官是指人类使用眼睛、耳朵和鼻子来了解周围环境,我们也是这样做的。我们进行视频分析、声音分析和气味分析;这样我们就知道环境中发生了什么。

多感官 AI 方法如何应对您提到的一些挑战?

我们开发了一种称为直觉性 AI 的能力。人工智能就是模拟人类智能,而人类不仅仅使用记忆功能,这正是深度学习试图复制的东西。人类还使用逻辑功能。人类有演绎逻辑、归纳逻辑,使用直觉和创造能力来决定世界如何运转。这与人们期望的机器学习系统的运作方式截然不同。

作为一家公司,我们所做的是利用人类的能力来指导系统该寻找什么,然后使用我们的多感官能力来寻找这些迹象。例如,如果安装了一条传送带,我们想知道它何时可能发生故障,那么我们会寻找哪些迹象来预测它工作不正常呢?我们可能会听它的声音:当它开始发出“叮当、叮当、叮当”的声音时,说明出现了问题。因此,我们使用视觉、听觉和嗅觉来判断它在任何给定时间的运行情况,以及是否出现任何预示即将发生故障的迹象。

你们如何训练 AI 来做到这一点,并且是准确做到这一点?

我们告诉系统人类可能会看到什么。例如,假设我们正在检查一些设备,最可能出现的故障情况是生锈。我们就会告诉系统寻找锈迹或颜色变化。如果系统发现有锈迹在扩大,它会告诉我们出现了问题,是时候考虑更换或维修机器了。

直觉性 AI 不需要大量数据。可能 10 个或更少的数据集示例就可以训练我们的系统。由于需要的数据集很少,因此不需要大量计算,也不需要 GPU。我们完全在标准英特尔 CPU 上运行,并且仍然可以实现高准确性。

我们最近为无人驾驶列车实施了一个系统。客户希望确保没有人因为走在列车前面而受伤。这实际上只需要一个简单的入侵检测系统。事实上,摄像头公司在其摄像头中嵌入了入侵检测系统。并且铁路公司已经有所行动,他们从一家非常有信誉的公司购买了一些摄像头来进行入侵检测。

唯一的问题是,每个摄像头每天会发出大约 200 次误报,这使得整个系统无法使用。因此,他们设定了一个标准,希望整个网络不要出现超过一次的误报。我们能够为他们实现这一目标,并且在过去五年一直为他们的列车提供安全系统。

你们的解决方案是否需要安装新的硬件和设备?

我们可以使用任何人的摄像头、任何人的麦克风,当然,摄像头必须能够拍到你希望被看到的画面。然后我们提供智能。我们可以使用现有的基础设施来获得视频和声音。

不过,嗅觉是一个非常独特的能力。没有人制造检测工业气味所需的嗅觉传感器,因此我们自行研发了 e-Nose 来提供给客户。这是一个独特的设备,其中包含六个左右的传感器。当然,市场上有可以检测单分子的传感器。例如,如果要检测一氧化碳,可以购买相应的传感器来实现。但大多数工业化学品要复杂得多。即使一杯咖啡也含有大约 400 种不同的分子。

您能否分享任何其他展示 iOmniscient 解决方案实际应用的用例吗?

我给你举一个例子,展示这样的系统在速度方面的真正价值。由于我们不需要标记 50,000 个对象,我们实际上可以非常快速地实现系统。我们曾经被邀请到一个机场检测其垃圾房中的问题 — 这些房间在机场下方,用于收集来自机场本身和在机场降落的飞机的垃圾。这个机场有 30 或 40 个垃圾房。

当然,有时垃圾袋会破损,垃圾箱会溢出,机场需要一种方法来确保这些垃圾房保持整洁。所以他们决定使用人工智能系统来实现这一目标。他们邀请了大约八家公司来进行概念验证。他们说,“花四周时间训练你们的系统,然后给我们展示你们能做什么。”

四周后,没有人能展示任何成果。他们说,“花八周时间吧”。然后又说,“花十二周时间吧”。没有一家公司能够实际开发出有任何准确性的系统,就是因为涉及的变数太多。

最后,他们找到了我们,问我们说,“你们能来展示一下你们的能力吗?”我们在周二下午派了一名工程师过去,到了周四上午我们就能够演示准确率接近 100% 的系统。系统的实现速度如此之快,而且不需要使用 50,000 组数据进行训练。不需要大量计算,也不需要 GPU。这正是直觉性 AI 的美妙之处。

与英特尔及其技术合作的价值是什么?

我们与英特尔独家合作,在过去 23 年一直是他们的合作伙伴,与他们保持着非常紧密且意义重大的关系。我们可以信任英特尔生产的设备;我们了解它的工作原理,并且知道它会始终发挥作用。设备还向后兼容,这对我们来说非常重要,因为客户购买产品是为了长期使用。

多感官直觉性 AI 的理念在 iOmniscient 是如何演变的?

当我们刚起步时,许多人使用标准视频分析、视频运动检测等技术来了解环境。我们开发的技术能在非常困难、拥挤和复杂的场景中发挥作用,这使得我们在市场中占据了有利地位。

今天,我们能做的远不止于此。我们可以实现人脸识别、车牌设备,这些都受到隐私保护。我们开发基于视频、声音和气味的系统。技术不断发展,我们努力保持在前沿。

例如,在过去,所有这些分析都要求传感器是固定的;如果使用摄像头,就必须将其固定在杆子或墙上。但是,当摄像头本身在移动时会发生什么情况,如果是行人佩戴的摄像头或者摄像头在无人机或行走的机器人上又会怎样?我们已经开始研发能够在这些移动摄像头上发挥作用的技术。我们称之为“野性 AI”。

另一个例子是,我们最初开发了面向工业应用(例如废物管理工厂和机场厕所)的嗅觉技术。但我们也发现,我们可以使用相同的设备来嗅探人呼吸的气味,并检测早期肺癌和乳腺癌。

我们现在还没有推出此类产品;我们正在进行临床测试和临床试验,这是将其作为医疗设备推出所必须经历的流程。但这就是未来的方向。无法预测。20 年前,我们无法想象会开发用于癌症检测的设备,但这正是我们目前的发展方向。

相关内容

要详细了解多感官 AI,请收听多感官 AI:预测性维护的未来,并阅读多感官 AI 彻底改变实时分析。有关 iOmniscient 的最新创新,请关注 X/Twitter 上的 @iOmniscient1 以及他们的 LinkedIn 主页。

 

本文由文案编辑 Erin Noble 编辑。

3D LiDAR 提供空间智能

想象一下您上次在繁忙的城市中心参加音乐会或类似大型活动的情况。您可能很难找到停车位或在门口接受安全检查。在特许经营摊位或洗手间排队并不容易。消除这些烦恼将极大地改善访客体验。对活动组织者也有帮助。

这就是为什么机场、市政府和娱乐场所押注 LiDAR(光线检测和测距)的原因,这是一种专门适合提供空间智能的脉冲激光技术。使用 LiDAR 不仅提供人员和车辆数量的信息,而且提供流动和交互信息。这意味着组织者可以实时保持安全,发现并缓解瓶颈。

3D LiDAR 的优势

“在大型基础设施现场和活动中,安全和人群管理并不容易,但这些正是 LiDAR 特别擅长的工作。” Outsight 总裁兼创始人 Raul Bravo 表示。Outsight 是一家 3D LiDAR 解决方案的领军企业

“虽然说到监控设备,大多数人可能会想到 CCTV 和 IP 视频摄像头,但其二维能力仅限于跟踪三维物理世界。” Bravo 表示。“与传统计算机视觉不同,LiDAR 无法判断一个人穿的是红色衬衫还是绿色衬衫,但它知道该人的速度或位置,同时以 3D 捕获的形式提供数据。”

由于 LiDAR 的能力,数字孪生已经利用该技术获取物理世界的数据有一段时间了。“正在的情况是使用 LiDAR 技术不仅可以映射静态物理世界,还可以实现人员和车辆实时流动的数字化。” Bravo 表示。

组织也感到放心的是 LiDAR 是原生匿名解决方案。由于 LiDAR 不捕获图像,仅捕获物体的距离,因此隐私受限于定义。在不拍摄人照片的情况下监控人群,维护隐私是满足一系列政府法规的关键。

3D LiDAR 数据处理挑战

虽然 LiDAR 具有许多优势,但处理由此产生的数据并不容易。将 3D 空间智能数据接入传统计算机视觉技术中,结果很糟糕。相反,“必须创建特定的算法和技术来解决这种特定类型的问题。” Bravo 表示。

LiDAR 产生的庞大数据量也充满挑战。“当我们在全球一些最大的机场部署 LiDAR 时,我们同时拥有数百个 LiDAR 单元。” Bravo 表示。“每个单元的数据相当于一百人直播 Netflix。”

LiDAR 领域的设计、模型和制造商的多样化也是一个问题。Outsight 平台解决所有这些挑战,并适用于任一 LiDAR 制造商或型号。该解决方案开发了鲜活的数字孪生,以足够快的速度提供关于物理世界的信息(每秒 20 次),从而实时提供洞察。这些洞察可以传递给合适的人,并采取报警提醒的形式。

视觉-空间智能用例

Outsight 可以帮助解决的问题适用于智慧城市、交通枢纽和国际活动。如果机场行李托运区过于拥挤,该解决方案可以提醒下游高级职员,安检排队可能存在交通堵塞,然后他们可以安排工作人员。

例如,华盛顿州贝尔维尤市,使用 Outsight 的 LiDAR 解决方案来检测车辆过于靠近自行车或行人时,在十字路口近乎发生事故的问题。LiDAR 尤其适合夜间捕捉此类事件。这些信息帮助该城市采取更主动的措施,如更清晰的车道标记,以实现到 2030 年消除交通事故和严重伤害的目标。Outsight LiDAR 还可以帮助智慧城市实时解决交通流量问题。例如,如果车辆使用错误的车道并入车流,闪灯可以提醒驾驶员纠正错误。

在大规模管理人员和车辆的物理流量时,您必须确保流畅的访客体验和卓越运营。关键性能指标,如售票窗口排队的长度和花费时间,将至关重要。

在 2024 年巴黎奥运会上,Outsight 的 LiDAR 解决方案在安全和人群管理方面提供了帮助。Outsight 再次在 Tomorrowland 上投入服务。这是每年在比利时举行的全球最大音乐节之一,每年吸引数十万观众。

空间智能的技术基础设施

空间智能是关于物理世界的数字化并从中创造洞察。实现这一目标需要能够高效处理大量数据的处理能力。Outsight 依赖于英特尔产品和技术来大规模部署其解决方案。

“您需要特定且高效的软件算法,使用基于 CPU 而不是基于 GPU 的解决方案来提高能效。” Bravo 表示,这是英特尔 CPU 派上用场的地方。

至于未来,Bravo 对物理世界(除了智慧城市、机场和场所之外)数字化的众多可能机会感到兴奋。“您可以获得以前从未想象过的丰富独特洞察和智能。” Bravo 表示。“我们正在进入数字化转型的新世界。”

 

本文由 insight.tech 的编辑主管 Georganne Benesch 编辑。

IPC 加速了医疗设备制造商的上市时间

AI 驱动的医疗设备可以在护理的各个阶段发挥重要作用:从诊断工具到 AI 增强的数字手术室,以及可增强患者康复的术后 AI 分析。

对于医疗设备制造商来说,这是一个前所未有的机遇。但为了抓住这一机遇,他们需要找到创新的方法,以缩短开发时间,克服硬件集成挑战,并满足医疗行业的严格认证标准。

为此,制造商正在转向专为医疗 AI 用例构建的工业电脑 (IPC),以降低风险和不确定性。

“在一个产品生命周期较长的行业中,医疗设备制造商对试图将复杂的 AI 技术融入到其解决方案中持谨慎态度”,领先的物联网智能系统和嵌入式平台提供商 Advantech产品管理副总监 Emily Teng 表示。“构建专为医疗 AI 设计的成熟的硬件平台,有助于简化流程和加快上市时间。”

为了适应广泛的用例,Advantech 医疗平台的设计考虑了合规性和定制性。这使设备制造商处于“两全其美”的状态,因为他们可以通过 OEM/ODM 和联合开发模型来访问可现成使用的计算平台。

AI 医疗设备的开发模型

Advantech 与两家医疗解决方案提供商的合作突出了 IPC 对设备制造商的优势,并展示了他们如何根据需要支持不同的产品开发模型。

在一个案例中,OR 解决方案集成商试图使用 ODM 方法开发新的视频解决方案。但它担心自定义硬件设计可能带来的潜在责任,并努力应对所涉及的工程挑战。

为了解决这些问题,制造商决定使用 Advantech USM-500 计算机作为其新解决方案的基础。因为 USM-500 旨在满足IEC 60601-1 (其中规定了医疗设备的电气安全标准)以及电磁兼容 (EMC) 标准(防止对其他设备的干扰)等合规要求。这意味着公司不必经历耗时且昂贵的硬件认证过程,也不必承担额外的责任。结果是显著加速了推出:从 RFQ 到大规模生产,仅用了 6 个月的时间。

“希望避免冗长的认证过程的制造商可以‘按现状’使用我们的解决方案,因为从计算系统到视频捕获和网络接口控制器卡,所有一切都针对医疗用途进行了完全配置和认证”,Advantech 的解决方案架构师 Matt Wieborg 表示。“但一些客户需要更大程度的自定义设置,所以我们设计了具有广泛的扩展能力的 IPC,这提供了强大的底层基础,具有足够的灵活性,使制造商能够微调他们的需求,并相对轻松地实现生产。”

例如,另一家医疗设备制造商计划使用具有高功耗要求的视频捕获卡和更加交互式用户界面构建解决方案。

Advantech 的设计团队与该公司的工程团队合作,共同打造量身定制的设计。他们在单元的前边框中内置了一个 10 英寸的 LCD 显示屏,以解决 UI 要求。为了支持客户首选视频捕获卡的功耗需求,Advantech 相应调整了单元的 I/O。结果是一个性能强大的解决方案,它利用 IPC 的核心功能,同时提供制造商所需的定制。

确保临床边缘的稳定性和安全性

当医疗设备制造商利用经过测试的计算平台构建时,他们能够更高效地将其解决方案引入到临床环境中。由于这些平台由硬件专家设计,因此还有数据安全和产品寿命优势。

例如,Advantech 通过多种方式帮助合作伙伴增强网络安全和数据隐私。它已向设备制造商介绍基本硬件行业最佳实践,例如使用可信平台模块和内置加密引擎,以确保更好的网络安全。通过在边缘提供高性能处理,它还可以通过减少发送到云端进行处理的患者数据量来增强隐私。此外,Advantech 可帮助设备制造商更轻松地安装安全补丁和操作系统更新。

在解决方案稳定性方面,Advantech 与英特尔的技术合作伙伴关系尤其具有优势。

Wieborg 表示:“英特尔的产品组合在边缘 AI 用例方面表现出色,涵盖了我们医疗设备制造所需的全部需求范围,从低功耗处理一直到服务器类计算”。“此外,拥有可靠且具有较长寿命的平台在这一领域尤为重要。因为英特尔解决方案的稳定性,我们有很多买家会考虑它们,而且他们知道英特尔将在未来许多年里都支持这些产品。”

合作伙伴关系是医疗 AI 的未来

符合监管规定、灵活的医疗级硬件将帮助越来越多的医疗设备制造商将 AI 融入到其产品中。反过来,这将有助于推动更广泛的 AI 产品生态系统,其中医疗解决方案专家和硬件提供商之间的合作关系至关重要。

鉴于医疗保健环境中的 AI 实施的种类繁多,这对设备构建商来说是一个巨大的帮助,他们需要具有不同配置、环境条件、监管要求和计算规范构建经验的硬件专家的支持。

但 Advantech 表示,医疗电脑制造商也将从这些合作伙伴关系中受益:

Wieborg 表示:“我们很荣幸能够与众多顶级医疗设备制造商合作。”“客户的声音确实指导着我们的产品线;客户遇到问题,我们想出解决方案,这就是我们在未来继续取得成功的方式。”

 

本文由 insight.tech 的编辑主管 Georganne Benesch 编辑。

利用 3D LiDAR,释放新潜能

我们都熟悉雷达的概念。但您是否记得,这个词实际上是“无线电检测和测距”的首字母缩写,已经摆脱了原来的大写形式,成为常用名词和常用概念?(以及电视剧 M*A*S*H(陆军野战医院)中一个备受喜爱的角色。)那么,相关但更具技术感的“LiDAR”是什么?这代表“光检测和测距”,实际上不是一项新技术,但最近越来越吸引人们的兴趣,特别是在自动驾驶汽车和地面测绘方面,不过它的用途远远超出了自动驾驶汽车和考古学。

最近,我们与 AI 驱动的 3D LiDAR 解决方案提供商 Quanergy Solutions 市场开发和联盟副总裁 Gerald Becker 进行了交谈。他见证了这项技术在汽车行业之外的发展,并横跨许多不同的行业和企业。他谈到了 LiDAR 如何提高运营效率和工作流程,从二维转向三维的优势,以及说服人们采用新技术的挑战(视频 1)。也许有一天,LiDAR 将成为我们生活的一部分,我们将会在字典中看到它,即“LiDAR”。

视频 1. Quanergy 的市场开发和联盟副总裁 Gerald Becker 在“insight.tech Talk”谈到了 3D LiDAR 的崛起和进步。(资料来源:insight.tech

LiDAR 在自动驾驶汽车之外有怎样的发展?

LiDAR 已经存在了几十年,但直到过去 10 年左右,我们才真正看到它的能耐。大家都知道 LiDAR 用于汽车、机器人及地面测绘,但也有很多其他应用。

Quanergy 专注于另外一个市场,我们与来自物理安全、集成管理平台、视频管理、软件解决方案、摄像头、商业智能和物理访问控制系统的知名企业协调合作。他们将我们的传感器集成到他们的平台中,以提供各种事件到操作的工作流程。它使最终用户能够探索如何以不同的方式解决旧问题,并获得他们以前从未有过的高准确水平,以及解决新的问题。

我在 Quanergy 负责物理安全、智能空间和智慧城市领域,这三个市场具有非常高的 3D LiDAR 适用性,因为它们一直只限于使用摄像头或其他类型的物联网传感器,即 1D 或 2D 技术。3D 技术以及我们在过去几年中开发的集成生态系统的出现提供了更多的灵活性,能够超越二维范畴,看到超越这一空间常见传感习惯以外的东西。

这种新的维度深度如何使企业受益?

例如,在安全领域,我们正在做一些非常大的事情,主要使用雷达、摄像头以及视频分析,其中我们的 3D 传感器现在可以提供 360° 的深度和体积,具有厘米级准确性。与所有传统技术相比,这提高了 TCO 优势,并减少了误报数量。

在传统技术中,只要有运动或有分析技术跟踪潜在违规情况,就会自动开始触发事件。当有成千上万个警报时,那就是一个大问题,因为分析技术不了解如何破译那只是一只动物走过而已。我们的传感器能够提供 98% 的 3D 空间检测、跟踪和分类准确度。

从业务智能方面,我们能够对空间内发生的事情提供更高级别、更深入的了解。以零售业为例。我们可以了解一个消费者在旅程中的位置、走哪条道路、接触哪些产品、排队有多长。

您不是把摄像头放在这里、这里、这里、这里,然后把摄像头全部连接起来,而是放置一个 LiDAR 传感器,就能实现全 360° 视角,可以看到整个空间,了解在这些空间,人们如何交互。我们能够提供如此众多的酷炫成果,而没有 2D 传感技术,就一直无法实现这些成果。

LiDAR 在采用方面面临哪些挑战?

我认为,对于 LiDAR,如果一项新技术超出了某些人的舒适区,那么该技术的采用会让他们感到有点紧张。当我解释 LiDARs 看到什么时,我总是回到我最喜欢的电影《黑客帝国》。记得吗 Neo 看到一和零从天空中掉下来,当时他在大厅里看到特工 Smith?这就是我们所看到的。我们不会像摄像头那样看世界,你可以看到我穿着一件蓝色马球衫。对我们来说,一切看起来都像是 360 度深度和体积的 3D 剪影。

还有成本。必须从高层次来看待。我总是使用我年轻时从更高级销售人员那里听到的这个类比——整个冰山理论。在比较不同解决方案的成本时,您不能只看冰山尖端。一台摄像头可能只有几百美元,而 LiDAR 可能只有几千美元,还有软件等等。

但底层成本在冰山之下,对吧?在一侧安装 7 到 8 个摄像头与在一个设备上安装相比,需要什么?看看劳动力;看看部署这些摄像头所需的管道、电缆、许可以及维护成本。当您了解在该领域安装传统技术与新技术的复杂程度时,LiDAR 就变得非常具有成本效益。

企业如何利用其现有基础设施来实现 3D LiDAR?

无论何种解决方案,分层方法可能是最佳路径。世界上没有一项技术可以满足所有用例。有人试图向你推销?请转身就走,因为这是无法完成的。但当您将最佳解决方案整合到部署中时,就会获得最佳效果。

我们已经整合了一个庞大的技术合作伙伴生态系统。例如,我们与二维成像技术合作:摄像头,如博世、Axis、Hanwha。如果需要识别某件事,那么有一个穿着蓝色马球衫的坏蛋,有可能突破那个篱笆!摄像头可以帮助我们看到这一点。但当您需要实际检测、跟踪和分类时,LiDAR 便会带来新成果,而这仅靠摄像头是无法实现的。

假设您是在嵌入式摄像头上使用传统平移/倾斜/变焦自动跟踪。传统二维技术和自动跟踪的问题在于,当蓝色马球衫先生走到一个物体后面或进入另一个区域时,摄像头不知道发生了什么。

但是,如果您有足够的激光器在整个空间拍摄,看到整条过道、大厅和停车位,它们就能准确检测物体或人。有了我们的解决方案,我们可以告诉摄像头,“嘿,摄像头,聚集这堵墙。我们知道这个人在墙后。” 然后,当那个人从墙后出来时,我们仍在告诉摄像头追踪蓝色马球衫先生。

解决方案的另一个美好之处在于我们提供网状架构。如果空间中有足够数量的 LiDAR,只要激光器相互重叠,就会形成这个庞大的数字孪生。它为您提供其他技术从未实现的灵活性。您可以放大和镜头平移整条走廊、大厅、墙壁的另一侧、树周围或任意位置。

您能否介绍一些客户用例?

有一家全球数据中心公司找到我们,他们遇到了一个非常特殊的问题。他们在其一个站点进行为期 33 周的测试期间,产生了 178,000 个告警。现在这显然是水底捞针的情况,我和你说,当中只有两个告警是真实的。想想在安全实践中确认告警的操作:点击。审核。是不是?删除。尝试这样做 178,000 次,却发现一名因某事解雇而不应该进入大楼的不满员工带着 USB 驱动器进入大楼,将 USB 接入网络,并摧毁了一个十亿美元的公司。

这家公司的人都知道他们遇到了问题,并公开测试了所有东西——人工智能、雷达、事实核查技术、地下电缆。他们最终采用了我们的解决方案,并举行决赛:他们其中一个最佳网站与我们的网站。他们的最佳网站出现了 22,000 个告警;我们的网站产生了五个实际告警。这为他们节省了 3,6000 小时无意义的调查工作。

以下是另一个有趣的例子。佛罗里达州有很多吊桥。桥梁升高或下降,如果人员或车辆在过桥过程中意外落入水道,责任就会落在桥梁上。一些初步测试是利用安装在桥两侧的 LiDAR 解决方案完成的,基本上可以跟踪物体(人或车辆)是否进入现场。如果有事情发生,它可以阻止桥梁上升,或者在自助服务终端通知桥梁管理人员,并说,“不要升高桥梁。”他们使用 LiDAR 在 POC 方面获得了巨大成功,现在他们正将其部署在佛罗里达州的几座桥梁上。

请详细介绍与您合作的合作伙伴生态系统。

与大多数专注于 GPU 处理大量数据的 LiDAR 不同,我们略微独具一格。我们的传感器专为流量管理和安全应用而打造;它们不需要通过管道收集和推送大量数据。因此,我们采用基于 CPU 的架构,这样更具成本效益。它也是高度可扩展的,随着我们与英特尔的配合,更是如此。

我们与英特尔的合作关系也意味着我们每天都会发现新的用例。现在,我们正在探索实体和仓库自动化,在那里我们可以提供 3D 传感,超越了看待这些类型空间的传统方式。随着我们不断扩展和增长,与英特尔的合作关系对我们来说非常有价值。

您预计这个领域将如何发展?

AI 出现,以及大型学习模型的发展。目前,计算机视觉正在完成大量工作,并了解有关场景中剪切的内容,以了解更多的一般性情况,从而产生不同的效果,并讲述不同的故事,最终实现最终结果。是好人还是坏人?是良好的工作流程还是不好的工作流程?

因此,随着我们将 LiDAR 与 AI 技术结合,可以实现更多功能,从而提供尚未实现的额外成果。我们仍处于早期阶段,但这个领域确实存在巨大的机会。

对于 LiDAR,我们已经过了早期阶段,即检测阶段,现在有很多人在谈论它如何增加工作流程并提供额外价值。我认为,现在比以往都更应该采取行动并开始测试,开始提出问题:LiDAR 可以为我做什么,而我以前无法做到?看看现有用例并问问自己:如果我有深度、如果我有体积、如果我有厘米级准确性,那么如何改善我的日常工作流程、工作,并为整个组织提供更多的价值?

相关内容

要了解有关 3D LiDAR 的更多信息,请观看利用 3D LiDAR 应用程序,看到更大画面。有关 Quanergy 的最新创新,请在 X/Twitter @quanergyLinkedIn 上关注。

 

本录音文稿由 文稿编辑 Erin Noble 编辑

使用图像采集盒测试车载摄像头

驾驶车辆时,清晰的视野至关重要。

无论环境条件如何(刺眼的强光、弱光或是雨天),在道路上避让其他车辆、行人或障碍物时都不容有失。得益于技术的进步,高级驾驶员辅助系统 (ADAS) 中嵌入的视觉解决方案可帮助人类驾驶员检测这些物体。

配备了 ADAS 的车辆中的视觉系统包括一组摄像头,可串流来自道路和车内的实时视频。计算机从该视频流中捕获帧,并将其提供给视觉处理器进行分析。

汽车视觉系统面临的挑战

尽管视觉系统在 ADAS、自动驾驶和电动汽车中发挥着重要作用,但业界缺乏一套一致的标准来评估它们。此外,传统视觉系统难以很好地应对环境条件。鉴于车辆的有效视觉的重要性,车载摄像头在整合到 ADAS 解决方案中之前,需要在实验室和生产过程中进行全面测试。此类测试是图像采集盒的工作,图像处理系统提供商 EyeCloud首席执行官兼创始人 Po Yuan 表示。

在行驶的车辆中,计算机从视频中捕获静态帧,并将其交给视觉处理器。图像采集盒在摄像头的研发环境和预生产测试中执行相同的功能。“摄像头是单独生产的模块,最终组装到车辆上。但在此之前,需要对其进行校准、测试和质量控制”,Yuan 表示。

图像采集盒用例

图像采集盒可在实验室环境中评估摄像头的功能,帮助测试摄像头能否在弱光或其他边缘条件下提供清晰的图像。

在生产阶段,制造商还需要校准摄像头,确保其对焦并提供不失真的图像。图像采集盒在此阶段也可以提供帮助。“制造商将摄像头连接到我们的图像采集盒,并对图像进行评估,这样他们就可以交互式地调整摄像头”,Yuan 说。

在工厂进行老化测试,以了解摄像头在长时间连续串流条件下的表现,是图像采集盒的另一个用例。摄像头一次运行长达 144 小时,图像采集盒确保摄像头可靠地捕获图像,不会丢帧。“如果有丢帧,摄像头将被视为不合格”,Yuan 表示。

图像采集盒还可以帮助收集现实世界数据,以进行算法开发。在这种情况下,摄像头安装在车上,图像采集盒同步捕捉标志、行人和自行车等数据。“路标检测和行人检测算法需要海量数据。在 AI 世界中,数据是关键,我们的图像采集盒有助于数据收集”,Yuan 表示。

图像采集盒的实际要求

虽然图像采集盒在车载摄像头的生产阶段提供了许多实用功能,但它们还必须应对几个挑战。

首先,它们需要便于携带,以便轻松用于数据和测试。其次,它们需要与多个摄像头同步,以模拟现实世界车辆环境。大多数 ADAS 解决方案都有几个摄像头对准道路和车内。

图像采集盒还需要跟上车载摄像头技术的进步。“摄像头的分辨率、帧率和深度越来越高,这些都要求图像采集盒具有更高的带宽才能进行处理”,Yuan 表示。

EyeCloud 的 ECFG 系列采用模块化电路来满足这些要求,可同时支持 4-16 个视频通道。该系列还可以满足即将到来的更高数据带宽要求。“我们确保了解行业的发展方向,并设计我们的解决方案来满足这些不断变化的要求”,Yuan 表示。

车载摄像头的未来发展

未来前进方向的一部分在于其他类型的摄像头,包括即使在边缘情况下也能检测物体的红外摄像头。SWIR(短波红外)也是一个竞争者。这就是多光谱视觉系统能够发挥一定作用,并且 EyeCloud 的 ECFG 系列也可以进行适应的原因。

EyeCloud 还致力于通过边缘 AI 使图像采集盒更智能。“英特尔处理器的片上系统格式有利于边缘 AI 应用,因为它们将图像处理、神经计算机引擎和 CPU 结合在一个芯片中”,Yuan 表示。支持 AI 的图像采集盒可应用于机器人、监控和各种其他用例。智能图像采集盒可以选择性地仅选取具有相关信息的帧,而不是将视频流的每一帧都传送到视觉处理器。例如,视觉处理器不需要同一条铺装道路的无止境的图像,但一个有移动的行人或动物进入的画面可能更有用。

“这是我们将采取的路线图,旨在使图像采集盒智能化,并使数据收集与英特尔边缘 AI 技术更相关”, Yuan 表示。“我们可以利用英特尔技术为图像采集盒添加灵活性和智能,这让我们对这一市场的未来增长感到非常兴奋。”

 

本文由 insight.tech 的编辑主管 Georganne Benesch 编辑。

AI 电脑让您掌握边缘 AI 的力量

个人电脑自诞生之初就提供了令人振奋的新方法,来提高工作效率、协作能力和创造力。在过去的 40 多年里,个人电脑的功能和性能呈指数级增长,在很大程度上持续地改变着我们工作、创作、娱乐和游戏的方式。

如今,AI 电脑已成为个人计算领域的一次变革。这款电脑采用 AI 增强型软件和新一代计算能力,旨在成为我们所有人都能受益的数字生产力合作伙伴。

现在,AI 不再仅仅只是数据科学家和开发人员的专用,也不再局限于云端。AI 民主化的道路是让从工厂工程师到艺术家、教师等每个人,都可能在需要时从他们需要的 AI 应用中受益。

市场上首款 AI 电脑:英特尔可为任何 AI 工作负载提供强大功能和出色性能

凭借 2023 年 9 月推出的 AI 电脑,英特尔在该领域处于领先地位。其核心是英特尔® 酷睿 Ultra 处理器,旨在优化 AI 软件的效率和性能。CPU 在图形处理单元 (GPU) 和神经处理单元 (NPU) 之间分配任务,以处理繁重的 AI 工作负载,并高效运行持续工作负载。

英特尔 AI 电脑之所以能带来卓越的用户体验,是因为它能够自动执行繁琐的日常任务。试想一下,当您只需一句话的提示就能撰写和发送电子邮件、计划会议议程、记录笔记或自动编辑图像和视频时(所有这些都由 AI 驱动),您将节省多少时间?

除了 AI 电脑功能外,软件还提供开发和运行这些关键应用程序所需的功能。英特尔与由 100 多家独立软件供应商 (ISV) 组成的生态系统合作,支持他们开发可充分利用 AI 电脑快速和直观功能的解决方案。

这只是英特尔全球合作伙伴在各种垂直市场和边缘 AI 用例中进行创新的一个例子。

对话式 AI 促进员工和客户沟通

其中一个新兴领域是对话式 AI,它可以改变企业与客户互动的方式,提供个性化解决方案,同时提高运营效率、数据分析和决策流程。其合作伙伴,例如,Dhee.ai 及其对话式语音 AI 平台,使这种方式在各行各业的应用成为可能。比如,该公司使银行销售和服务部门能够更好地用当地印度语言和客户互动。Dhee.ai 使用 AI、机器视觉和自然语言处理 (NLP) 来促进跨不同语言的无缝沟通。

英特尔 AI 电脑可提供执行语音识别和合成等计算密集型任务所需的处理能力。英特尔® OpenVINO 工具套件是 Dhee.ai 优化 Whisper 模型推理延迟以实现实时对话的关键。

其他受益于对话式 AI 解决方案的行业包括娱乐场所和餐厅。其中一个例子是 Vistry, Inc.,它在这些细分市场的多个用例中部署了新一代 AI 聊天助手 ZenoChat。在英特尔 AI 电脑上运行其软件并使用 OpenVINO 优化模型,最终使公司能够在边缘提供更好的最终用户体验。

面向餐厅的 Vistry 订单聊天机器人既是顾客的下单助手,也是员工的接单助手。虚拟助手平台包括订单跟进和追踪、预测订单进程时间、自动路边登记以及顾客和员工查询。

ZenoChat 最近在德克萨斯州奥斯汀举行的美洲一级方程式赛车场活动上进行了部署,以促进员工和访客之间的沟通。在为期三天的活动中,边缘 AI 平台帮助工作人员处理了数百个不同的多语种查询。

AI 电脑助力医疗保健的数据安全

边缘 AI 在数据安全方面也发挥着重要的作用。医疗保健就是一个很好的例子,患者的个人信息可能面临严重的风险。Tausight 是 PHI(受保护的健康信息)安全情报领域的领导者,通过简化 PHI 风险的检测和管理,帮助医院和诊所减少网络安全事件。

该公司的态势 PHI 感知平台利用机器学习、联合学习和 NLP 来简化数据保护。定制的 NLP 模型直接部署在搭载英特尔酷睿 Ultra 处理器的电脑上,用于实时检测、可能的编辑和数据保护,确保遵守隐私法律法规。该平台除了增强的安全性之外,还可以提高系统性能、节省成本和提高效率,为医疗设施的安全运营奠定基础。

低代码平台实现 AI 民主化

在组织机构寻求简化工作流程和优化运营的过程中,AI 电脑也提供了他们所需的强大而安全的平台。而低代码软件则进一步简化和缩短了边缘 AI 应用的开发时间。英特尔的合作伙伴 Iterate.ai 是一家 AI 平台开发商利用其 GenPilot 平台,使组织机构能够从内部数据和文档中构建自己的生成式 AI 大型语言模型 (LLM)

即使对于财务规划、物流管理、回复客户电子邮件和跨数据库解释文档等复杂任务,低代码平台也能让组织机构更快地开发定制的 AI 应用,并允许企业选择自己喜欢的模型。此外,像 GenPilot 这样的低代码平台使得维护和定制变得更加直接,以适应未来的用例。

随着软件开发商构建越来越先进的功能,对更强大硬件的需求也随之增加。随着硬件功能越来越强大,软件创新的空间也越来越大。AI 电脑代表着计算的未来,而这个未来现在就已近在眼前。

英特尔 AI 电脑网站上,您可以找到由英特尔合作伙伴设计的 AI 电脑创造力和内容开发、工作效率、安全性、可管理性、协作和其他解决方案。

注意:AI 功能可能需要购买、订阅软件或通过软件或平台提供商开启,或可能有特殊配置或兼容性要求。请访问 intel.com/AIPC 了解详情。结果可能会有所不同。

 

本文由 insight.tech 的编辑主管 Christina Cardoza 编辑

生成式 AI 聊天机器人简化了我们的工作方式

对于当今面向公众的从业人员来说,管理者面临的挑战是为其员工提供复杂且不断变化的信息,以满足访客的需求。而在幕后,培养熟练的员工以执行复杂程序并遵守合规法规可能也面临困难。“每个人的角色都变得越来越复杂”,对话式 AI 的领导者 Vistry 创始人兼首席执行官 Atif Kureishy 表示。“员工需要能够获取实时信息,或者精通某个非常专业的领域的知识。”

雇主也要处理自己的问题,他们寻求创新方式来优化人力支出,以应对经济下行和复杂的运营环境。生成式 AI 聊天助手可以帮助员工和雇主解决这些问题。

部署在 F1 COTA 的生成式 AI 工具

Vistry 在位于德克萨斯州奥斯汀的一级方程式 (COTA) 美洲赛道 (COTA) 部署的 AI 聊天员工助手就是此类解决方案价值的有力例证。

COTA 赛事有 450,000 名观众和 10,000 名工作人员,其庞大的规模本身就是一个挑战。解答游客关于票务、交通、时间表和设施等各种主题的问题是很困难的。Vistry 与 COTA 官员及其 IT 合作伙伴合作,定制了 ZenoChat 生成式 AI 聊天助手,工作人员可通过移动设备访问该助手。

生成式 AI 模型使用赛事特定的数据进行训练以确保准确性,并配备多语言用户界面以促进工作人员和游客之间的沟通。该解决方案实现了对查询的实时响应,由第三方地图软件增强,帮助工作人员为游客提供方向指引,并在庞大的场地内自助导航。

结果让 COTA 领导层和员工都感到满意。在为期三天的赛事期间,Vistry 的 AI 平台能够处理数百个不同的查询。即使问题变得越来越频繁和复杂,工作人员对该工具的使用也越来越得心应手。结果是效率更高,而压力比往年减少了。正如一位工作人员所言,AI 助手“将潜在的混乱转化为井然有序的卓越表现”。而对赛事组织者而言,他们发现 AI 聊天机器人提高了员工的准备程度,并增强了客户体验。

生命科学领域中的 AI 聊天用例

AI 聊天解决方案在各种垂直细分市场和用例中都具有明显的优势。例如,在生命科学制造领域,定制的 AI 助手可以为实验室或工厂车间的工作人员提供支持。这些员工需要实时获取信息(通常存储在大量难以访问的文档中),以确保遵循正确的化学品制造和控制协议,并满足监管机构的合规要求。

经过良好训练的 AI 工具可以帮助制造、质量保证和研发团队找到物料清单 (BOM) 问题的答案,探索和了解原材料供应商与其他类型的组件和设备的供应商之间的依赖关系,并获取其工作所需的其他详细信息。

遵守 REACH、OSHA SDS 和 GHS 监管框架对于生命科学公司确保安全和运营成功至关重要。ZenoChat 平台可创建合规信息知识图谱、实现文档流程自动化并增强竞争分析,是一个强大的解决方案。因此,生命科学公司可以简化合规工作,减少错误,并在竞争激烈的行业中保持领先地位,同时确保满足所有监管标准。

当然,在准确性和精确性至关重要的行业中,“AI 幻觉”的风险是一个主要问题,这种错误是指生成式 AI 工具以虚假的确定性提供不正确的信息。但 Kureishy 表示,可以提高 AI 聊天助手在此类用例中的准确性。“我们的模型基于检索增强生成 (RAG) 架构,将回复建立在更为有限且可信的企业数据集上,并与知识图谱相结合,进一步提高回复的准确性和相关性。”

结果是,我们获得了将其他 LLM 中的幻觉风险降至最低的 AI 模型,并且可以通过检查和验证系统使其更加可靠。

AI PC 和软件工具套件支持边缘部署

虽然基于 RAG 的架构提高了准确性,但它们仍然无法解决工业企业的另一个主要问题:数据安全。对于涉及敏感知识产权的用例,即使云部署模型具有通常强大的保护措施,也可能构成不可接受的风险。

这也是 Vistry 使其 AI 聊天工具可以完全在边缘运行的原因之一,这种部署模式在很大程度上得益于该公司与英特尔的技术合作。

“我们非常兴奋地看到,将基于 RAG 的系统部署到在英特尔 AI PC 上运行的边缘是如此容易”,Kureishy 表示。“英特尔® 酷睿 Ultra 处理器即使在处理这些 AI 模型需要的 GPU 密集型推理工作负载时也能发挥出惊人的性能。”

此外,Vistry 还使用英特尔® OpenVINO 工具套件优化其 AI 模型,以便在边缘部署的同时仍能提供保持用户体验所需的速度和准确性。

完全在边缘部署 AI 聊天助手的能力使高度厌恶风险的用户能够充分利用这些解决方案。除此之外,它还支持在具有连接问题的偏远地区运营的企业,确保每个企业都能在 IT 中断的情况下以“断网”模式继续提供服务。

释放非结构化数据的价值

在未来几年,越来越多的组织可能会转向 AI 工具来帮助员工提高效率和生产力,部分原因是许多行业的员工需要其问题获得快速、准确的回答。

“人们期望能够轻而易举地消化非结构化、面向文档的信息,但当这些信息激增并存在于各种内容管理系统中时,就会出现一个真正的鸿沟:一个我们在个人生活和职业生活中都遇到过的鸿沟”,Kureishy 说。“AI 助手最终让员工能够轻松、实时地获取所有这些信息,这对许多企业来说是非常有价值的。”

 

本文由 insight.tech 的编辑主管 Georganne Benesch 编辑。

智慧城市软件套件助力城市管理

全球各地的城市都在努力应对人口快速增长所带来的挑战。人口激增会引发社会和经济失衡、资源枯竭以及公共服务紧张等问题。效率低下的医疗保健、公共安全保障不足、能源和水管理管理不力以及公共交通系统管理不善,正日益成为市民的沉重负担。

过时且脱节的技术进一步加剧了这些问题,使城市管理者难以维持有效的运作和满足市民的需求。如果没有有关危险、环境条件和基础设施状况的准确信息,处理紧急情况和规划未来就变得异常艰难。

创新技术为应对上述挑战提供了有效的解决方案。通过全面的人工智能和物联网平台管理服务,城市管理者能够实时响应问题,提升协调和效率,实现基础设施的远程监控和维护,并获得有助于制定更好决策的宝贵见解。这种方法不仅可增强公共安全和资源管理,还能够推动构建更加平衡和可持续的城市环境。

利用智慧城市人工智能简化城市运营

当今城市面临的许多问题都源于城市系统之间互联互通的不足以及数字技术的缺乏。城市各部门常常各自为政,缺少一个为规划、决策和高效运营提供支持的中心化数据驱动模式。“孤立的数据导致难以解决复杂问题和应对紧急情况,” 智慧城市平台和应用软件提供商 Trinity Mobility的业务管理负责人 Vivek Sharma Panathula 指出。协作至关重要,它不仅可管理应急响应,还能确保服务精准送达并有效部署资源。

Trinity 的智慧城市解决方案依托于由物联网和人工智能技术提供支持的统一城市数字平台,以及构成智慧城市基础的预集成应用,以应对这些挑战。该智能通过三个层面构建:平台、捆绑应用和各种用户模型,这三个层面可将城市运营整合到一个推动数字化转型的聚合系统中。

智慧城市数字平台能够与任何传感器、设备或应用系统顺畅连接,实现数据的收集、处理、存储和分析,从而帮助检测异常情况并作出主动响应。预集成的捆绑式应用程序,例如城市运营中心、移动人员管理系统、市民参与系统、开放式数据门户以及面向各部门的智慧城市解决方案,为开启和加速智慧城市构建提供了开箱即用的支持。

利用人工智能和物联网技术实现智慧城市的大规模建设

通过连接到物联网平台来扩展基础设施,城市能够更高效、更有效地管理服务。一个典型的案例是埃及开罗附近的新行政首都 (ACUD),Trinity 在这里 与主系统集成商霍尼韦尔合作,正在为新首都推出智慧城市软件套件,以管理为 600 多万人口提供的各类服务

“埃及新行政首都选择霍尼韦尔开发用于协调现场级传感器与部门数据的集成指挥控制中心 (CCC),” Panathula 解释道。该城市旨在通过这一大型项目简化运营、提高可持续性并改善市民服务。

利用 Trinity 的平台,城市管理者能够优化应急响应机制,监控水电等基本服务,并确保高效的资源管理。该平台还允许各部门跟踪其车队并监控驾驶员的行为,同时为市民提供与城市服务直接互动的工具。居民可以在手机应用程序上报告问题、设置服务和缴纳罚款,从而打造出参与度和响应度更好的城市政府。

通过分析来自交互和市民反馈的数据,城市可以不断改进其运营和政策,以确保智慧城市的发展符合居民的需求和期望。

为了有效管理大量传感器数据,市政物联网系统必须快速且高效。Trinity 平台采用了高性能的英特尔® 至强® 处理器,能够近乎实时地分析传感器数据并提供快速响应。英特尔® OpenVINO 工具套件可简化人工智能和物联网应用的开发,而英特尔® Software Guard Extensions(英特尔® SGX) 则在幕后工作,以保障市民个人信息的私密性和安全性。

数字孪生与未来创新

随着城市接纳更多的互联服务,物联网技术也在快速进步。例如,Trinity 正在开发一个用于加强沙特阿拉伯利雅得的米斯克城 (Misk City) 项目的数字孪生平台。该平台将使设计师、工程师和施工团队——无论是在现场还是远程——都能够利用功能性三维开发模型进行实时协作。完工后,数字孪生将通过优化应急响应、引导急救人员前往关键地点以及在发生事故时确保工作人员的安全,来继续发挥价值。Panathula 表示,随着物联网解决方案在全球范围内的普及,这只是众多受到关注的应用中的一个实例。您的城市将会是下一个智慧城市吗?

 

本文由 insight.tech 的编辑主管 Georganne Benesch 编辑。