城市级边缘推理,三周建成

编辑注:insight.tech 支持终止种族主义、不平等和社会不公正的行为。我们不容忍赞助商的产品被用于侵犯人权,包括但不限于政府滥用可视化技术。insight.tech 展示产品、技术和解决方案,并遵循以下前提:负责任和合乎道德地使用人工智能和计算机视觉工具、技术和方法。

 

视频应用程序以惊人的速度增长,从而迫切需要自动化分析。城市和其他大型用户部署的监控系统往往包含数百甚至数千个摄像头,产生的视频流远远超出了人力所能监视的范围。

为了帮助城市更好地利用这些数据,Agent Video Intelligence (Agent Vi) 等公司提供基于云的人工智能,以高效分析大量视频流。但是随着摄像头的数量不断增加,分辨率和帧率不断提高,云系统遇到了各种各样的瓶颈,包括:

  • 将高清视频流传输到云产生高额的带宽成本
  • 云系统反应缓慢
  • 网络传输存在安全漏洞

为了解决这些问题,Agent Vi 与英特尔® 合作部署边缘深度学习(图 1)。通过执行边缘推理等功能,没有活动的视频场景会被丢弃或标记为较低优先级,而感兴趣的视频片段则被标记出来,即时传输到更强大的云分析系统。

图 1. 英特尔® 发布的 OpenVINO 工具套件使 Agent Vi 能够将 innoVi 深度学习视频分析功能扩展到任何已安装的 IP 或模拟摄像头。(资料来源:Agent Vi

由于数据较少,传输成本降低,丢失或盗窃的可能性也低。

将深度学习扩展到传统系统

但是,智能城市摄像头系统对使用周期有较高要求,并且部署在形形色色的环境中。这意味着,Agent Vi 必须为各种新设备和传统设备配置深度学习技术,包括摄像头、编码器和视频管理系统 (VMS)。

例如,该公司希望升级 innoVi Edge 设备,对固定 IP 和模拟摄像头的视频进行解码。该公司希望其软件也能在各种第三方系统上运行。

为了实现这一愿景,Agent Vi 的视频分析算法必须针对一系列 CPU、GPU 和其他硬件加速器进行优化。为了在一系列新旧摄像头上实现此功能,Agent Vi 利用了英特尔® Distribution of the OpenVINO Toolkit。

OpenVINO 是一款与架构无关的开发套件,帮助工程师在 CPU、GPU、FPGA 和视觉处理单元 (VPU) 中部署深度学习。此外,该工具套件还集成各种图形和图像库,以优化推理性能(图 2)。

图 2. 英特尔® 发布的 OpenVINO 工具套件支持各种开发框架、视觉/图形库和硬件结构,因此开发人员几乎可以在任何地方部署优化算法。(资料来源:英特尔® 公司

将 OpenVINO 工具套件与 innoVi 搭配使用可为 Agent Vi 及其客户带来许多优势。首先,innoVi Edge 设备快速启用深度学习,使分布式视频分析推理更加接近边缘。与直接向云发送多个全高清智能城市视频流相比,这种方法降低了网络传输成本和延迟。

在性能方面,OpenVINO 不仅提高了边缘设备视觉分析的准确性,还提高了开发人员的工作效率。该公司联合创始人兼首席技术官 Zvika Ashani 表示,该工具套件提高了开发速度和容量。

他说:“OpenVINO 工具套件取得了很好的成效,我们在不到三周的时间内,从一名开发人员支持三个摄像头增加到支持 14 个摄像头,实现重大飞跃。此外,我们还能将解决方案全面扩展到边缘,确保可观的性价比,同时利用英特尔® Movidius Myriad VPU 和英特尔® FPGA 解决方案。”

最后,OpenVINO 的高度灵活性确保 innoVi 软件在现在和将来可以操作更广泛的设备。Agent Vi 的算法不仅与更广泛的计算架构兼容,而且它们还能满足未来需求,避免需要重新设计软件的基础设施升级。

这不仅简化了与现有本地环境和计算平台的集成,而且还可以避免将来需要重新设计或修改软件的基础设施升级。

简而言之,innoVi 在公共安全、关键基础设施监控和流量管理等智能城市应用中具有了强大的可扩展性。

深度学习提高城市智能化

随着 innoVi 平台扩展到边缘,智能城市工程师可以运用该技术改变城市生活。

例如,交通摄像头可以使用深度学习来跟踪道路上车辆的数量和款式,然后建议智能交通系统 (ITS) 改变商用卡车的路线。某地区的视频系统可以实时向官员通报意外的人类活动,使当局能够迅速做出响应,无需安排专门的保安人员。

如果没有边缘深度学习,这些系统的数据很可能被用于历史分析或回溯扫描,而不是实时干预。成本也会增加。

有了 innoVi 和英特尔发布的 OpenVINO 工具套件这样的解决方案,安全系统运营商、运输公司和其他智能城市的利益相关者才真正从边缘智能中获益。

SD-WAN 如何推动统一商务

要想在当今瞬息万变的零售环境中取得成功,商家必须满足客户的各种需求。这意味着他们要通过社交媒体、移动商务、短信、电子邮件和其他渠道(包括传统的实体购物)与消费者互动。

这也意味着零售商需要可靠的网络基础设施来支持店面、网站、应用程序、呼叫中心、生产设施和其他支持服务。如图 1 所示,在统一的商业环境中,这些不同的分支必须能够快速可靠地通信,才能确保运营有序进行。

图 1. 零售商必须为许多不同的物理和虚拟店面提供边缘网络支持。(资料来源:Perficient, Inc.

这些部门依赖于不同类型的连接。例如:

  • 办公室需要固定宽带
  • 工业设施需要 IP 封装现场总线协议
  • 某些零售 POS 系统或紧密连接的购物体验需要蓝牙、Wi-Fi 和联网

除了不同的网络拓扑、连接类型和服务质量 (QoS) 需求之外,这些渠道和服务部门还需要一系列网络服务。这些服务包括防火墙、深度包检测 (DPI)、广域网 (WAN) 优化、路由和许多其他功能。在传统的网络架构中,此类服务需要专门的专业硬件设备,这不但导致了沉重的成本负担,而且使网络变得更加复杂。

管理这些网络和服务是一项艰苦的工作,特别是在大型或快速增长的零售组织中,这会削弱公司销售商品这一核心使命。

软件定义的广域网 (SD-WAN) 可以减轻在内部管理这些复杂网络的负担,并降低网络服务的成本。当与通用客户驻地设备 (uCPE) 配套使用时,SD-WAN 还可以提高网络的灵活性和可靠性,保持客户通信线路畅通。

SD-WAN 确保紧密连接的购物体验

以前的文章讨论了 SD-WAN 提供的恢复能力。该技术使用基于软件的流量编排和管理控制器,使用通用 uCPE 硬件通过网络路由多种形式的有线和无线连接。

SD-WAN 支持的通信技术包括 MPLS、宽带、电缆、Wi-Fi 和 LTE 链路(图 2)。因此,语音和数据流量始终可以根据应用程序的 QoS 需求通过最合适、带宽最高的路径发送。

图 2. SD-WAN 技术支持在通用客户驻地设备 (uCPE) 上建立多种有线和无线网络连接。(资料来源:Cell Code

支持 SD-WAN 的硬件架构利用数据中心的软件定义网络 (SDN) 和网络功能虚拟化 (NFV)。在这里,uCPE 提供一个强大而灵活的通用网络平台,支持各种网络服务作为虚拟网络功能 (VNF)。因此,uCPE 代替了前面提到的昂贵、复杂的硬件设备(图 3)。

图 3. 通过支持这些服务作为虚拟网络功能 (VNF),通用客户驻地设备 (uCPE) 普遍代替了昂贵的网络设备。(资料来源:Techplayon

对于支持它们的商家和网络服务提供商而言,SD-WAN 可以满足专业要求,并且降低成本和复杂性,是各种网络的最佳解决方案。

因此,网络设备供应商 (NEP) 纷纷向市场推出可扩展的 uCPE 解决方案,帮助公司在整个零售业务中部署 SD-WAN。

通用平台促进零售创新

例如,英特尔®Lanner 公司等合作伙伴合作,推出面向 uCPE 的英特尔® Select 解决方案 (ISS),以加速 SD-WAN 的大规模部署(如呼叫中心、生产设施和零售中心)。面向 uCPE 的 ISS 平台基于多核英特尔® 至强® D 处理器,采用各种互补的网络技术,支持灵活扩展。

图 4 概述了面向 uCPE 的 ISS 解决方案的最低硬件要求,适用于基本配置和附加配置。

图 4. 面向 uCPE 的英特尔® Select 解决方案 (ISS) 将多核英特尔® 至强® 处理器的性能扩展到 SD-WAN 边缘环境。(资料来源:Intel®

如上表所示,任何面向 uCPE 的 ISS 都至少提供一个四核英特尔至强 D 处理器。这为数据包加速提供了足够的性能,同时确保内核可以提供主机 VNF 服务。例如,一个内核专门用于网络编排和管理,其他内核则支持防火墙、DPI 和 QoS 监视。

此外,面向 uCPE 的 ISS 系统封装了英特尔® 数据平面开发工具套件(英特尔® DPDK),该包处理软件套件可以优化网络通信。英特尔及其合作伙伴通过调整这些硬件和软件组件,实现了 100% 的线路速率包处理性能,现在,所有面向 uCPE 的 ISS 解决方案必须符合这项标准才能通过认证。

对于商家而言,这意味着关键数据可以在不同的零售中心、服务部门和运营中心之间实时传递,避免丢失销售数据,问题也能迅速得到解决。

此外,所有面向 uCPE 的 ISS 系统都集成了英特尔® QuickAssist 技术,这是一项硬件加速功能,可以减轻加密和压缩工作负载。这有助于确保数据在整个零售基础设施中保持安全。它还能确保主处理器内核专门执行 SD-WAN 编排和虚拟功能,使操作有序进行。

面向 uCPE 的 ISS 平台硬件和软件堆栈由英特尔进行测试、验证和认证,确保零售商的 SD-WAN 投资持续产生盈利,无论其来源如何。

现成的 uCPE 解决方案推动统一商务

Lanner NCA-4020 是首款面向 uCPE 的 ISS 解决方案之一,这是 1U 网络设备,具有四个 16 核英特尔至强处理器,支持基本配置和附加配置(图 5)。该解决方案为后续设备奠定了质量和性能基准,零售商如今可以利用 SD-WAN 功能,并通过持续扩展来满足未来的需求。

图 5. Lanner 的 NCA-4020 是首款面向通用客户驻地设备的英特尔® Select 解决方案 (ISS) 之一。(资料来源:Lanner 公司

希望逐步过渡到 uCPE 的店主可能会选择 Lanner 的入门级 LUNA D-125 白盒网络设备(图 6)。LUNA D-125 基于英特尔 Atom® C2000 双核处理器,可以在一个内核上执行网络管理或编排任务,同时保留另一个内核运行 VNF,如安全功能。

图 6. Lanner 公司的 LUNA D-125 白盒设备基于英特尔 Atom® C2000 系列双核处理器。(资料来源:Lanner 公司

就其本身而言,Lanner 应用自己的测试、认证和验证实践来确保 LUNA D-125 等系统的质量。

无论性能级别如何,操作人员和 IT 部门喜欢在整个 SD-WAN 基础设施中使用基于英特尔架构的系统。这种共性在统一商业部署的整个过程中提高了软件的重复利用率和管理性,同时加快面市速度。

像 LUNA D-125 这样的平台可以部署在小型办公室或店面,开始向灵活的网络过渡,为更强大、更多功能的面向 uCPE 的 ISS 解决方案(如 NCA-4020)搭建舞台。

面向 SD-WAN 的 uCPE:良好、更好、最佳的零售连接

零售商开始要求高吞吐量、可靠和安全的通信来支持诸如零售分析和增强现实等高级功能,基于英特尔的技术高度可扩展,为此提供了一条平稳的迁移路径。面向 uCPE 的 ISS 等解决方案提供软件定义和支持虚拟化的架构,这还意味着随着使用案例的变化或新使用案例的出现,可以随时修改工作负载。

零售市场已做好准备,利用 SD-WAN 降低成本和提高灵活性。现在就是时候,利用边缘设备实现零售创新。