利用基于音频的生成式 AI,协调创新

人工智能是许多不同技术的总称。生成式 AI 是我们经常听到的一个话题,尤其是 ChatGPT。ChatGPT 得到了广泛报道,但绝不是生成式 AI 行列中唯一一员。英特尔的 AI 软件架构师兼生成式 AI 推广者 Ria Cheruvu 最近一直感兴趣的一个问题是音频领域生成式 AI(视频 1)

视频 1。英特尔生成式 AI 传播者 Ria Cheruvu 探索基于音频的生成式 AI 的商业和发展机遇。(来源:insight.tech

但无论何种类型的生成式 AI 都令人震惊,开发人员并非始终确切知道从哪里开始,或者开始之后,如何优化模型。与英特尔合作,可以真正简化流程。例如,初学者开发人员可以使用英特尔® OpenVINO 笔记本电脑,利用教程和代码示例,帮助他们开始使用 GenAI 。然后,当他们准备好提升到一个新水平或准备扩展时,英特尔将随时帮助他们。

Ria Cheruvu 与我们讨论 OpenVINO 笔记本电脑存储库,以及生成式 AI 用于音频的现实应用,以及适用于呼叫中心的方面与适用于音乐家方面之间的差异。

生成式 AI 的不同领域有哪些?

就生成式人工智能的类型而言,这一领域无疑正在不断发展。ChatGPT 并非唯一!当然,文本生成是一种非常重要的生成式 AI,但也有图像生成,例如,使用 Stable Diffusion 等模型来生成艺术、原型以及不同类型的图像。还有音频领域,您可以开始制作音乐,或者制作合成化身的音频,以及许多其他类型的用例。

在音频领域,快速运行时尤为重要,这是常见的痛点之一。您希望模型超级强大,能够快速生成高质量输出的结果,那就需要大量计算。因此,我想说,优化生成式 AI 模型的技术堆栈绝对至关重要,这也是我在英特尔日常工作中研究的东西。

音频生成式 AI 的具体商机是什么?

使用语音人工智能或对话式人工智能来读取和处理音频,这确实非常有趣,这就是您使用语音代理(例如手机上的语音助手)所做的事情。将其与音频生成式 AI 比较,您实际上是在创建内容,例如,能够生成合成化身或声音,以便打电话和交谈。首先想到的商业应用肯定是呼叫中心,或者是具有使用这种所创建音频的模拟环境的元宇宙应用。

但创意领域、内容创作领域也有一些非传统商业用例,我们开始看到一些应用与音乐生成式 AI 相关。对我来说,这非常令人兴奋。英特尔开始研究生成式 AI 如何补充艺术家的工作流程:例如,创建作品,使用生成式 AI 来采样节奏。音乐家和音乐制作人如何利用生成式人工智能,将其纳入内容创作工作流程之中,这也有一个非常有趣的文化元素。

虽然它不是一个传统的商业用例,比如呼叫中心或使用音频进行零售的交互式自助服务终端,但我认为,音乐生成式 AI 在内容创作方面有着巨大的应用。最终,它还可以进入需要生成声音的其他类型领域,例如,创建用于 AI 系统训练的合成数据。

音频生成式 AI 的开发流程是什么?

生成式 AI 领域目前正在采用几种不同的方式。其中一种肯定是改造已有的模型架构,以用于其他类型的生成式 AI 模型。例如,Riffusion 基于图像生成模型 Stable Diffusion 的架构;它只是生成波形,而不是图像。

我最近与从事音乐领域研究的人交谈,我们讨论的一件事是,您可以为这些音频领域模型提供的输入数据多种多样。可以是音符,也许是钢琴作曲的一部分,一直到波形或特定类型的输入,专门用于 MIDI 格式等的用例。有多种多样的数据。

训练和部署这些模型需要哪些技术?

我们一直在调查许多有趣的生成式 AI 工作负载,这些工作负载是英特尔 OpenVINO 工具套件和 OpenVINO Notebook 存储库的一部分。我们将许多音频生成的关键示例当作非常有用的用例,用于提示和测试生成式 AI 功能。我们曾经与英特尔的其他团队合作,使用 Riffusion 模型,创作 Taylor Swift 类型的流行节奏,一直到更高级的模型,生成与某人说话的内容相匹配的音频。

我看到 OpenVINO 的一件事是,能够优化所有这些模型,特别是在内存和模型大小方面,而且能够在边缘、云和客户端之间实现灵活性。

OpenVINO 实际上针对该优化部分。有一个基本概念,即生成式 AI 模型的大小和内存占用面积很大;而所有这些模型的基础,无论是音频、图像还是文本生成,其中某些元素非常大。我们使用压缩和量化相关技术,将模型占用面积减半,不仅能够大幅减少模型尺寸,而且确保性能相差无几。

所有这些都源于一个非常有趣的本地开发概念。音乐创作者或音频创作者希望在创作内容时使用电脑,在从事密集型工作时,在云端工作,例如收集音频数据、录音、注释,以及与不同专家合作创建数据集。然后他们可以在电脑上执行其他工作负载,然后说:“好吧,现在让我在系统上本地生成一些有趣的流行节奏,然后在房间里制作原型。”

开发人员开始使用生成式 AI 有哪些示例?

我真正喜欢讨论的一个例子是,您如何正确地使用我们在笔记本存储库中展示的 OpenVINO 教程和工作负载,然后投入实际运用。在英特尔,我们与 Audacity 合作,后者是一个基本上实现开源音频相关编辑创作的工具。它是一种用于音频编辑的一站式 Photoshop 类型的工具。我们所做的一件事是通过我们提供的插件,将 OpenVINO 与其集成在一起。我们的工程团队从 Python 获取 OpenVINO Notebook 存储库中的代码,将其转换为 C++,然后将其部署到 Audacity 之中。

这样就能实现我之前提到的性能和内存改进,但它也直接集成到相同的工作流程中,许多编辑和操作音频的人也在利用此工作流程。您只需挑选一段声音,然后说 “生成”,OpenVINO 就会生成其余部分。

这是一个工作流程集成的例子,可用于艺术家工作流程;用于电影行业为语音制作生成合成音频;或用于零售行业中的交互式自助服务终端;或用于医疗保健领域的患者与医疗人员对话。工作流程的无缝集成是英特尔非常期待推动和帮助协作的下一步。

生成式 AI 还有哪些,特别是音频生成式 AI?

说到音频生成式人工智能,我认为在这个领域的任何一个特定时刻都是 “眨眼即失”。看到添加了如此众多工作负载,真是太神奇了。但是,展望不久的将来,也许是今年年底或明年,我能看到的一些发展肯定是围绕我之前提到的那些工作流程,以及确定您到底想在哪里运行,是在本地系统上,还是在云上,还是在两者的混合体上?这绝对是我真正感兴趣的事情。

我们正在尝试采用英特尔® 酷睿 Ultra 和类似类型的平台,在 AI 电脑上生成音频,当您坐在房间里与一群音乐家一起制作原型并玩音乐时,理想情况下,您不必访问云端。相反,您可以在本地这样做,将其导出到云端,然后在本地和云端之间往返移动您的工作负载。关键在于,我们如何将利益相关者纳入该流程,即我们如何准确创建生成式 AI 解决方案,将其实例化,然后随时维护?

最后,您能给我们留下一点关于生成式人工智能的启示吗?

现在,生成式人工智能这个领域光鲜亮丽,但几乎人人都能看到当中的价值,而前提是有一个面向未来的战略。英特尔对这个行业的价值主张,是能够携手开发人员,向他们展示他们能够利用这项技术做什么,以及在他们实现目标的每一步上给予帮助。

用于音频的生成式 AI (通用生成式 AI)的发展如此之快。因此,请密切关注工作负载、评估、测试和原型设计;在我们迈进音频生成、合成生成等众多领域的新时代之际,这些都绝对是关键。

相关内容

要详细了解生成式 AI ,请阅读生成式 AI 解决方案:从炒作到现实,并收听生成式 AI 在音频创作中构成新机遇。有关英特尔的最新创新,请在 X @IntelAILinkedIn 上关注他们。

 

本文由文案编辑 Erin Noble 编辑

数字孪生让楼宇管理更环保、更智能

拥有建筑环境资产组合的公司面临着一个令人沮丧的问题。他们希望自己的建筑(零售店、工厂、医院或其他建筑)能够智能化。毕竟,智能设施可以减少能源消耗,减少浪费,降低维护成本,延长资产寿命,并实现一系列额外的运营效率。但是,企业要想实现这些理想成果,相关数据却很难获取,往往锁定在独立的遗留系统中的专有协议背后。

幸运的是,数字孪生(代表物理资产并捕捉其相互依存关系的功能模型)可以解决这个问题。数字孪生解锁和整合各系统的数据,为企业提供宝贵的运营见解,而楼宇业主可以利用这些见解,使其设施更智能、更可持续、更易于管理。

面向遗留资产管理的数字孪生平台

“各组织在利用技术让其业务和设施变得更加智能方面,拥有巨大的机会。” e-Magic (数字孪生解决方案 TwinWorX® 的提供商)业务开发副总裁 Dale Kehler 表示。将资产驱动的数据从孤岛中解放出来,使企业能够做出数据驱动的决策,而不是依赖不可靠的参数或直觉。

为此,TwinWorX® 创建物理资产的数字模型,并跟踪其使用情况和相互依存关系。因此,企业可以利用数字对等物来监测和控制其设备。TwinWorX® 还与供应商无关,将不同资产的实时遥测数据汇总到一个平台上。这意味着企业不必再为 10 种不同的资产使用 10 种不同的软件产品;他们只需透过一个玻璃窗,即可查看所有相关信息。

至关重要的是,像 TwinWorX® 这样的数字孪生解决方案能够捕捉资产之间的相互依存关系。TwinWorX® 连接各系统中成千上万的数据点,使资产管理者能够轻松了解改变一个变量对其他变量的影响。例如,调高建筑物内的温度设置,就能显示出对炉子寿命、碳排放和能源成本的影响。Kehler 说:“由于有了上下文数据支持所看到的内容,数字孪生代表了一种新的数据建模方式。”

来自资产的实时遥测数据并非单向流动。Kehler 说,“实现与资产的双向通信,就能从数字孪生中控制资产。” 数字孪生可更改设置,如温度、气体流量或企业想要操作的其他可访问参数。

有了实时数据馈送,公司就可以收到需要立即关注的运行异常通知。在一个数字孪生平台上收集所有相关数据,使他们能够应用机器学习和人工智能等技术,不仅能了解当前发生的情况,还能预见即将出现的问题,在某些情况下,还能应用预测性维护来防止故障发生。

数字孪生解决方案应用范围涵盖各行各业

数字孪生的应用范围很广,视环境而定,从单一的办公大楼到庞大的制造工厂或医疗综合体,不一而足。

Kehler 说,TwinWorX® 最常用于集中管理多建筑环境中的资产。例如,天普大学 (Temple University) 希望创建一个集中式平台,以便查看校园内所有楼宇管理系统的数据。由于 TwinWorX® 提供了与供应商无关的遗留资产管理系统,该大学现在可以在一个地方管理数据,从而节省时间。有了 TwinWorX®,还可以无需使用冗余的许可和分析工具,从而节省资金。

Kehler 表示,像天普大学所做的,集中数据并摆脱昂贵的供应商合同,是迈向智能环境的早期步骤。数字孪生解决方案解决了许多楼宇业主的问题:我们如何才能战略性设计我们的系统,并为管理智能环境做好准备?有了 TwinWorX®,公司可以从小规模开始,连接单一资产或少数几个资产,随着目标越来越远大,再增加更多资产。

首先,公司通常会想方设法降低能源费用,使运营更加环保。Kehler 说,“许多公司都在应对能源成本上升的问题,并在努力实现脱碳,以履行可持续发展的承诺。”“清楚掌握能源使用情况,便能找到节约成本的机会,例如减少能源使用,混合能源构成等等”。数字孪生解决方案可以向企业展示,使用一种可再生能源,或者混合使用可再生能源与传统能源,将对其整体可持续发展状况产生何种影响。

TwinWorX® 平台采用英特尔® 服务器和处理器,而 e-Magic 经常推荐英特尔® 处理器和物联网系统,用于需要低延迟的客户边缘计算实施。e-Magic 为遗留资产管理提供数字孪生平台和连接工具。其系统集成合作伙伴还为建立碳核算等专门功能提供额外的咨询服务。

未来的遗留资产管理

虽然数字孪生还处于萌芽状态,但 Kehler 预计在不久的将来,随着立法迫使楼宇业主迅速实现能源效率,数字孪生的应用将不断增加,尤其是对于那些致力于实现可持续发展目标的公司。

随着实施的增加,有朝一日,数字孪生会帮助创建由互联系统组成的整个生态系统,使建筑环境和智能城市同步实现一系列共同的效率目标。

 

本文由 insight.tech 的贡献者 Teresa Meek 编辑。

掌握面向下一代人工智能的工具

人工智能正在改变世界,每天都在不同行业中不断发展。这在一定程度上是因为开发人员正在构建新的解决方案,并努力跟上新一代人工智能的发展。英特尔帮助使这一切成为可能,为开发人员提供所需的技术和工具,例如 OpenVINO 和英特尔® Geti。此外,OpenVINO 和 Geti 旨在将开发人员和业务领域用户连接在一起,进一步促进下一代人工智能解决方案和使用案例的发展。

为了了解有关下一代人工智能开发的更多信息,我们与英特尔人工智能传道者 Paula Ramos 做了探讨。她讨论了人工智能解决的现实问题、所涉及的英特尔功能以及人工智能的民主化和传播(视频 1)。因为这不仅关系到向开发人员提供工具和技术,同样重要的是提供教育和资源,让更多人率先进入这一领域。

视频 1。英特尔公司人工智能传道者 Paula Ramos 探讨了使下一代人工智能成为可能的趋势和技术。(资料来源:insight.tech

您认为如今人工智能将如何推动并解决现实世界中的问题?

人工智能发展迅速,日新月异。现在,人们对它的认识比以往更加深刻,因为这些现实世界中的问题已经变成了令人惊叹的解决方案。初创公司正在利用硅能和人工智能的能力来解决这些问题。

例如,人工智能运用翻译帮助人们交流,在百种语言之间翻译文本。另一个很好的例子是一些汽车品牌正在使用的自动驾驶汽车系统,该系统可以控制汽车转向、加速和制动,并有可能减少交通死亡和交通事故。人工智能可以帮助医生诊断癌症,制定个性化治疗方案,或加快新药和新疗法的应用。人工智能正在帮助农民少用农药和除草剂。人工智能正在帮助人类更快解决问题。

让人工智能更容易为开发人员所用有什么重要意义?

对此我有三个想法。首先,为开发人员创建更易访问的信息,可以加快人工智能创新的速度。能够使用人工智能工具的开发人员越多,使用起来越容易,技术的发展就会越快,从而加快创新的速度。获得最新的硬件改进也很重要。人工智能实际上是另一种工具,因为它使开发人员能够更高效构建和部署应用程序。

第二点是人工智能的民主化。我们需要确保人工智能适合每一个人,每一个开发人员都有机会从这项技术中受益。我们改善获取人工智能的方式,可以弥合人工智能采用的差距。

第三点是解决人工智能人才短缺问题。目前,世界上对人工智能开发人员的需求量很大,但开发人员的数量却不足。我们降低学习和使用人工智能的难度,可以帮助训练更多开发人员,缩小人工智能人才的短缺。

已经出现了哪些工具和硬件可以解决人工智能民主化的问题?

我对英特尔发布全新人工智能电脑感到激动不已。这款电脑搭载英特尔® 酷睿 Ultra 处理器,整合了 GPU 和称为 NPU(神经处理单元)的新元件。九月,我在英特尔® 创新大会的生成式人工智能展位上展示了该款电脑,其性能卓越。英特尔公司首席执行官 Pat Gelsinger 演示了在一台人工智能电脑(本地 Windows 计算机)上运行 Llama 2 聊天机器人(LLM 模型)的情况。在没有互联网连接的情况下使用人工智能,不把数据发送到云端,肯定会更安全。

众所周知,很多人认为英特尔只是一家硬件公司,但我们正在努力向开发人员展示如何使用 OpenVINO(英特尔拥有的推理和部署框架)等框架或系统,轻松改进他们的解决方案。人工智能电脑还能够运行 OpenVINO。OpenVINO 向我们展示了英特尔利用人工智能的潜力。OpenVINO 现在无处不在:智慧城市、制造业、零售、医疗保健和农业。在过去一年中,它的下载量增加了90%。

您能否更详细介绍一下 OpenVINO 与人工智能之间的关系?

OpenVINO 是英特尔在客户端和边缘平台上为开发人员提供的一个工具套件;它支持 AI at the edge(边缘人工智能),使人工智能——生成式人工智能更容易获得,在多个硬件平台上优化神经网络推理。不过,OpenVINO 的主要目标是优化和量化模型,从而缩小模型的大小。我们可以减少内存占用,还能在各种硬件(英特尔和非英特尔硬件)中更快运行模型。我们正在利用 OpenVINO 解决开发人员的真正痛点。

另一件重要的事情是,只要拥有了中间表示格式(即 OpenVINO 格式)的模型,就可以在各处部署。这是英特尔与部分竞争对手之间的其中一个差别。

开发人员如何利用英特尔® Geti

英特尔 Geti 是一个帮助企业快速开发计算机视觉模型的平台。简而言之,它将所有必要的工作整合在一起,例如注释、训练、优化、测试。您可以创建项目、上传注释、上传新的生产数据或以前的数据。您可以修改可训练的功能,测试服务器上运行的部署,也可以下载部署到本地运行。

因此,使用该技术有很多好处。数据科学家、机器学习专家、系统集成商和领域专家可以使用同一个平台协同工作。这是因为它易于使用,而且可以控制训练和优化过程的多个方面。它还可以提供不同格式的建模,其中一种格式就是中间表示格式–OpenVINO,这是 Geti 平台的后台优化和量化工具。

英特尔 Geti 平台还提供 SDK,帮助用户利用易于使用的功能。该平台利用 OpenVINO 构建部署管道,并在包含 CPU 和 GPU 在内的各种英特尔硬件平台上加速推理,而无需计算机视觉专业知识。这就是这个平台的魅力所在。

使用英特尔 Geti SDK 进行部署对开发人员来说非常简单,因为该 SDK 与计算机视觉任务无关,也与模型架构无关。开发人员不需要为模型输入准备数据,也不需要为显示结果准备模型输出。

女性进入人工智能领域会面临哪些挑战?

我非常热衷这个话题。就我个人而言,我代表了全球科技工作者中的两个少数群体。首先是科技界的女性,其次是科技界的拉丁裔女性。你可以把 “科技”理解为人工智能或一般意义上的工程学。全球科技人员中有 50% 是女性,但拉丁裔女性仅占 2%。因此,这是一个代表性严重不足的问题,我希望为减少拉丁国家,尤其是拉丁美洲国家缺乏教育和培训机会的现象做出贡献。

但我也希望激励更多女性从事人工智能工作。我想减少歧视和偏见。无论男女,每个人都应该有机会在科技领域取得成功。妇女也可以坐在桌边,认真讨论技术问题。女性对于如何解决问题具有独特的视角;我们拥有独特技能,能够创造出满足所有用户需求的产品和服务。

而且我们已经为人工智能领域做出了重大贡献。人工智能研究员、斯坦福以人为本人工智能研究院联合创始人李飞飞博士就是一个例子。她为深度学习的诞生做出了贡献。她开发了 ImageNet 计划,该计划在深度学习的部署中发挥了重要作用。这是一位女性对人工智能产生的非凡影响,因此我可以想象,其他女性也能为这一领域做出或多或少的贡献。

关于人工智能发展的未来,您还有什么想补充的吗?

有一个重要问题,我想与开发人员分享:你的梦想在哪里?你可以实现这些目标,因为人工智能是一种强大的工具,有潜力让世界变得更美好。

所以,去尝试新技术、新模型和算法吧。尝试参与开源项目,并成为开源项目的积极贡献者。随时了解使人工智能更实用的最新趋势。我们需要构建一个包容、公平、有益于所有人的人工智能。动力就来自你的想像力。

相关内容

如要了解人工智能趋势的更多信息,请阅读《人工智能传道:加速开发人员成功的关键 (Evangelizing AI: The Key to Accelerating Developers’ Success)》 并收听《与英特尔一道探索下一代人工智能 (Exploring the Next Generation of Artificial Intelligence: With Intel)》。有关英特尔的最新创新,请在 Twitter 上关注 @IntelIoT,在 LinkedIn 上关注 Intel Internet of Things

 

本文由文案编辑 Erin Noble 编辑。

AI 集成平台提供丰富的数据洞察

物联网和人工智能解决方案提供商 EPIC iO 首席执行官 Ken Mills 表示,当谈到技术实施时,公司想要的是他们可以立即食用的披萨,而不是需要组装的乐高积木。

是的,物联网和人工智能是革命性的,可以显著提高效率。但是,要让这些技术发挥作用,连接性、数据集成、可视化等等这些组成部分的庞大数量,就会让 IT 团队头晕目眩。
米尔斯说:“客户的技术应用能力还不足以自己找出人工智能解决方案,他们需要帮助。”

开发 AI 集成平台

EPIC iO 帮助让这些技术为客户所用,实际上就是为人工智能和物联网解决方案制作披萨。

该公司通过 EPIC iO DeepInsights——一个软件平台,让不同的技术组件协同工作。DeepInsights 就像披萨饼皮,将物联网传感器、人工智能和计算机视觉以及连接性结合在一起。“我们将整个堆栈提供给客户,这样他们就不必购买五个不同的其他软件包来使这些技术发挥作用。” Mill 说。EPIC iO 在为数据提供上下文方面特别有用,从而带来更敏锐的洞察力。

为了进一步扩展披萨的比喻,公司可以挑选他们想要包含的“配料”(传感器),无论是用于视频数据分析的摄像头,还是用于提供和监控边缘设备的连接传感器。

人工智能民主化模板

开放式人工智能和物联网软件平台的优势在于,您不必每次都提供定制的解决方案。“我们正在整合经过验证的模板,以便我们的客户可以自动执行工作流程并赚更多钱。” Mills 说。

创建可复制的人工智能解决方案还可以降低采用障碍,实现技术的民主化。EPIC iO 的使命是让世界更安全、更智能、更互联。人工智能的成本正在降低,因为必要硬件和计算的成本和性能都在提高。
这些因素也有助于改善普及性。

当公司只想突出自己的优势时,模板格式尤其有用。
例如,数据分析公司 SAS 与 EPIC iO 合作,这样他们就可以在 EPIC iO 所安装解决方案收集的边缘数据上叠加自己的技能。“EPIC iO 和 SAS 是很好的合作伙伴关系,因为我们可以在边缘收集所有数据,并通过计算机视觉和机器学习模型,生成事件和规则,然后将数据传递给 SAS 开展更深入的分析。” Mills 说。

物联网分析的效率

另一方面,在许多情况下,公司知道他们需要改进流程,但他们不确定人工智能解决方案是否能起到作用。
例如,加利福尼亚州的一家大型公用事业公司会派遣工人检查储罐的填充量,并在填充量过低时跟进。该公司在第一次评估流程效率后,探索安装摄像头,并由人工监控。但是,“人在环路中的解决方案并不具有成本效益,也不实用,尤其是在拥有人工智能等技术的情况下。” Mills 说。

相反,EPIC iO 建议安装物联网摄像头传感器,使用人工智能和计算机视觉来测量填充率并主动检测问题。只有当填充量下降时,工人们才需要前往检查。更好的是,由于人工智能带来的数字化转型,该公司获得了更多、更有用的数据,包括站点的使用方式和时间,而不是关注填充率这一狭隘的问题。

公用事业案例说明了如何利用人工智能提高运营效率。公司需要问一问,哪些问题他们还没有找到解决方案,哪些问题对他们的业务最有意义。
Mills 说:“只要确定了这两个载体,那么就有可能找到人工智能可以提供帮助的解决方案。”

与合作伙伴合作

DeepInsights 构建于英特尔® OpenVINO 工具套件之上并有英特尔 CPU 和 GPU 的支持,既提供高性能计算,又能降低能耗。该软件也是云原生的,不依赖于单一云环境。DeepInsights 具备可移植性,使客户能够控制其人工智能相关数据的存储和推断地点,这对遵守隐私和数据处理法规至关重要。

虽然 EPIC iO 为客户提供简单的解决方案,但该公司仍与系统集成商合作,建立物理基础设施,并在需要时提供持续的现场支持。集成外部软件程序并建立运行工作流程,也属于系统集成商的职责范围。

人工智能民主化的未来

计算机视觉和传感器为人工智能的实现提供了无限可能:例如,一个强大的姿势分析模型可以确定医院病人是否在病房中跌倒,以便工作人员可以在必要时干预。

使用人群分析来监控零售楼层的活动是另一种用途,使用人工智能来帮助改善城市的空气质量和安全也是一种用途。

Mills 尤其热衷于使用生成式人工智能,让普通用户更容易获得洞察力。
他期待的另一项发展方向?人工智能的民主化。“我真的很兴奋,越来越多的人将能够在各个行业领域利用人工智能,而且不仅仅局限于最大的公司和城市。” 他说。人工智能的民主化是实现一个更安全、更智能、更互联世界的必由之路。

 

insight.tech 主编 Georganne Benesch 编辑。

位置情报与人工智能以及数字孪生结合的魔力

从安全摄像头到车载备份助手,跟踪和监控环境(或位置情报)在我们如今的生活中无处不在。但企业才开始了解到将位置情报与人工智能和数字孪生等技术匹配的固有优势。如果数字孪生模型的想法仍然显得有些神奇,请系好安全带。我们将把它带到下一个维度:时间。因为在特定时刻了解特定资产时,监控和空间感知不只是会影响安全性或缺陷检测。

当然,伟大的技术进步通常会伴随伟大技术的诞生。因此, 英特尔联邦和航空航天市场总经理兼高级总监 Tony Franklin能够解释清楚位置情报的整体概念:它在当前和未来可以解决的挑战,以及旨在帮助实现这一切的技术,包括英特尔的 SceneScape 平台(视频 1)。

视频 1。英特尔联邦和航空航天市场总经理兼高级总监 Tony Franklin 解释位置和情报以及使用人工智能和数字孪生的重要性。 

您如何看待数字孪生和位置情报的概念?

我认为我们都已经习惯了位置情报,甚至感觉不到它的存在。每个人的手机上都有 Google Maps 地图应用。任何有孩子的人都了解 Life360 应用:您可以确切知道某人在哪里、在那里呆了多久、移动速度如何。

但在业务方面,我们刚刚开始了解到从财务角度来看的位置情报的影响力有多么大。因此,对于类似 UPS 的运输公司,如果他们从 A 点到 B 点的定位不准确,则可能会造成数百万美元的损失。这对于可持续发展等事项也很重要。我最近了解到,在美国,27% 的气体排放量来自运输业。

而且除了位置情报之外,我认为我们开始真正了解的是基于时间的空间情报。这不仅仅与位置有关,还关系到我们在特定时刻是否真正了解周围发生的事情,或者是否了解资产、物品或人员的情况。数字孪生可让您可以重新创建空间,然后了解包括实时时间在内的特定时间,但如果您需要按下回放按钮进行分析,也可以这样做。

数字孪生的价值还在于,它有一个自然生成的抽象。我们知道它是现实世界的数字复制品,因此分析是在复制品上完成的,而不是对实际输入的数据进行分析。然后,数字复制品还可以将数据提供给多个应用。

当存在多种应用和不同类型的人工智能时,您的确有必要使用基于标准的技术,因为您可能需要一种 AI 来识别某些动物、人或资产,以及另一种 AI 来识别不同的汽车、天气或更多类似物理的模型。

位置情报可以解决企业面临的哪些挑战?

我认为最大的挑战之一是来自不同应用的数据孤岛化。例如,我们在手机上有大量的应用程序可以协同工作,但并不意味着这些应用上的数据也可以协同工作。

在商业领域,可能会有一种应用用于监控物理安全,但还有另一种应用用于监控工厂中的机器人等。它们都有摄像头、传感数据,但不会连接 —— 所有数据都位于不同的筒仓中。那么,如何将这些数据联系起来,以增强情景感知并做出更好的决策?理想情况下,更好的决策意味着要么省钱、要么有机会赚钱,要么创造其他价值,例如更安全的环境。

另一项挑战则只是需要思想上的转变。我们已经在使用的许多技术都来自游戏。如今,电子游戏非常真实,在游戏中,您可以看到 3D 环境中的所有内容。您了解位置;您还会收到多种感官数据,包括声音或环境数据。所有这些都与体验融合。因此,我们开始越来越多地将其融入我们的日常生活和业务中。

英特尔如何帮助企业部署数字孪生和人工智能?

总会有大量数据需要标注才能提供使用,而我们有很多工具可以将其联系起来。如果要实时接收流式数据,我们提供了英特尔® 发行版 OpenVINO 工具套件。您可以使用该套件应用推理,还可以为输入的特定数据选择最好的计算技术。

因此,您可以输入这些数据,应用推理,继续循环。然后,英特尔®Geti平台允许您训练数据。它可以让您快速完成这项工作,而不需要成千上万张图像 —— 如果是用于计算机视觉的图像,则需要。并且任何人都不需要拥有数据科学博士学位。这就是 Geti 的用处。

中间有一个名为英特尔® SceneScape 的东西。类似于 Geti,SceneScape 也面向最终用户。将其视为位于 OpenVINO 和 Geti 中间的一个软件框架,可以真正简化数字孪生创建,使您所拥有的数据具有意义,并以影响深远的方式提供和使用这些数据。它允许最终用户以开放、标准的方式轻松部署人工智能技术,并利用其附属的最佳计算技术。

因此,输入传感器数据。然后,OpenVINO 将应用推理进行目标检测或分类等。您可以使用 Open Model Zoo——来自我们合作的所有合作伙伴的一系列模型,并通过 SceneScape 部署该模型。然后使用 Geti 训练数据。

SceneScape 还允许您在任何应用中使用任何传感器来监控和跟踪任何空间。我们已经习惯了视频,但也还有其他传感器可以让您增强环境情景感知。您可以使用激光雷达,所有电动和自动驾驶汽车都配备激光雷达,或者是环境、温度、辐射或声音传感器以及文本数据。

是否可以分享任何有关英特尔® SceneScape 正在实施的案例研究?

一直使用 SceneScape 的客户的一个共同点是需要更多地了解他们的环境(无论是他们所在的环境还是正在监控的环境),将传感器和数据连接起来并提供数据。他们希望增加这些数据的使用,并从中获得更多的情景感知。

因此,不妨想想机场。我们需要跟踪跟踪人们聚集的地点、跟踪队列时间等。在新冠疫情早期阶段时,我们有必要使用前额传感器跟踪身体测量数据。机场空间已受到监控,但现在需要连接数据。用于观察前额的传感器通常不会连接到正在查看队列的摄像头。现在,他们需要这样做。

它在数据点之间建立联系:您可以看到这个人已经排了 30 分钟的队,但您也会看到他们体温很高,并且没有采取社交隔离措施。或者您会看到这个人拿着袋子,正在跟袋子一起移动,现在袋子静止不动,但该人一直在移动。

如果愿意,您不仅可以查看航站楼 A 的 2 号门,还需要所有的航站楼和所有的门,你需要在单一虚拟管理平台上看到它们。这是 SceneScape 所能够带来的好处之一。

英特尔® SceneScape 如何解决隐私问题?

隐私绝对重要。但我们只是观察探测的实际物体 — 它是人,是物品,还是汽车?我们要确定它是什么,确定实际距离,确定运动方式。我们实际上不会进行面部识别或类似的任何操作。我们推理数据,但随后也允许客户实施他们针对特定应用所作的选择。

您认为这一领域下一步的发展方向是什么?

我期待的其中一个用例是患者数字孪生。现在,您会在不同地方有着不同的医疗记录。历史数据并没有与被实时数据一起使用,也不会被用于与可能适用于许多患者的大量病史数据进行比较。因此,我很希望能看到一个不断更新的病人数字孪生系统,那将是最理想的情况。

但是如果只跟踪医疗器械会怎样?手术前有 10 件医疗器械,您要确保手术结束后仍然有 10 件医疗器械,不会被无意中遗落在不应该遗落的地方。

因此,正如我刚才已提到的那样,有一些即时应用可以帮助当今的企业运营。然后是我认为我们都在期待的未来状态,我希望患者能拥有数字孪生。

我认为当企业开始意识到他们可以消除数据孤岛,并在各种应用中建立数据和系统之间的关系或联系——不仅是在一个房间,也不在同一个楼层,或者同一栋建筑,甚至可能跨越整个园区。他们可以开始获得实际价值,从而影响到利润 — 他们可以赚更多的钱,也可以节省更多的钱。

您最后还有什么重要的想法要和我们分享?

将交通状况视为一个用例;位置情报可以帮助拯救生命。我们发现客户会将 SceneScape 与这个应用结合起来看待。如今,许多汽车都配备了摄像头传感器(倒车传感器或前置摄像头),并且大多数十字路口都装有摄像头。但现在他们不再相互交谈。

那么,如果有一辆汽车正在快速行驶,并且还有一台摄像头可以看到行人靠近盲点,该怎么做呢。我希望汽车知道这一点,并开始自动减速。现在,大多数汽车在遭遇 另一辆骑车 时,如果行驶速度过快,将会自动开始减速。但如果不知道某个人正在拐角处,他们就无法做到这一点,因为他们看不到。或者说,即使摄像头可以看到,他们并不一定知道人离车有多远或车速有多快。

作为人类,我们进入汽车后,就知道它的速度有多快,知道是否有人走过来了。我们认为自己的大脑会将此视为理所当然。但摄像头并不理解这一点。因此,这是一种可以应用于当今的应用,一些城市实际上正在研究这些类型的应用。

这就是为何人工智能与这些技术以及传感器数据的集成如此重要。它使这些系统更加智能,并真正了解环境。同样,基于时间的空间情报:距离、时间、速度、物体之间的关系。

而这正是我们正在努力的目标 —— 与英特尔所拥有的庞大生态系统合作,让企业能够轻松实施这项技术。这是一个激动人心的时刻,我们期待帮助企业有所作为。

相关内容

要进一步了解位置情报的重要性,请收听 利用人工智能和数字孪生获取位置情报 并阅读 利用英特尔® SceneScape监控、跟踪和分析任何空间。如需了解英特尔的最新创新技术,请在 Twitter 上 @intel 并在 LinkedIn 上关注 英特尔公司

 

本文由文案编辑 Erin Noble 编辑

行业工具:助力 AI 开发人员进行创新

人工智能正在颠覆各个行业,创造各种机会并改善客户体验。AI 开发人员处于这场革命的最前沿,他们构建了可塑造未来的解决方案。因此,他们为自己配备了合适的工具,以将其 AI 解决方案和计算机视觉应用变为现实,这一点非常重要。

为全方位了解开发人员应该跟进的最新趋势和技术,我们采访了英特尔网络及边缘事业群副总裁和解决方案工程部总经理 Bill Pearson 以及物联网副总裁和边缘推理产品总监 Adam Burns。Pearson 和 Adams 讨论了行业趋势和英特尔技术、工具以及更容易在博弈中保持领先地位的计划。

是什么样的行业趋势在推动物联网、边缘和 AI 解决方案需求?

Bill Pearson: 我能想到四种行业趋势:

  • 世界正在日益受软件定义。网络、应用程序和基础设施都是如此。AI 几乎在每个用例中都变得越来越普遍。
  • 变化的速度正在迅速加快。
  • 世界在这个领域的发展速度越来越快,我们的行动也非常迅速。
  • 我们需要朝着现代 AI 开发人员所期望的简便性和可用性的方向前进。

将其想象为云原生范式:开发人员收集的所有学习内容,现在他们希望能够在其他地方得到应用。

看看苹果为手机所做的事情。他们向各位表明,任何体验都应该令人愉悦。它应该简单而直接。现在,这种期望正在进入开发领域。当所有内容打包在一起时,我们基本上是需要构建软件定义的 AI 用例,这些用例非常简单,方便人们在日常生活中应用。

Adam Burns:我完全同意。如果将这些趋势应用于市场的转变,特别是在边缘物联网世界,那么过去几年中,这种转变迅速加速。英特尔在 30 多年前发起的嵌入式世界,其重点是关注可靠性。开发人员正在寻找非常可靠的软硬件的组合,可以在生产过程中使用五到十年,而不必有任何担心。现在,我们的转变是:“我想了解该设备及其所在系统正在发生的一切。我想了解如何提高效率。”

Bill 提到的软件定义系统、AI 以及所有这些事情的结合,都是为了做到这一点。与我们对嵌入式计算的传统看法相比,开发人员和操作人员思维模式的这种转变从根本上改变了人们的要求。

开发人员在构建边缘 AI 应用程序时面临哪些挑战?

Bill Pearson: 第一个挑战是我要如何开始?行业中有众多选项和许多噪音。首先,人们询问,开始实现他们的目标和关键绩效指标的途径是什么。接下来,他们寻找最有效的方法,在其独特用例中实现他们想要做的事情。

第三,开发人员希望确定合适的解决方案,以最好地满足该用例的需求。例如,如果他们向供应商征求,而供应商提供了参考解决方案或产品,那么他们预期的需求是否能够满足?对于英特尔来说,关键在于我们如何帮助开发人员,确保他们不仅可以实现自己的目标,而且他们选择的解决方案能够帮助他们实现目标。

该解决方案的一部分是其中包含的硬件。我将它保留在最后,因为这不是开发人员所做的第一选择,但它是一个重要的选择。同时英特尔希望开发人员能够更轻松地使用合适的硬件,并且给他们带来最佳结果。因此,他们不会建造过大、耗电过多、热量过多,或物理空间不适合的东西,特别是在边缘。

Adam Burns: 因此,我想制作一个计算机视觉应用程序,以便于在装配线上进行机器缺陷检测。那里会有很多很好的分类模型。例如,我们的合作伙伴 Hugging Face 拥有最大的人工智能模型生态系统之一,它使用一系列可应用于计算机视觉的模型或变压器。

现在,他们有一个运行良好的常规模型,那么他们将如何根据自己的特定应用程序进行微调?一位资深的数据科学家可能希望获取大量数据,然后自己进行训练。但应用程序开发人员可能希望拥有英特尔® Geti 等专用工具,在有限的训练和计算水平下获取相对较少的数据,并且能够生成非常准确的模型。

现在,他们如何部署才能根据合适的硬件类型进行优化?开发人员可以使用英特尔® DevCloud、英特尔® Geti 和英特尔® 发行版 OpenVINO 工具套件等工具将模型压缩到适合边缘的尺寸。然后,他们可以使用 DevCloud 来确定是否最好在带有 GPU 的英特尔® 酷睿 处理器上运行,或者是否应在英特尔凌动® 上运行。或者,由于工作负载较重,他们是否需要升级到英特尔® 至强®?Bill 刚才提到这些类型的决策,包括寻找合适的应用程序、调整以适合用途,并确保将其部署在合适的硬件上。

我们希望通过该完整的工作流程为开发人员提供指南。我们发现特别是在 AI 方面,开发人员对这些模型提出的创意中,有 50% 以上无法投入生产。因此,对我们来说,重要的是通过尽可能最具成本效益的方式将其投入生产并部署解决方案。

还有哪些其他英特尔工具可以简化该路径?

Bill Pearson: Adam 在这方面做得很好。当谈到解决方案时,让我们看看英特尔® 边缘软件中心及其所有参考实施。例如,开发人员想知道如何将某些要素组合在一起,以实现顺畅结账。边缘软件中心可以向他们展示不同要素的组合方式以及帮助他们实现组合的代码,然后根据需要使用实施。

您会越来越多地发现这些。我们提供作为扩展 OpenVINO 工具套件一部分的 Jupyter 笔记本,其中包含开发人员可以立即应用的操作示例集,目前可在 DevCloud 上运行这些示例集。因此,他们可以立即说:“我对 AI 解决方案感兴趣,我可以使用 OpenVINO,我拥有这些 Jupyter 笔记本,现在就开始试用。”

正如 Adam 所说,我们将这些要素整合到此工作流程中,以方便他们可视化自己想要创建的解决方案,并使用我们提供的示例和参考来了解如何做到这一点。然后,他们可以立即使用我们的工具,了解将如何应用该工具以及他们需要的硬件。当然,他们总是可以使用 Geti 和 OpenVINO,搞清楚如何将其构建到最终尝试部署的产品中。

您是否可以进一步谈谈 OpenVINO 工具套件?

Adam Burns: OpenVINO 旨在从模型和网络的角度扩展其广度。虽然我们一开始就专注于计算机视觉,但发现 AI 的多模式用途更多。一个工业示例是使用计算机视觉应用程序了解故障和音频信号,以监听电机或轴承并确定该系统是否可能发生故障。

我们看到越来越多的客户希望使用生成式 AI 并结合不同类型的 AI,我们扩展 OpenVINO 以跟进这些类型的模型。例如,我们与 Hugging Face 共同发布博客,介绍 Stable Diffusion 的性能。我们正在开发 Dolly 和 LLaMa 等新型开放式聊天机器人系统,以确保我们为之提供合适的性能。我们始终专注于广度和开发人员效率。

因此,我们提供不同的路线图,以满足各种开发人员需求。有了 OpenVINO 23.0 版本以及我们在 CPU 路线图中提供的性能核和能效核,我们将自动使用这些内核,从而为系统及其上运行的工作负载提供最高效率。

OpenVINO 如何为生成式 AI 等新趋势提供支持?

Adam Burns: 从市场角度来看,生成式 AI 是每家企业每次对话都会提到的内容。我们发现巨大的需求,生成式 AI 正在开启这些对话。

我们一直专注于通过多种技术优化 OpenVINO,例如,先从流行 NLP 风格模型和 ChatGPT 开始。让我们来看一下 OpenVINO 的优化和便携性。

但它并不是每个问题的答案。生成式 AI 产生强大效力的时刻是,当您不只是开始关注主要应用程序,还关注所有集成工作时。它能够了解接口并帮助客户自动化集成、系统设置,也可以做到许多不同的事情。它会使操作人员和开发人员异常高效。

行业中领先的 AI 开发人员表示:“我现在只编写约 20% 的代码,因为生成式 AI 正在完成许多代码编写和设置类型的工作。我可以真正专注于算法以及实现自我增值的特别之处。”因此,它是一个惊人的能力倍增器,可以提高开发人员的工作效率。了解企业即将推出的应用程序会非常有趣。从 OpenVINO 的角度来看,至关重要的是,我们不仅要在云端提供支持,还要对这些模型进行调整和微调,以便为边缘专门构建。

Bill Pearson:尽管进行了多年的研究,但目前尚处于早期阶段,我们才刚刚起步。随着生成式 AI 突破公众认知,它创造出更多的 AI 意识。但它也打造了更多的实验,事实证明,它在这方面非常优秀。目前正在探索许多有趣的用例,但我认为故事还未开始书写。

对我来说,有趣的是,我们有两件事要做。一是生成式 AI 创造可能的艺术。这个故事只是想象力的故事,我们将对它的未来走向感到惊讶。实际上,如今许多客户可以利用其带来的机会探索他们真正需求:他们试图实现的 KPI,试图实施的用例。但在许多情况下,我们无需生成式 AI 即可做到这一点,坦白地说,有更专注、更具成本效益的优秀解决方案可为此提供帮助。关键在于帮助我们的客户找到他们试图解决的问题的合适解决方案。

对于想要了解更多详情的开发人员,如何开始?

Bill Pearson: 如果您希望构建解决方案, 英特尔® 开发人员专区 是适合您开始的地方。您将在这里找到英特尔提供的所有工具,例如边缘软件中心和 OpenVINO。如果您对构建边缘 AI 应用程序特别感兴趣,可以直接访问 OpenVINO.ai,这是另一个绝佳的起点。

Adam Burns: 我认为,我们生活在一个人们希望实际操作并修正的世界。在这里,人们可以使用边缘软件中心真正深入探索解决方案并了解它们。

你们是否要为我们的对话作其他补充?

Bill Pearson: 对我来说,进入这个行业没有更好的时机,原因是快速变化的市场节奏、软件定义一切以及 AI 变得如此流行。成为开发人员是激动人心的时刻,是参与构建现代解决方案的激动人心的时刻,我们都会在此过程中帮助创造这些解决方案。

Adam Burns: 正如 Bill 所说,看到开发人员、客户和合作伙伴能够利用我们的技术实现目标,这是令人非常满意和愉悦的。皇家布朗普顿医院和儿科肺疾病检查即为一个很好的案例。刚好我堂表兄弟的一个女儿患有肺部疾病。得到这些案例后,我们立即可以发现真实的价值,无论是确保个人更快地获得所需的诊断,还是提高工厂的效率。能够参与其中并允许开发人员创造出他们所能创造的东西,这令人满意,也非常有益。

 

本文由 insight.tech 的副主编 Christina Cardoza 编辑。

零信任带来持续的数据保护

在数字经济中开展业务需要应对重大风险,潜藏的网络攻击者和数据窃贼可谓无处不在。鉴于网络攻击随时可能出现,组织越来越多地寻求通过零信任架构来加强防御。

零信任的概念代表着业界对网络安全的重新思考:在无法验证安全无虞的 IT 环境中,该如何做到安全运营?即便入侵者成功侵入网络,在网络内部,他们也会在每一个环节遇到障碍,必须应对多重验证要求。零信任在用户、系统和设备每次尝试访问资产时都要求其经过验证过程。

“它的基本理念是不信任任何东西,核实一切,不作假设。根据需要,频繁进行重新验证,”零信任安全解决方案供应商 Zscaler 的 5G 全球副总裁 Ken Urquhart 指出。

网络安全团队的传统运营方式背后是一种“围攻心态”,即用一个或多个防火墙将“我们的 IT 设备”与网络攻击者隔开,Urquhart 表示,但是本地设备、云、边缘和物联网系统的激增扩大并模糊了简单周界的概念,给数据安全管理带来越来越大的挑战。

当攻击者成功侵入时,他们通常会潜伏在组织的网络中,平均长达 9 个月之久,不断窃取数据、制造干扰,却能做到不被发现。公司无法确切知道入侵者在他们的系统中潜伏了多久,也不清楚他们窃取了多少数据。Urquhart 指出,“当今的组织必须 100% 成功化解所有攻击,才能保证安全;而攻击者只需要成功侵入一次就够了。”“我们从上世纪 80 年代就开始使用防火墙,这背后的基本假设是,只要你进入防火墙内部,基本上就会被视为受信任的用户。”

Zscaler 提供持续数据保护,利用加密通信、监控和分析来防止攻击者窥探组织的行动,甚至让它们根本看不到组织。在 Zscaler 技术的保护下,设备和应用程序无法被网络上的其他设备检测到。Urquhart 说,“你无法攻击看不见的东西。”

该公司的理念是在整个网络环境中提供无缝体验,无论要跨越多遥远的地理距离。借助 Zscaler 的力量,客户得以专注于自己的核心业务,无需为抵御威胁而展开持久战。

零信任解决网络安全挑战

多年来,联邦快递 (FedEx)、英国石油 (British Petroleum)、西门子和通用电气等全球性组织一直依靠 Zscaler 来保护他们庞大的全球网络。例如,西门子将基础设施成本降低了 70%;而通用电气 80% 的员工在一项调研中表示,有了 Zscaler,他们工作起来更觉轻松。采用 Zscaler 技术后,一家长期为续勒索软件问题所苦的油气领域客户遭受的攻击惊人地减少了 3500%。

Zscaler 成立于 2008 年,正是零信任运动肇始之初。Urquhart 表示:“我们运营着一个安全的全球通信网络,每天扫描超过 18 拍字节的数据,处理 3200 多亿笔交易,相当于谷歌单日搜索次数的 20 多倍,同时每天还要处理超过 90 亿起突发事件和政策违规事件,每天运用 AI/机器学习解释超过 500 太字节的元数据和信号。”

在千变万化的威胁面前,组织往往需要艰苦捍卫他们的环境免受破坏。当新威胁层出不穷、而旧威胁像病毒变异般改头换面时,网络安全团队只能通过不断添加工具和协议来与之对抗。他们还必须保护组织为利用新功能而添加的新应用程序和系统。

“随着时间的推移,就产生了一大堆解决方案,它们需要不同的配置、不同的补丁级别、不同的补丁频率、不同的管理界面。” Urquhart 指出。要不了多久,这套程序就会变得过于复杂,从而可能会制造出更多漏洞。

雪上加霜的是,组织十分依赖这些他们无法(或没能力)控制的系统,Urquhart 补充道,“我们必须在不属于我们的远程通信系统上运营。我们必须通过不属于我们的网络运营。我们把数据放进不属于我们的公有云中。我们得到了安全性的许诺,但却鲜少有人邀请你进行完整的安全审计,并逐行检查每个漏洞的每段代码 — 即便受邀,也没有一个组织能够真正完整地执行这项任务。你必须信任别人的说法。”

而有了零信任,无论何时,当用户、设备、网络、应用程序和数据试图建立连接,它们都要经受多级持续验证,例如多因素认证、生物特征识别和硬件密钥。当用户试图从不同的设备、不同的地点、在不符合规律的时间登录时,也会被该程序识别出来,从而触发额外的验证步骤。

合作伙伴关系对数据安全管理具有至关重要的意义

Zscaler 的零信任架构依赖自动化和编排来实现实时监控和流量分析。数据在跨越多个国家/地区和大洲、穿越多云和网络时被加密和监控。为了实现这一切,Zscaler 与美超微 (Supermicro)、CrowdStrike 和英特尔等多个合作伙伴合作,采用它们提供的诸多技术解决方案。Zscaler 还从 40 个合作伙伴那里收集、共享和接收威胁情报,以便隔离、分析和创建阻断规则。

采用英特尔® 至强® 可扩展处理器的美超微硬件为 ZScaler 的边缘到云安全服务边缘 (SSE) 技术提供支持,该技术会先对所有边缘和远程工作人员流量进行检查,然后再将其路由到目的地。

为减少攻击面,Zscaler 与 CrowdStrike 集成,通过多种方式最大限度地阻拦威胁的横向移动,确保只有受信任和受保护的设备能访问经授权的应用程序和数据。  Zscaler 会在未知和恶意文件到达最终用户之前将其拦截,并通过 CrowdStrike 触发跨平台控制操作。

借助 CrowdStrike 设备姿势评分,Zscaler 管理员可以通过配置策略,阻止来自低信任评分设备的访问,或只允许通过远程浏览器隔离访问,在提高用户办公效率的同时防止数据泄露。这有助于防止宝贵的知识产权和个人身份信息泄露,同时也可阻止勒索软件和其他恶意载荷进入。

此外,还有一个额外的好处:Zscaler 的方法减少了网络和通信基础设施,他说:“客户只需将他们的办公室、远程工作人员或数据中心连接到本地互联网。从那里开始,就由 Zscaler 来接手。”

对于 Zscaler 的零信任方法而言,来自英特尔等合作伙伴的技术是关键。随着英特尔对硬件进行优化,Zscaler 通常会率先将该技术应用于当前项目,因为它“无时不刻地致力于提高效率,” Urquhart 表示。

零信任是目前最高效也最有效的网络安全方法。它的概念并不那么好理解,因为与更简单的“我们在里面,攻击者在外面”的防火墙相比,它属于深层防御的范式。Zscaler 在这一领域已深耕 15 年,而且我们始终通过采用新技术和吸收客户反馈来不断改进我们的方法,” Urquhart 指出,“我们试图告诉世界,处理网络安全的方式不止一种。”

 

insight.tech 的副主编 Georganne Benesch 编辑。

实时自动转录可将数据保留在边缘

在当今的混合办公模式下,花费在会议上的时间猛增。实际情况是员工和同事分布于各个不同地点,需要召开更多会议才能确保每个人达成共识,协同完成工作。尽管这样做解决了一个问题,但也带来了许多意想不到的后果。

例如,与会者现在必须花费更多时间专注于会议内容并记录会议笔记,这类工作可能比较繁琐,并占用了他们处理有价值日常工作的时间。尽管已有自动转录解决方案,但这也带来了一系列数据隐私、连接性和时间方面的挑战。

因此,集成技术和服务提供商 Cedat85 着手打造一款先进的解决方案,该解决方案可满足当代 AI 驱动型解决方案的所有要求,同时又具备企业当前所需的最高安全性和离线功能。CABOLO One 是作为语音转文本设备开发的,可提供一系列服务,包括实时录制、自动转录、翻译和存档,同时可充当索引编制边缘解决方案。

为机密会议提供自动转录

CABOLO One 的构思是在收到 Cedat85 全球客户群的重要反馈后提出的。最终用户表示,在转录和翻译敏感会议时需要增强隐私性和安全性,而这一切都需要离线操作,以符合欧盟《通用数据保护条例》(GDPR) 的规定。

为应对这些迫切需求,Cedat85 的工程团队精心打造了 CABOLO 套件。

该解决方案利用了边缘,以确保只有数据所有者才能访问数据。与会者无论身处同一间会议室还是远程参会,均可通过 WiFi 热点连接到 CABOLO One。用户可以使用自己的电脑、移动设备或平板电脑,然后通过安全密码连接设备的 WiFi 热点。

将数据保留在边缘还可确保任何云提供商,甚至 Cedat85,都无法获取数据。自动转录下载通过 AES-256 进行加密,这是市面上最强大的加密标准。

尽管保密需求催生出这款解决方案,但 Cedat85 也看到了提供高级功能以实现包容性和可访问性的机会。在新冠疫情期间,居家办公和远程学习的人数激增,为所有用户提供适当的访问权限成为当务之急。为工作会议和员工协作提供远程连接已成常态,但并非所有人都可以连接。

“当意大利出现第一次封锁时,一位多年来一直在使用我们解决方案的客户表示,‘我们无法为听障员工提供支持。我们无法向他们的住所派遣翻译人员或手语翻译,” Cedat85 营销总监 Selena Gray 说道。“这些员工无法参与会议,但有了这项技术,他们能够一如既往参加所有会议。”

由于 CABOLO 在边缘运行,因而消除了因互联网连接不畅而造成的延迟问题。且由于它自动开展工作,因此可节省组织转录会议内容所花费的时间和费用。

Gray 说:“这就像是一个会议助手。您只需在后台运行该解决方案,它便可逐字记录、建立索引,并在离线时为您创建存档。”

为各个行业提供数字化支持

在各行各业的组织纷纷将数字化支持纳入其业务战略一部分的背景下,CABOLO One 的客户群稳步增长。该解决方案已应用于银行和金融跨国公司、制药公司、意大利众议院和几所大学。

除了录制和转录服务之外,Cedat85 还确保 CABOLO 能够转录 30 多种语言的文本,并翻译多达 60 种语言。

欧洲议会也采用了这一核心技术,该组织使用 CABOLO One 跨欧盟内部所用的 24 种语言进行实时转录和翻译。

这项技术对于听障学生和母语为其他语言的学生尤其有益。在大学里,无论学生是坐在教室中还是远程接入课堂,它都可以在学生听课时实时将字幕发送到屏幕。还可以将内容翻译为学生的母语。在英国等国家或地区,外国学生占校园人口相当大的一部分,因而翻译功能尤其受欢迎。

Gray 表示:“不管是谁说了任何话,说话内容将即时出现在您面前,这些内容经过转录,打成字幕,在某些情况下还进行了翻译。”

米兰博科尼大学部署了这一设备,通过为全校范围的活动配上字幕,实现了包容性和可访问性。最初,该大学仅以意大利语使用该工具,但随后又要求采用其他语言。他们最终采用了一体化系统,能够即时配上多种语言的字幕。

它还可以用于制药公司和大学等研究机构。CABOLO One 会保留讨论记录,供与会者后期参考,以便对各个行动项目进行跟踪。Gray 说:“他们可以录制所有会议内容,不论是头脑风暴、技术探讨,还是有关如何以独特方式协作进行开发的讨论。他们可以保留讨论过的每个细节,并可以返回查看,甚至可以搜索会议中说过的某些术语和词汇。”

寻找合适的合作伙伴,将数据引至边缘

从 CABOLO One 项目启动开始,有一件事显而易见,即要成功部署该项技术,就迫切需要一个具有全球影响力、可靠且富有创新和协作精神的合作伙伴。经过广泛细致的评估流程,工程团队确定英特尔是具备所有这些基本要素的理想协作伙伴。将英特尔视为这一工作中的关键合作伙伴,便已做好将这一愿景变为现实的准备,并有望为客户提供卓越的技术。

在英特尔技术的助力下,该公司能够将该解决方案作为独立的边缘设备提供,并实现其功能的不断提升。Cedat85 已开发出包含转录、字幕、翻译和关键字搜索功能的视频版本。借助英特尔® 发行版 OpenVINO 工具套件,Cedat85 可确保其语音转文本设备提供高性能、高效率和高准确度。

Gray 表示:“成为英特尔的合作伙伴意味着我们拥有了一个平台,我们可以在该平台上继续构建不同的解决方案,满足不同的需求,并改进我们的研究和开发活动。”

该公司计划扩展 CABOLO One 的高级功能,利用 AI 驱动的要点自动创建来汇总事件,并利用合成语音来支持会议实时进行。

Gray 表示:“这项技术可以让每个人获益。该设备不会让任何人在工作中出现冗余情况,它只是一台尽可能为每个人提供帮助和支持的设备。”

 

本文由 insight.tech 的副主编 Christina Cardoza 编辑。

面向坚固型边缘嵌入式设备的 COM-HPC 标准

我们不再使用传真机发送商务消息的理由很充分。当然,它可以完成发送工作,但却无法跟上当今商业往来的惊人速度。

Christian Eder 面对当今的计算环境也提出了类似的论点,Christian Eder 是嵌入式计算机主板和模块供应商 congatec 的联合创始人之一兼市场营销总监,同时也是 PICMG COM-HPC 的主席。

数据的生成速度达到了前所未有的地步,传输和存储数据的能力正成为我们在数据利用方面面临的主要瓶颈。通常,数据将传输到云端或数据中心进行分析,但这种类型的基础设施有时无法应对我们随手可得的大量数据。

边缘计算和嵌入式设备的增加

为克服大量数据往返于云端所带来的延迟和成本,AI 推理越来越多地在边缘进行。因此,曾经单靠受温度控制的数据中心内的服务器实现的计算能力现在预计会通过小很多且坚固的外形规格实现,以便能在更广泛的温度范围内承托高数据吞吐量。

直到最近,这些嵌入式边缘设备还利用 COM Express 模块化计算机标准在零售、交通和机器人等领域提供中端边缘处理和网络功能。但随着技术的日新月异,该标准开始无法满足边缘计算量和数据吞吐量增加的需求。

Eder 说:“在 COM Express 标准下,我们已经触及天花板;已没有提升空间。我们需要在坚固型边缘中提高数据吞吐量、提高带宽、降低延迟并提升计算能力,因此迫切需要定义一个无需担心向后兼容问题的新标准。我们需要新的连接器和新的尺寸,以提供前所未有的强大性能和功能。”

面向坚固型边缘的 COM-HPC 标准

为了满足对新标准的需求,PCI Industrial Computer Manufacturing Group (PICMG) 将工业嵌入式市场中的行业领导者聚集在一起,共同创建了 COM-HPC 标准。Eder 解释道,新标准旨在满足当今嵌入式系统的更高需求,并且可以承受高温,交付闪电般的计算速度。他补充道:“随着技术的进步,COM-HPC 将成为未来 10 到 15 年内的稳定标准。”

此外,COM-HPC 的一个更新的迭代版本(其迷你等效版本)正在为目前最小的高性能标准化模块提供服务,此类模块的大小几乎与信用卡相当。该标准非常适用于小外形 (SFF) 设计,可满足功耗和空间限制,同时仍能交付出色的 IO 和计算能力。

congatec 最近推出了其首个 COM-HPC Mini 模块,可让客户的空间受限型解决方案实现大幅性能提升。Eder 说:“我们的目的是让它成为使用低功耗范围的第 13 代英特尔® 酷睿 处理器的合适平台。该模块可以节省成本和空间,且仅限于低功耗 CPU 使用,但计算能力却非常强大。”

坚固型边缘合作伙伴关系

congatec 与英特尔等公司的合作伙伴关系对于采用最新的模块化计算机标准开发解决方案至关重要,可以让这些公司更好地了解技术领域的最新进展。

Eder 说:“通过参与早期访问计划,我们能够在英特尔发布新技术之前获得已经设计好的产品,这样,我们的客户能够快速访问最新技术,并缩短上市时间。”

了解 congatec 可利用哪些即将推出的产品,采用更加坚固的标准开发模块。利用第 13 代英特尔酷睿处理器,congatec 的 COM-HPC 模块可提高性能和 AI 推理能力、改进 GPU,并能承受从零下 40 摄氏度到 85 摄氏度之间的严苛温度。这些处理器还满足了视频流和分析应用程序可能需要的高图形要求。

迁移到 COM-HPC

鉴于 COM-HPC 标准的诸多优势,Eder 认为是时候将性能低下的系统从 COM Express 迁移到 COM-HPC 了。他说:“模块化概念的亮点在于您可以在不弃用整体解决方案的情况下,将现有应用程序升级到其他功率范围。您只需更换模块即可。”从 COM Express 切换到 COM-HPC 时,必须修改载板。但仅升级到未来的 CPU 技术就像仅更改计算模块一样简单。

Eder 指出,利用模块化概念,无需更改整个系统,因而有助于防止浪费,更加环保。散热器或冷却接口也是模块生态系统标准的一部分,进一步增加了可持续性。

尽管实际的更换可能比较轻松,但其他组件可能需要进行调整,以充分利用新性能和更快的接口。

用 Eder 的话来说,congatec 提供了参考载板,“更便于大家上手,并检查各个应用程序所需的所有专属功能”,促进了采用。congatec 还开设有一个学院,向载板开发人员教授有关 COM-HPC 标准及其生态系统中的最佳设计实践。Eder 表示,培训的重点在于符合标准的载板设计,这对于构建可互操作、可扩展且耐用的定制嵌入式计算平台至关重要。

此外,congatec 还与合作伙伴网络开展合作,特别是那些可能在交通运输、通信和医疗保健等不同领域拥有标准实施要求专业知识的合作伙伴。Eder 表示:“在铁路等某些行业获得预认证可加快产品的广泛采用。鉴于 congatec 的模块化计算机产品可以承受冲击和振动,选定的 SKU 甚至获得了列车系统的使用认证”。预认证对于寻求兼容且全面的技术堆栈解决方案的系统集成商来说尤其有用。

随着未来计算向边缘的迁移,嵌入式边缘设备必须能够应对恶劣环境中繁重的工作负载。但 COM-HPC 已随时准备好应对挑战。毕竟,Eder 指出,“它由嵌入式专家打造,旨在简化最新嵌入式技术的使用。”

 

本文由 insight.tech 的副主编 Christina Cardoza 编辑。

数据驱动型文化的商业价值

物联网领域的任何人都应该不会对数据是业务成功的关键感到惊讶。计算机视觉为业务运营开辟了一个全新的视角,这导致了收集、管理和分析所有这些数据的需求,这反过来又为人工智能打开了一扇大门,因为人工智能提供了洞察力,并可以带来有价值的变化。现在,我们称之为数据驱动型文化的元素已经存在,这种文化不仅适用于一个行业,也适用于许多行业,范围从制造业到智能城市再到餐饮。

但是“数据驱动型文化”究竟意味着什么?它是否只是为试图实施数据驱动型文化的企业和组织带来更复杂和更新的挑战?我们采访了两位非常了解如何充分利用数据驱动型文化的人:人工智能和自动化零售解决方案提供商 Vistry 的创始人 Atif Kureishy视频人工智能操作系统和市场公司 Awiros工程主管 Saransh Karira(视频 1)。他们讨论了它的好处和挑战,以及数据驱动型文化如何将企业的不同方面连接起来,以创造真正的价值。

视频 1. Awiros 和 Vistry 解释了创建数据驱动型文化的价值以及成功实施这些文化的战略。(资料来源:insight.tech

当我们谈论数据驱动型文化时,这到底意味着什么?

Atif Kureishy:数据驱动型文化实际上是关于做出基于证据的决策的,即基于对来自您的企业数据的理解的决策,并能够信任该数据、分析数据并从中获得关键理解。然后最终做出决策,推动战略进步和战略计划。

第一代数据驱动型文化实际上是关于数据采集和数据理解的。该旅程的第二阶段持续了大约十年,然后开始在此基础上进行预测,这为机器学习领域引入了许多概念。现在我认为我们已经进入了第三代,引入了大型语言模型,LLM。

现在,我们不再拥有非常人性化的数据科学或数据工程密集型活动,而是转向采用人工智能系统,这些系统往往比我们更聪明。那么我们如何以值得信赖的方式与这些 LLM 共享大量的企业数据,以做出企业知情的决策。

Saransh Karira:在早期,数据策略就像任何类型数据的总称。但在过去 3 到 4 年中,我们看到整个环境发生了巨大变化,现在人们逐渐意识到您向系统提供的数据量就是您从系统获得的精度。

计算机视觉人工智能应用如何使数据更有价值?

Saransh Karira:正是数据政策方面的这些变化使数据更加容易访问。原始数据是第一步,然后一旦您有了此原始数据,就对其应用智能。但现在假设您有数千小时的数据,即使您可以访问这些数据,也无法真正访问这些数据;因为您无法筛选它。因此,这就是系统的用武之地,用于智能系统、机器学习系统。这一切都在迅速发生变化。

正因为如此,许多基础设施正在构建中,以集成大量数据。我认为数据的价值在于您可以连接许多不同类型的数据。因此,如果您将每个数据视为一个点,然后将它们连接在一起,则总和将超过各个部分。我们的许多客户都在他们不同的基础设施或不同的部门中连接数据。

我们可以通过一个用例(但它可以扩展到许多不同的组织)与政府广泛合作,例如,我们目前看到的是,他们将车辆预登记与摄像头连接起来,然后与护照连接起来。这些相互关联的数据变得比一个孤岛中的系统更有价值。

您与之合作的企业面临哪些挑战?

Atif Kureishy:在 Vistry,我们专注于餐厅-酒店领域。这是一个以人为本的企业,速度快,而且相对不复杂。这些企业开始进行更多的技术投资,但从历史上看,情况并非如此。因此,在大量位置部署和扩展的任何类型的功能都必须非常经济高效。

我们正在跟踪的许多东西都是厨房中的物品,这有助于形成一个独特的环境。当然,我们的训练基础设施的功能必须非常强大,才能检测、跟踪和理解在该环境中发生的活动。

这就是我认为英特尔特别带来了独特的价值主张的地方,从某种意义上说,您可以在餐厅里的商品计算上运行。或者可能部署下一代计算,并具有可以在边缘有效运行的机器学习和深度学习模型。英特尔集团提供的围绕 OpenVINO 和深度学习工具的一些技术提供了巨大的帮助。因此,我们可以非常轻松地在英特尔凌动® 平板电脑、i7 Tiger Lakes 和新的 Alder Lakes 上运行推理工作负载,并且可以有效地优化运行时。这对我们和我们的客户来说都非常有帮助。

您如何为这些企业创建数据驱动型文化和战略?

Atif Kureishy:让我们以生产控制为例,一家餐厅基本上是一个小型生产基地。从制造业意义上讲,您有库存计量,并且有工作产品的质量保证和监督。因此,如果您将其应用于餐厅空间,则可以想象一下您有订单通过数字、汽车餐厅、堂食进入。这些订单被收到后,它们就会整合到一个厨房,需要根据订单正确制作。

现在,人工智能和 ML 发挥作用的领域之一是,您可以在快餐店中创建生产计划,其中某些产品是预先制作的,然后保存起来。这是理想的场景,因为这样食品可以尽快配送。因此,您可以通过预测将获得多少和哪种类型的入站订单来最有效地构建和制造这些菜单项。这也使厨房不仅从劳动力的角度来看,而且从食物浪费的角度来看都更高效。

我们使用计算机视觉的另一个方面是库存管理——拥有可以查看碗或平底锅的摄像头,通过它对平底锅中的产品数量进行体积估计,以帮助告知生产计划。从精益制造的角度来看,这有点像即时概念。因此,先对需求进行建模,然后使用人工智能来确保供应充足。这就是餐厅的优化越来越通过数据来驱动的原因。

我们回想一下 20 年前餐厅的文化,它确实依赖于人,经理们利用他们的直觉预计:“我预计今天午餐时间会很忙。通常,将有一个实地考察,我将通过实地考察来安置人员。”顺便说一下,现在仍然有大量的餐厅(特别是小型餐馆和本地餐馆)以这种方式运营。但是,当您查看大型品牌时,它们绝对会转向这种数据驱动型文化。

我想强调餐厅的历史文化,因为我认为了解这一点非常重要,然后理解我们现在使用数据更有效地为顾客服务的意义。

Saransh,您在 Awiros 遇到过哪些用例?

Saransh Karira:其中一个用例在多个不同园区部署,并且每个园区都有多个不同的接入点。最初的实现只是为了查看有多少人进来,其中有多少是访客——基本上可以了解到,他们中有多少人曾经进来过,有多少人是第一次进来。这是最初的用例。

但是,客户随后使用这些信息根据人们的位置来更改其安全人员的配置——在人群较多的地方,他们增加了那里的安全性,并降低了其他接入点的安全性。因此,这非常有趣。

我们还看到了许多可以称之为元分析的用例,特别是在零售业。例如,我们的顾客可以通过观察客流量模式来改善商店布局和运营。元分析学的用武之地基本上是生成热图,以可视化地了解客流量多和少的地方,根据这些数据,我们的客户可以更改产品的配置和放置。

与英特尔等合作伙伴合作推广数据驱动型文化有什么价值?

Atif Kureishy:我们非常感谢与英特尔的合作伙伴关系。它需要一个村庄或广泛的生态系统来使这一切发挥作用。我想说的是,提供英特尔基础计算的 ODM 和 OEM 也与系统集成团队合作,这些团队最终需要在这些位置放置边缘设备和传感器,以便能够进行这种处理。

当然,由于我们拥有基于云的基础设施,我们与 AWS 密切合作。因此,英特尔是促进与更大社区对话和互动的关键部分。

然后,当然,围绕 OpenVINO 提供了一套强大的工具和基础设施。这对我们来说太好了。它允许我们优化在 CPU 上或 iGPU(集成式 GPU)上运行的处理类型。在与开源社区和各种深度学习框架合作方面也提供了很好的支持。这太好了。

Saransh Karira:利用 Awiros 的平台,我们试图创建视频智能应用生态系统。基本上,它从硬件开始,进入用例,然后进入市场。硬件是英特尔的先驱。除此之外,最重要的是不同的研究人员或任何第三方开发人员正在开发不同的用例。最重要的是还有一层市场,这是最终客户可以看到的。

我认为在边缘英特尔对于我们来说非常经济高效。其库在优化方面为我们提供了很多帮助,无论是用于推理(人工智能运行的实际部分)还是视频的解码部分,以及许多其他功能。此外,在很多方面为我们提供支持。

最终想法?数据驱动型文化的未来对于企业来说是什么样子的?

Atif Kureishy:我们和其他所有人一样,已经加入 GenAI 的潮流,并且在过去的几个月里,我们确实与 GPT-4 这样的模型进行了广泛的合作。在最初的几年里,我们重点关注生成,我们将其称为暗数据。我们如何在边缘应用计算机视觉工作负载来创建物理观察数据流?

然后,这些数据需要被纳入来自销售点、库存管理系统、时间报告系统的更大的数据基准或基础中。因此,我们一直在寻找 LLM 来真正与更大的、更广泛的数据集进行交互,并理解它。能够非常快速地做到这一点真的很迷人和惊人。

因此,如果我要给受众留下一些东西,那就是除了ChatGPT、获取食谱、寻找旅行路线和创作诗歌之外,我和我的孩子一起做过的事,我们做这些事情很有趣,这种新的人工智能浪潮确实对企业产生了重大影响,我们很高兴能成为这一旅程的一部分。

相关内容

要了解有关创建数据驱动型文化的更多信息,请收听通过数据驱动型决策来改变您的组织

要了解 Awiros 和 Vistry 的最新创新,请关注:

 

本文由文案编辑 Erin Noble 编辑