在开发人员社区中激发 AI 创新

Posted on by Micah Kaplan

企业使用 AI 来改变其行业，从制造业到医疗再到教育；这一点甚至连普通观察者都清楚。但这一切转型的背后是开发人员构建解决方案并推动创新。这种演变发生的速度非常快，甚至专业人士和专家都很难跟上。幸运的是，没有人需要独自掌握 AI 开发领域；可以利用由社区和合作伙伴关系组成的整个生态系统。

此次讨论的合作者是身处 AI 和开发人员社区中的两家公司代表：英特尔的 AI 传道者 Paula Ramos；和 Voxel51 联合创始人 Jason Corso。Jason 还是密歇根大学机器人与 EECS 系的教员。他们讨论 AI 的走向，开发人员如何为 AI 的进步做出贡献，以及参与开发社区的重要意义 – 为了企业和行业以及开发人员本身的利益（视频 1）。

视频 1。英特尔和 Voxel51 的行业思想领袖讨论着在开发人员社区中促进参与的重要意义。（资料来源：insight.tech）

AI 空间如何演变，以及是什么趋势塑造了 AI 空间？

Jason Corso：过去几年中，有一些重大发展推动了我们对 AI 的思考。第一个是这些大型语言模型的推出，可以捕获巨大的令牌长度并将自然人类语言嵌入模型中。这将为我们提供资源，让我们可以真正自然地交互。

我们还看到语言与视觉相结合是未来的一个关键趋势。这将带来全新的计算功能、公开可用数据，以及能够使用这些基本模型来，在 Voxel 称为“可视化 AI”中，解决新问题。

我想说的另一件事是，赞赏数据在各种 AI/ML 模型开发中发挥的作用。我们建立了这种文化，即模型为王。您在学校参加机器学习课程时，会开始使用所下载或教授给出的一些数据集来训练模型，大多数都侧重于算法。但 LLM 领域的领导者已经开始讨论数据、优秀数据、高质量数据在构建我们所用 AI 系统中的模型、代码和数据的结合中起着关键作用。

例如，在 Voxel，我们非常专注于数据所发挥的作用，并向开发人员提供工具，用于在模型中处理数据，而不是仅仅期待开发人员生成一些脚本来可视化数据。20 年前，我的数据集是数十个样本或数百个样本，对吧？现在，我们的数据集有几千万个样本。因此，实际管理数据集并理解失败模式和分布等等是非常困难的，我认为这需要全新的思维。

开发人员在 AI 进步中发挥什么作用？

Paula Ramos：开发人员每天都在寻找自己的路径，因为一切瞬息万变。他们需要推动人工智能这个巨大领域的创新，因此他们需要富有创造力，以解决问题。也许我们面临与 20 年前相同的问题，但现在有更好的工具；有更好的解决方案。我们还需要更多地考虑应用程序的最终用户。

现在有一些挑战，我认为我们在模型开发、数据管理以及如何轻松部署这些模型方面仍有增长空间。您使用云系统，还是使用边缘解决方案？解决方案总是必须尽可能简单，这是开发人员目前面临的主要挑战。

此外，在这个领域真正重要的部分是开源社区；这正在改变 AI 的节奏。当我们向所有人开放这些模型时，他们可以访问数据集并逐轮改进这些模型。

开发人员与英特尔等公司合作的最佳方式是什么？

Paula Ramos：我们现在拥有多个渠道和各种解决方案。例如，我们有硬件加速器，用于重新训练或微调模型。我们还有在边缘工作的解决方案。

还有开发人员可以访问的边缘参考套件。这是为复杂问题提供轻松解决方案的一种方式。而且我们在试图通利用教程、代码和视频，向他们展示如何浏览特定垂直领域：制造业、零售、医疗保健。也适用于 LLM，以及如何处理多个模型。

或者开发人员可以使用 OpenVINO™ 来优化和量化模型。这意味着他们可以使用与现有相同的基础架构，我们不会强迫开发人员购买特定硬件来运行模型，并且他们可以优化和量化 LLM。OpenVINO 还使开发人员能够轻松证明和测试这些 LLM。他们可以创建试运行，并提供示例，然后再转移到实际或最终生产系统。

我们有一个令人惊叹的存储库和开源社区，其中开发人员可以测试最新 AI 趋势。如果今天推出新内容，那么在两天之内，特定模型会显示在 OpenVINO 笔记本电脑存储库中。您可以在那里测试，例如 Llama 3.1、YOLOv10 和最新 AI 趋势。这是个很好的工具。

开发人员还可以访问英特尔开发人员云，测试多种硬件，再购买。这真的很酷。他们可以访问加速器和最新 AI 趋势，例如 AI PC。 

Voxel51 如何与开发人员互动？

Jason Corso：我们的软件称为 FiftyOne。它基本上是一个可视化组件，以及一个软件 SDK，用于完成我们在这里谈论的工作，例如数据和模型改进。但最近我们有了称为面板的新功能。您可以使用面板，为前端构建功能，而无需知道如何编写 React 或 JavaScript 或 UX 的东西。您可以直接在 Python 中编写，并且仍然可以增强 GUI 功能。

我们这家公司以开源为动力，但我们确实有数十名客户使用我们称为 FiftyOne Teams 的商业企业版 FiftyOne 软件，让您可以在团队、云中或本地中一起开发相同的功能。我们在制造业、安全和汽车领域拥有非常广泛的客户群。

我们今年早些时候结束了 B 轮融资，实际上我们招聘机器学习工程师等等人员，既填补核心工程工作，也填补开发人员关系工作。我们如此信任开发人员，所以我们雇佣受过充分培训、可以写论文和代码等的人，但他们的作用实际上是与社区建立桥梁。

行业活动如何帮助开发人员与更广泛的社区互动？

Jason Corso：Voxel 在 CVPR 之前举行了第一次面对面黑客马拉松。在这种参与中，我们看到开发人员很高兴与新技术互动，并真正试图在新团队中协同工作，以解决新问题。

这很有趣，但我认为开发人员活动的一个关键方面显然是教育。只有参加开发人员活动或会议，如 CVPR，才能真正与时俱进。去年我教了计算机视觉入门课程：从某种意义上说，我每周教三个小时，为 300 名学生举办这个开发人员活动，以了解计算机视觉。

但 AI 空间发展如此迅速，以至于似乎每个人都在不断收集信息，甚至在这个领域工作多年的教职员工。在各种事情上面紧跟最新趋势是不可能的，从尖端研究论文到您需要学习的新 API 和库等等。

因此，Voxel 试图做的是维护一种每周技术活动，真正让社区保持参与。例如，个人而言，东部时间周一中午，我都在办公，人人都可以在 Zoom 上登录。几周前，我们审查了某人的论文，然后我们浏览了幻灯片和实际技术模型。但这一切是这样的：“这是我第一次考虑进入计算机视觉。我应该关注哪些方面呢？

“因此，有关于基本功能的原始教育，以及开发人员活动，真正有助于互动，并且与时俱进。

是否有开发人员可以利用的其他可用资源？

Jason Corso：正如 Paula 早些时候所说，开源是促进创新的门户。我们的软件 FiftyOne 在 GitHub 上，您可以分叉，然后提交 PR。我们每个月或两个月发布一次，每次发布都有来自我们社区的一些内容。自从我们发布以来，我们加深了对社区需求的了解，并在过去 4 年中得到了社区贡献。我真的想对我们建立的开发人员社区表示感谢。这是一个充满活力和丰富的环境，如果没有这个社区，我们不会成为今天的样子。

有实际活动，但参与开源项目才是真正参与 AI 开发人员生态系统的另一个好方法。

英特尔如何促进开发人员参与社区？

Paula Ramos：在英特尔，我们一直在努力，我们正在创造多种方式，与开发人员一起创造这种创新。我们有一个巨大的生态系统，我们试图不仅触及推理部分，而且触及训练部分，例如通过异常检测。

我们有一个称为创新者计划的项目，让全球多名开发人员测试技术。他们可以制作自己的应用程序，然后与我们分享。基本上，他们创建自己的存储库，然后分叉他们的存储库，并创建新的应用程序。我将在我的 LinkedIn 和网络中重点介绍这些创新者，敬请关注。

我们参加的另一项活动是 Google Summer of Code（编程之夏），我们有几位开发人员与我们合作三个月，还有 OpenVINO 团队的不同导师。去年，参与 Google 编程之夏活动的一名学生与他们的导师一起发表了一篇关于 Anomalib 的论文。该论文提交给 CVPR 的视觉异常检查研讨会，并获得接受。

我们与大学的关系也发展迅猛，当然了，是帮助他们创建英特尔可以支持的研究和研究提案。我们还在通过会议，弥合了行业与学术界之间的差距。

我们真正希望在开源社区中工作，因为在这里最重要的是开发人员。我们总是认为，我们需要使开发人员能够在我们提供的软件中使用这种硬件，并且开发人员可以加速，以便他们可以改进他们的管道和工作负载。这是主要意图。

相关内容

要了解有关 AI 开发的更多信息，请听 AI 合作伙伴关系推动开发人员创新。有关 Voxel 的最新创新，请关注 X/Twitter 上的 @voxel51 以及他们的 LinkedIn 和 GitHub。有关英特尔的最新创新，请在 X/Twitter @intel、LinkedIn 和 GitHub 上关注。

 

本文由文案编辑 Erin Noble 编辑。

加速您的工业数字转型

Posted on by Micah Kaplan

在高度不确定、充满竞争的全球市场中，数字化转型是工业组织的最理想选择。为获得优势，制造业厂商部署最新的工业 4.0 技术如 AI 和计算机视觉等，以提升敏捷性、降低运营成本、保障业务安全、并增加营收。

但是工业数字化转型之路存在许多障碍：员工队伍高龄化、技能落后、网络安全风险日益增加、OT 和 IT 孤岛，以及使用广泛数据的复杂性。业务领导者需要清楚如何利用技术并克服这些难题，以及应该从哪里开始。与全球技术解决方案提供商 World Wide Technology (WWT) 这样的合作伙伴合作 – 他们在工业市场和技术方面高度专业 – 这是一个很好的开始。

“我们可以和客户合作，对影响业务的数字转型挑战进行定性与定量。我们会关注可降低风险的巨大机遇、降低成本、提高利润率、并增加收入，” WWT 的 AI 实践高级主管 Mike Trojecki 表示。

发布 Trojecki 认为，工业数字化转型不仅仅是指部署 AI 或计算机视觉等技术。还必须解决内部的文化问题。“IT 会觉得 OT 的人不理解 IT 角度的技术问题，这种思维由来已久了，”他解释道。“然后 OT 的人会觉得 IT 是他们完成工作的绊脚石。”

凭借 WWT 30 余年的工厂车间经验、与 IT 组织的合作经验，这家公司不仅可以帮助企业应对挑战，也可以成为 IT 和 OT 之间的通道，弥合差距。可能只是一次简单的培训，或者一个完整的端到端 POC，就可以完成 A 到 B 的必要步骤。

利用工业 4.0 技术克服业务挑战

WWT 了解客户的整体流程时，可以寻找解决关键业务挑战的相应技术与解决方案。

例如，工业组织面临的常见难题是员工在工厂车间的安全问题。“计算机视觉不仅仅是缺陷检查和检测，” Trojecki 表示。“它也是保障人们安全的技术。如果有人处于可能受到伤害的情境，AI 和计算机视觉可以识别安全问题，并采取行动防止受伤甚至死亡。”

WWT 还使用 AI 和其他工业 4.0 技术来推动数字孪生，这对于制造业环境来说至关重要，从产品模拟测试到工厂数字化，甚至通过虚拟环境运行某流程。数字孪生可以带来诸多价值，Trojecki 表示 WWT 正与客户在工厂、配送中心和数据中心开展这方面的工作。

“在新产品进入生产线之前，您可以创建一个虚拟版本，甚至可以验证流程变化而不需要实际操作，” Trojecki 说。“真实世界和流程世界的数字模拟版让运营和 IT 团队可以以更低风险和成本来提高成功率。”

可预测维护降低运营成本

在工厂车间实施可预测维护解决方案是 WWT 帮助客户实现制造流程现代化并降低运营成本的另一个例子。传统上，可预测维护一直是具有多年经验的工厂员工的职责，他们拥有通过异常振动或噪音来检测机器异常并解释未决问题的专业知识。

这一代工人退休后，企业正转向更具成本效益、但需要一套全新技能的数据分析模型。WWT 在 OT 和 IT 整合方面、培训新一代员工以及部署复杂 AI 解决方案方面的经验将得到回报。

例如，WWT 曾与需要将设备停机时间降至最短的机器制造商合作。公司的最终目标是减少制造过程中的错误和质量恶化。部署了一个可预测的维护解决方案（利用传感器数据和计算机视觉）来分析机器健康状况，并在出现问题之前采取行动，最终帮助降低机器的整体维护和支持成本。

WWT 与软件和硬件提供商合作，开发了一个完整的解决方案，让客户可以查看制造流程、更改控制网络并随时解决问题，而不是要将整个系统脱机。该解决方案提高了机器利用率，公司无需重新评估整个生产线。现在，客户可以延长机器的运行时间，减少停机时间，并降低产品出厂的成本。

与解决方案提供商的密切合作对于 WWT 的业务和客户成功来说至关重要。英特尔及其广阔的合作伙伴生态让 WWT 能够选择并实施合适的产品组合，能够最好地解决特定数字化转型难题。

并且这种获益是双向的。“我们从技术角度和解决方案开发角度与合作伙伴保持一致，” Trojecki 表示。“没有他们的支持，我们就无法完成此项工作。另一方面，说实话，他们也不能没有我们。”

工业数字化转型专业知识引领业务成功

随着公司利益相关者更关注新机遇，AI 已成为大多数对话的首要驱动因素。“客户会问，‘AI 会如何影响我们工厂中的工作？’‘它在我们的整体工业运营中会起到什么作用？’” Trojecki 问。“企业总需要从某些方面下手，而那些不采用新兴技术的企业很快会落伍。”

全球范围内，在帮助组织成功完成转型目标方面，WWT 处于领先地位。

 

本文编辑为 insight.tech 的主编 Christina Cardoza。

利用智能板实现无缝数字协作

Posted on by Micah Kaplan

想象一下使用白板的传统头脑风暴会议。在团队其他成员制定战略时，一个人会在白板上写下思路。另外一个人可能会记录会议纪要以在会议结束时分享。

几天后，每个人记得（和忘记）的要点全都取决于会议纪要记录者的效率。如果有同事远程电话参会，该过程会变得更加复杂。大多数人看不到白板上的内容，或听不清个别人的发言。

仅当所有参与者都在同一页面且完全同步时，数字协作才能有效果。在混合工作时代，顺利召开一场头脑风暴会议需要有完全集成的硬件和软件平台，以便每个人都可以轻松协作。

无缝智能板平台

cannyboard 解决方案是 TQ-Group 开发的一款产品，也是组织所需的一套全面的解决方案。触摸屏智能板显示屏充当主要的协作工具。它利用的是几乎每个参与者都有的设备：移动设备。通过一款应用程序，人们可以直接在 86 英寸触摸屏上画图、注释和处理内容。这样做的好处是可以利用交互式显示屏的触觉本质（图 1）。

两个人一起在 Cannyboard 显示屏上创建内容。
图 1。 cannyboard 是一款 86 英寸触摸屏智能板显示器，提供协作、内容注释和操作功能。 （来源：cannyboard)

他们还可以无线共享屏幕，这样便可以在不依赖白板的情况下在会上分享内容。

德国技术解决方案提供商 TQ 的 cannyboard 负责人 Sofie Bauer 表示，“在多名参与者需要快速、轻松地共享内容的协作环境中，这种灵活性至关重要”。

此外，通过 HDMI 和 USB 连接电脑的选项还可以拓展 cannyboard 的功能。Bauer 表示，“它不仅允许用户共享屏幕，还支持用户从 cannyboard 控制自己的设备，因而有效地将 cannyboard 变成自己设备的扩展”。cannyboard 将会议内容存储在云中，以便授权成员随时随地访问最新工作进展。

数字协作用例

cannyboard 支持需要团队成员协同工作的几乎所有环境中的应用。该解决方案有助于在各种空间中开展协作。其中包括企业会议室、会议厅、酒店、培训中心、共享办公空间、教育机构、创意机构、展厅、贸易展、展览和零售区。

智能板在体育和娱乐领域尤其有用。例如，TSV Herrsching 的专业排球运动员会使用 cannyboard 来为比赛做好准备。cannyboard 集成了会议、分析和战略开发所需的所有工具，无论参与者是共处一室还是远程接入会议，都能顺畅协作。

WWK Volleys 主教练 Thomas Ranner 表示，通过 cannyboard 开展视频分析对于赛前准备非常有帮助。在采用 cannyboard 之前，团队必须找到具有适当照明的位置，以便每个人都能看清楚投影仪所投射的内容。视频分析需要一块白板（用于草拟战术思路）、一台笔记本电脑以及每个队员用来显示比赛方案的设备。

“这样需要随身携带的设备太多，队员的注意力还要在各个设备之间来回切换。非常麻烦，”团队首席执行官兼教练 Max Hauser 表示。

如今，团队开会的方式完全不同。“我们不必在呈现视频、比赛方案和白板的不同设备之间来回切换，而是可以并行运行和编辑所有内容，从而可以更加轻松地进行会议，” Hauser 表示。cannyboard 用一台设备即可替代投影仪、笔记本电脑和白板。在板上播放比赛视频时，队友可以直接在视频或屏幕上画图或注释，同时还可以截屏。

交互式显示屏背后的技术

cannyboard 确保每场会议都单独进行，并且会议结束后不保留任何数据。TQ 表示，“通过实施自动数据删除、临时存储和会议隔离，cannyboard 可以保护用户数据并保护隐私，让用户相信每次使用系统时，其信息都是安全的。”

该解决方案基于最新的英特尔® 酷睿™ 处理器，用 Bauer 话说，就是可以确保“通过高算力和卓越的显卡带来出色的用户体验”。英特尔无线技术在 Wi-Fi 基础设施中提供高速集成，并支持蓝牙，以便轻松连接无线键盘等外部设备。通过英特尔性能混合架构提供的高电源效率，可降低整体功耗和运营成本。

数字协作的未来

Bauer 预测，数字协作将成为提高日常工作速度和效率的关键因素。

尤其是在与不同国家/地区和时区的成员合作时，数字协作可以节省差旅所花费的大量时间。通过在一个屏幕上进行交互，还可以减少混淆。Bauer 表示，“效率的提升让我们有时间休息、与家人和朋友共度时光，在这个快节奏的世界中，这一点至关重要。”

但是，尽管数字协作前途光明，但采用数字协作需要一种倡导开放性和灵活性的组织文化。数据密集型应用的使用日益广泛，将需要高速、可靠的带宽以及出色的音频、声音和视频质量。Bauer 表示，“此外，我们需要与现有系统无缝集成，以最大限度地提高新技术投资回报。”虚拟形象、虚拟现实、同步翻译、手势识别和语音命令很快将成为协作工具的一部分。

5G、边缘计算、云技术和 AI 的进步将塑造协作的未来。目前，身处各地的协作者都可以放心，因为基本白板头脑风暴的日子可能已成为过去。

 

本文由 insight.tech 的编辑主管 Georganne Benesch 编辑。

应对 5G OpenRAN 的设计挑战

Posted on by Micah Kaplan

5G 的到来引起了全球行业的关注，为大规模高速连接开辟了新的可能。例如，在制造业和智能城市等行业中，5G 让远端设施能够联网成一个统一的整体，从而实现前所未有的可见度和响应能力。

但许多应用都有公共 5G 网络无法满足的需求。这就是私有 5G 网络发挥长处的地方。“迫切需要定制基础设施来充分利用 5G的功能”，来自嵌入式计算机板和模块提供商 congatec 的基础设施市场细分部门的经理 Zeljko Loncaric 解释说，他指出安全、实时可靠和网络灵活性是部分关键要求。

对定制解决方案的需求不断增长，同时私有 5G 网络的采用恰好在完美时机出现，同时还涌现了 OpenRAN 等开放标准。这种转变为电信设备制造商 (TEM) 提供了特有的机会，让他们不再受由少数主要参与者主导的市场制约。相反，OpenRAN 的开放接口和标准促进了供应商的多元化，这是 TEM 的重要的战略关键点，Loncaric 补充道。

为 OpenRAN 开辟了新机遇

从历史上看，为了构建利用 OpenRAN 功能的 5G 解决方案，TEM 需要克服几个障碍。具体包括：

  • 集成来自不同来源的组件，同时保持高性能和低成本。
  • 确保强大的安全性。对于针对通常托管高价值数据的私有 5G 网络的 TEM，这是特别紧迫的问题。
  • 设计设备以应对恶劣环境。（5G 无线电的范围有限，意味着设备通常深入部署到现场。）
  • 确保解决方案可以有效扩展，以满足不同部署的需求。

这就是为什么 congatec 开发了一种解决方案，为 TEM 提供更快的上市路径。conga-HPC/sILH 平台旨在预集成最复杂的系统元素。该解决方案包括与核心网络的回程连接、两个 RF 天线模块、英特尔® 至强® D 处理器、安全的前向纠错 (FEC) 加速器以及完整的 FlexRAN 软件栈。

根据 Loncaric 的说法，该技术包适用于所有类型的 5G 无线电接入网络配置。借助 conga-HPC/sILH，TEM 可以专注于核心竞争力，并将特定 IP 保存在内部，为 5G OpenRAN 服务器提供高水平的信任和设计安全。

COM-HPC 在构建强大 5G 基础设施中的作用

该平台的核心是 COM-HPC 服务器大小 D 模块，该模块搭载了英特尔至强 D 处理器。这种组合提供 5G 应用所需的性能、效率和安全功能。值得注意的是，选定的模块支持从 -40°C 到 85°C 的极端温度范围，使 OpenRAN 服务器能够部署到超出空调服务器机房的限制。

模块插入英特尔的平台载板，为开发 5G 基础设施提供了强大、灵活的基础。例如，它支持广泛的接口和加速技术，并帮助 TEM 简化设计流程。

“载板是一个高度灵活的参考平台，可以展示我们产品的效果，并为 TEM 提供有力支持。通过与我们的 COM-HPC 服务器模块相结合，它可以实现快速定制构建，这些构建需要在 RAN 服务器中通常找不到的连接和接口。” Loncaric 说道。

在私有 5G 网络中实现安全和灵活性

为了克服 5G 的安全担忧，该平台包括英特尔® Software Guard Extensions，可实现安全通道设置和 5G 控制功能之间的通信。内置加密加速可降低完全数据加密对性能的影响，并提高加密密集型工作负载的性能。

为了精确计时，该平台集成了同步以太网 (SyncE) 和数字相位锁环 (DPLL) 振荡器。这些技术对于将节点与 5G 基础设施同步至关重要。

这些技术共同让 TEM 能够显著减少设计工作量并加快上市时间。该解决方案的模块化本质还优化了投资回报率和可持续性，因为系统可以通过简单的模块更换便能轻松扩展和升级。根据 Loncaric 的说法，与全面系统更换相比，这种方法可以将升级成本降低多达 50%。

展望：私有 5G 网络和 OpenRAN

congatec 将其平台的成功归功于与英特尔的合作。

“电信是一个非常难以进入的市场，直到大约 10 年前，这基本都不可能”，Loncaric 解释说。“通过与英特尔合作，并通过 O-RAN 联盟等举措，我们才能够一步步进入。从那时起，我们发布了几个新标准，最新标准基于英特尔至强 D，它非常适合多种特定领域的应用，例如校园网络和工业环境。”

展望未来，congatec 计划开发更多解决方案，以提供更高的性能。除此之外，该公司打算继续专注于开放标准和边缘计算专业知识。

“我们相信，我们对开放标准的承诺以及我们在边缘计算和工业应用方面的丰富经验，会让我们成为跨多个细分市场的 5G 技术的关键参与者。通过持续创新并与英特尔等行业领先的合作伙伴协作，我们立志于推动下一代通信网络的发展，确保它们持续满足现代应用不断变化的需求，” Loncaric 表示。

随着 5G 市场的持续发展，conga-HPC/sILH COM-HPC 平台等解决方案将发挥关键作用，确保让TEM 能够满足 5G OpenRAN 部署的多样化和快速变化的需求。通过提供灵活、集成和强大的基础，该平台可帮助 TEM 能更快地进行创新，并交付下一代 5G 基础设施。

 

本文编辑为 insight.tech 的主编 Christina Cardoza。

利用工业边缘对工厂进行现代化改造

Posted on by Micah Kaplan

通常，在谈论数字化转型和工业 4.0 时，技术往往成为焦点。但人员才是变革的关键。

企业开源软件解决方案提供商 Red Hat 的高级总监兼智能边缘业务开发全球负责人 Kelly Switt 表示，随着制造商采用现代技术，他们面临的挑战通常更多来自于实施者的思维模式和协作能力，而不是工具本身。

制造运营依赖于团队关系

制造运营如此依赖于协作能力和适应性强的团队和个人，是因为涉及到复杂的流程，需要领域专业知识、协调、故障排除和优化。例如，从传统系统转向现代互联平台，需要相应地改变思维模式。

工厂内部实施的技术和工具应该能够打破信息孤岛并消除团队之间的摩擦，从而增强协作并提高生产力。

“企业是由人员组成的，这些人员运营企业的方式往往会效仿系统设计”，Switt 解释说。“如果与 IT 部门的同事协作不佳，或者关系中仍存在隔阂，问题就会在系统中显现，无论是缺乏弹性还是无法按计划进行。”这就是为什么 Red Hat 和英特尔合作采用现代方法来推进制造运营和团队。

工业边缘平台是一系列支持技术的组合，包括 Red Hat Device Edge、Ansible Automation Platform 和 OpenShift。它还具有英特尔的尖端硬件和软件栈，包括英特尔® 工业边缘控制平台，让用户能够创建满足其特定需求的整体解决方案。

通过工业自动化弥合差距

Red Hat 工业边缘平台的一个关键组件可以使以前的手动任务实现自动运行，这是克服文化挑战的第一步。软件自动化策略支持调配、配置和更新，还可以为 IT 和 OT团队提供合作的共同基础，让他们能够专注于更关键的任务。

“通过使日常任务自动化，员工的能力得以释放，从而专注于现代化改造中更关键的环节”，Switt 解释说。

工业边缘平台有助于自动执行任务，包括系统开发、部署、管理和维护，不仅在服务器计算层面上有效，在设备和网络层面上也能发挥作用，从而实现更自主的基础设施管理。

“你可以真正围绕如何实现更自主的基础设施管理来创建基于平台的策略，以最佳方式支持设施的生产力”，Switt 表示。

自动化到位后，下一步是对工厂内的数据中心进行现代化改造。这些中心往往承载运行制造流程的更大、更关键的应用。对这些系统进行现代化改造可提高敏捷性并加快变革，这在当今快节奏的制造环境中至关重要。“现代技术可以使应用更敏捷，实现更频繁的更新并更快地适应不断变化的需求”，Switt 解释说。“这不仅可以提高生产力，还可以增强 IT 与 OT 团队之间的协作。”

例如，制药行业需要一定程度的供应链可追溯性。现代技术使组织能够将实施变更所需的时间从六个月到一年缩短至仅 90 天。这种加速为工厂的管理以及设施的整体生产力和产出带来了显著的价值和效益。

此外，工业边缘平台还提供实时内核，可降低延迟并减少抖动，使应用能够以更高的可靠性反复运行。

“Red Hat 的解决方案不仅让你拥有一个自主平台，而且这个平台是稳定、安全且基于开源项目的，这样制造商就能以更少的专有硬件实现开放、可互操作的平台”，Switt 说。

工业边缘助力的制造业未来

随着制造商持续应对工业 4.0 的复杂情况，类似 Red Hat 与英特尔之间以文化、人员和思维模式为重点的合作对于他们努力取得成功至关重要。

“英特尔是我们的核心合作者，因为英特尔技术不仅在运营公共云和 IT 数据中心方面无处不在，在运营工厂数据中心或数据室设施方面也同样应该广泛发挥作用”，Switt 表示。

通过打破孤岛、拥抱自动化和对基础设施进行现代化改造，制造商可以释放其运营的全部潜力，为更加敏捷、高效和创新的未来铺平道路。

“借助 Red Hat 和英特尔，我们拥有了让工厂运营更好、更快和更高效的技术。制造商需要自己决定他们的未来蓝图、希望的运营方式以及为此引入的合作和文化变革水平”，Switt 表示。

 

本文由 insight.tech 的编辑主管 Georganne Benesch 编辑。

网络边缘之旅

Posted on by Micah Kaplan

迁移到网络边缘的优势极为明显：速度更快、安全性增强以及用户体验改善。但企业如何实际完成该动作？哪些功能最适合需求，以及需要多少费用？是否存在某种柏拉图式的理想解决方案可供企业搜索？

我们与 CK Chou 一起探讨网络边缘，他目前是 IT/OT 硬件解决方案提供商 CASwell 的产品经理。他谈到了向网络边缘过渡的难题、人工智能在其中扮演的角色，以及如何利用一点创意思维让旧技术指明方向，成为有价值的解决方案（视频 1）。

视频 1。CASwell 的 CK Chou 在 “insight.tech Talk”上谈及迁移到边缘的挑战以及网络边缘设备的作用。（资料来源：insight.tech） 

为何如今企业要迁移到网络边缘？

谈及边缘计算，我们都知道，它只是在数据创建的地点进行处理，而不是将所有内容发送到中央服务器。这意味着响应速度更快、内部流量更少，因此非常适合需要即时响应的行业，如制造业、零售业、运输业、金融服务业等。

可以这样说：假设您坐在一辆自动驾驶汽车中，道路上行驶时突发意外。您需要汽车即时响应，因为每毫秒都很重要；您可能无法忍耐等待数据传输到远程服务器并返回时出现的延迟。这与您使用电脑时等待沙盒加载并不相同，对吧？在自动驾驶场景中，任何延迟都可能关乎生死。这就是边缘计算用于在源头处理数据，以做出即时决策的一个示例。

当然，这不仅关乎速度，还涉及确保信息安全。如果可以在本地处理财务信息等敏感数据，而并非通过互联网发送到中央服务器，则会降低被拦截或黑客攻击的风险。数据四处传输越少，安全性就越高。

通过在现场处理数据，边缘计算可帮助保持一切流畅运行，即使在互联网连接可能不可靠的地点也是如此。简言之，边缘计算意味着速度、安全和可靠性。它将数据处理能力带到最需要的地点，无论是在汽车中、医生办公室，还是在工厂车间。

但迁移到网络边缘并非一件易事。这是一个巨大飞跃，伴随着其本身一系列的挑战。企业面临的问题包括：管理系统复杂性日益增加、基础设施成本上升、处理能力有限、数据管理问题等。尽管存在这些挑战，但边缘计算的优势也非常显著，不容忽视。它可以真正提升基础设施性能、改善安全性并节省整体成本，最终值得付出努力去克服所有这些障碍。

网络边缘设备的哪些功能将有助于业务取得成功？

这是一个棘手的问题。我梦想中的边缘设备应该是小巧、紧凑的，还具备多个连接选项，例如针对不同应用的 SNA、Wi-Fi 和 5G。如果用户要在寒冷石山或炎热沙漠中安装设备，那么机架设计需能够在恶劣的环境中运行并适应合适的温度范围。此外，设备应具有强大的处理能力，且功耗低。当然，最重要的是，该一体机的成本必须非常低。

在一个设备中实现所有这些听起来很完美，对吧？但您真的认为这是有可能的吗？事实上，位于边缘的企业并不真正需要一体机。他们真正需要的是具有适合其特定环境和应用的功能的设备。那就是 CASwell 的真正作用。

我们的产品线可以提供多种选择，从基本型号到高端解决方案，从 IT 到 OT 应用。无论是小型办公室、工厂还是远程地点，我们都有针对不同条件和要求设计的选项，确保企业可以轻松找到合适的边缘设备，无需为不必要的功能付费。

AI 在网络边缘的作用是什么？

如今，AI 模型训练在云端完成，因为它需要海量的数据和强大的计算能力。但请想一想一个 AI 数据中心需要多大空间。想象一下，足球场大小的空间布满了数十个巨大的集群，每个集群都挤满了数百台服务器，所有服务器相互连接，持续进行模型训练。

类似的 AI 服务器听起来很神奇，但与我们的一般用例相去甚远，并且客户也无法负担。请记住：边缘计算的概念正是为了在创建的地点处理数据，而并非将所有数据发送到中央服务器。因此，如果我们想要用 AI 增强边缘解决方案，不可能将整个 AI 工厂搬到我们的服务器机房，除非您非常富有，并且服务器机房面积与足球场一样大。

相反，我们将繁重的深度学习任务保持在集中的 AI 中心，并将推理部分转移到边缘。这种方法的功耗和数据需求更少，非常适合边缘设备。我们已经观察到这种趋势，AI 集成到我们的日常设备中，例如手机和支持 AI 的电脑。这些设备使用云端训练的模型进行智能决策，提供个性化体验，并增强用户交互。

CASwell 目前正在构建面向边缘 AI 服务器的新产品线。它旨在将 AI 功能从数据中心带到边缘，为我们提供即时的 AI 能力。它将 AI 直接送到需要的人手中，恰好在他们需要的时候。

CASwell 如何帮助企业应对网络边缘挑战？

我们发现与我们最初的预期相比，边缘环境挑战有变得更具挑战性的趋势。更多最终用户正在寻找既可以在 IT 环境又可以在 OT 环境中工作的解决方案。他们希望不仅在办公室有空调和干净、有序的机架上，还希望在仓库、工厂车间等环境中，甚至在没有适当通风的机柜中安装边缘设备。

CASwell 决定开发一款入门级台式机产品，即 CAF-0121，该产品采用英特尔凌动® 处理器，在性能和能效之间实现了良好的平衡。与通常的温度范围的 0ºC 到 40ºC 相比，CAF-0121 可在 -20ºC 到 60ºC 的更宽温度范围下工作。该小型一体机还可以提供 2.5G 支持，以实现基本的基础设施连接。此外，它结构紧凑、无风扇，采用适合边缘计算应用的被动散热设计。

我们推出这款新机型的目的是以 IT 友好的价格提供 OT 级规格。这意味着用户可以减少管理基础设施所需的资源并使部署变得更简单。他们可以在 IT 和 OT 应用中使用相同的设备，从而更轻松地标准化和维护技术设置。CAF-0121 采用的方法使企业能够适应不同的环境，无需为每个场景提供单独的解决方案，因此它确实是一款令人兴奋的产品。

创造 CAF-0121 面临哪些挑战？

围绕热电模块的技术（我们称之为 TEM）是我们在 CAF-0121 中所依赖的技术。TEM 已经是一种经过验证的过热组件散热解决方案，广泛应用于需要快速准确温度控制的医疗设备、汽车系统、冰箱、饮水机和其他设备。

这些设备的工作原理是在电流通过时产生温差，导致一侧发热，另一侧冷却。发送的电流越多，我们在两侧之间得到的温差就越大。

人们通常会使用 TEM 的冷却能力，但我们却有不同的想法：为何不同时利用冷却和加热能力帮助边缘设备在更宽的温度范围内运行？我们的总体理念是，利用 TEM 的加热能力，我们可以间接扩大系统运行温度范围至更低的水平。相反，通过利用冷却能力，可以在内部环境温度上升到特定高水平时为系统散热。当房间变冷时，TEM 作为加热器运行；当房间变热时，TEM 作为散热器运行。

有了 TEM，我们不再局限于单个组件的运行温度范围，能够将设备温度范围扩展到组件通常情况下允许的范围之外。利用 TEM，我们可以突破温度边界，同时设备仍然可以保持可靠性。

通过这个项目，我们获得了一些非常有价值的将老式技术转化为创新解决方案的专业知识，从而在这一竞争激烈的市场中为我们的产品赢得了更多的销量。我们还希望这一小小的成功能够激励我们的研发团队保持创造力和打破常规，而不仅仅是受缚于传统的行为方式。

CASwell 如何与技术合作伙伴展开合作，使其产品线可行？

可靠的边缘计算设备应具有恰好合适的处理能力、高效节能、包装尺寸紧凑、多种连接选项，且价格具有竞争力。这些实际上是任何边缘计算设备不可或缺的要素。

正因为如此，我们为 CAF-0121 项目选择英特尔凌动处理器。凌动处理器可以提供合适的性能水平，同时保持低功耗。并且英特尔 LAN 控制器帮助我们轻松将 2.5G 以太网支持添加到该一体机，确保其能力满足大多数基础设施的需求。

凌动处理器还内置可以加速 IPsec 流量指令，使其成为注重安全的应用的绝佳选择。无论是处理数据加密、安全通信还是其他安全工作，这款处理器都能够应对挑战。

如果要进一步增强安全性，凌动处理器还可集成 BIOS Guard 和 Boot Guard，以提供硬件信任根。因此，我们不仅追求出色的性能和效率，还要为 BIOS 和启动过程提供高水平的保护。这种安全级别至关重要，尤其适用于需要处理敏感信息和关键任务且不会影响保护的边缘设备。

在该市场中的众多厂商中，只有英特尔能够提供一站式服务来满足所有这些功能需求。英特尔不仅提供硬件，还可给予驱动程序和固件支持。这种集成水平使 CAF-0121 项目的开发变得如此简单，还极大地缩短了我们的上市时间。当您的处理能力、安全功能甚至软件支持都来自可靠的合作伙伴时，整个流程肯定会变得更加顺畅。这不仅简化了工程设计和开发工作，还能确保所有环节无缝协同。

然后，硬件设计机构（如 CASwell）可以更专注于性能优化，而非故障排除能力。这对我们和客户而言都是一次巨大的胜利，使我们能够更快和高效地提供高质量、可靠的边缘计算解决方案。

最后，我们的目标非常简单：我们旨在树立新的边缘计算设备标准并提供灵活的边缘解决方案，帮助客户应对从云端、网络一直到智能边缘的挑战。

相关内容

要了解有关网络边缘的更多信息，请收听 网络边缘优势：实现业务成功 并阅读 人工智能无处不在 —— 从网络边缘到云端。要了解 iProd 的最新创新，请在 LinkedIn 上关注他们。

 

本文由文案编辑 Erin Noble 编辑。

技术合作伙伴关系为业务解决方案铺平道路

Posted on by Micah Kaplan

许多企业渴望采用最新技术，这可以帮助他们提高效率，并有助于提供更好的产品和服务。创新解决方案正在迅速涌现，为早期采用者提供具有吸引力的竞争优势。然而，部署全集成解决方案非常复杂且耗时，许多组织在初始试用后便放弃了。

与解决方案聚合商等经验丰富的技术合作伙伴合作，可以减轻技术采用带来的阻碍，并为成功部署铺平道路。知识渊博的聚合商可以提供端到端帮助，专为满足公司现有基础设施和未来目标。有些可以为全球合作伙伴和系统集成商网络敞开大门。专业聚合商监督解决方案选择、集成、部署和扩展的整个流程，可以主动消除障碍，使企业能够在全球各地快速启动和运行合适的解决方案。 

技术集成障碍

企业难以整合新技术，有几个原因。解决方案通常需要硬件和软件组件的组合，这些组件必须无缝协作，并且适合或生产出来适合现有基础设施。由于许多大型公司在不同地点使用不同的传统技术和新技术的组合，因此评估互操作性是一个复杂的过程。跨国公司还必须考虑区域技术标准和法规。

“如果 IT 领导者，有几十个目标，那么最不想做的就是成为每个解决方案的总承包商。” 全球领先供应链解决方案提供商 Wesco 的技术和支持服务副总裁 Matt Powers 表示。“策划设计并为每个项目选择多个承包商是一项耗费心力的工作。”

在工作过程中，连接的基础设施可能会发生变化，从而进一步增加复杂程度。“您无法想象解决方案的发展速度有多快。” Powers 说。“创新正在不断改变技术之间的相互依存关系。”

另一个障碍是扩展。企业经常测试潜在的解决方案，结果令人鼓舞，但当试图扩展部署时，又会感到失望。

“这种情况很多，特别是物联网解决方案方面。” Powers 说。“企业会告诉我们，’我们正在运行概念验证 (POC)，看到了我们想要的结果和价值，但现在我们如何将这个解决方案扩展到我们全球各地的企业？’这对全球客户来说是一个重大挑战，因为对于不同的地区，他们需要获取技术并将其本地化。此外，他们需要确定部署合作伙伴（例如集成商和承包商等）并与其合作，以确保解决方案得到有效的实施。”

技术合作伙伴关系实现创新解决方案

Wesco 是一家解决方案聚合商和分销商，拥有超过 100 年的经验，可以帮助各种企业（包括制造商、公用事业、数据中心、零售和酒店公司）避免实施问题，高效部署合适的解决方案。这个过程首先要彻底了解组织的需求。

“我们与其他公司的不同之处在于，我们与利益相关者密切合作，了解他们的特殊挑战，并评估他们提高效率或获得投资回报的机会。” Powers 说。“只要我们做到这一点，就可以帮助他们找到合适的解决方案提供商和集成商生态系统。”到目前为止，Wesco 经过审查的合作伙伴网络包括全球各地的 50,000 多家硬件、软件和云解决方案供应商以及集成商合作伙伴。

“对于技术合作伙伴，我们要求的首要品质是创新能力。” Powers 说。“英特尔为我们带来了广泛的领先技术，其产品的开放式架构使我们的解决方案提供商和独立软件供应商 (ISV) 能够开发出各种最终用户可以访问的平台。”

技术集成：客户和提供商的双赢

Wesco 努力成为值得信赖的顾问，针对每家公司的独特环境，提议最适合的组件、解决方案和合作伙伴。WaitTime 是构建人群分析解决方案的 ISV，也是 Wesco 如何为客户部署完整解决方案（从网络边缘到云端）的一个例子。

WaitTime 软件将边缘 AI 应用于计算机视觉摄像头，为场地运营商提供容量、人群密度和购物者洞察等信息。该软件由英特尔提供技术支持，经过优化，可在现场处理数据，并提供近乎实时的警报。

有了 WaitTime，企业可以更快发现并解决人群问题，预先防范潜在危险，并在问题发生之前，将员工调度到问题地点。他们还可以了解客人或购物者在哪里度过时间，或者哪些领域可以从更广泛的路径、更好的寻路或其他改进中受益。做出这些更改，可以提高商店或特许经营摊位的收入。

虽然 WaitTime 设置之后易于使用，但部署远远不止于安装平台。“软件是技术的一部分。我们可以将其他硬件和安装合作伙伴聚集在一起，构建端到端解决方案。” Powers 说。

哪种类型的提供商？这取决于组织。

公司未必能够利用计算机视觉来升级现有安全摄像头。他们必须找到能够可靠传输和处理大量信息的网络和硬件，同时满足所有本地安全和隐私法规。

这些只是组织在部署之前必须解决的几个难题。Wesco 可以根据他们的需求，帮助他们做出正确的决策，并选择合适的承包商和系统集成商，构建、协调并扩展解决方案的所有要素。

技术和经验加速了业务成功

Powers 说，随着技术变革的加速，尖端解决方案对于成功越来越重要。“创新正在迅速波及各个行业，竞争没有放缓。企业了解新技术如何帮助企业以及如何大规模部署新技术，便可以随着新能力的出现，继续蓬勃发展。”

 

本文由 insight.tech 的编辑主管 Georganne Benesch 编辑。

反向代理服务器加强 AI 网络安全

Posted on by Micah Kaplan

AI 模型依赖于持续的数据流进行学习和推理。这正是其价值所在。但这也让它们变得脆弱。由于 AI 模型基于其所接触的数据构建，因此极易受到数据被破坏、操纵或泄露的影响。

网络威胁可能来自不良行为者，他们编造推理并向模型注入偏差，以干扰模型的性能或运行。分布式拒绝服务 (DDoS) 攻击可以产生同样的结果，使模型运行的平台（以及模型本身）不堪重负。这些和其他威胁可导致模型及其敏感数据遭遇 IP 盗窃，特别是在周围基础设施未得到适当保护的情况下。

不幸的是，急于实施 AI 模型会造成 AI 部署架构存在重大安全漏洞。随着企业将 AI 与更多的业务系统和流程整合，首席信息安全官 (CISO) 必须努力弥补这些漏洞，防止在每次推理时都要提取宝贵的数据和 IP。

追求性能的 CISO 所面临的 AI 网络安全困境

在技术层面上，当前一代 AI 部署缺乏安全性的一个简单原因在于：性能。

AI 模型计算是资源密集型任务，直到不久前几乎仍是计算集群和超级计算机的专属领域。如今情况发生变化，八核第四代英特尔® 至强® 可扩展处理器等平台为 Dell Technologies PowerEdge R760 等机架服务器提供强大支持，能够同时高效托管多台 AI 模型服务器（图 1）。

Dell 机架服务器图片
图 1。Dell PowerEdge R760 等机架服务器可以同时托管多台高性能英特尔® OpenVINO™ 工具套件模型服务器。（来源： Dell Technologies）

然而无论是托管在边缘还是数据中心，AI 模型服务器都需占用平台大部分资源（如果并非全部）。这是以牺牲安全性等功能为代价的，安全性对算力的需求也很高，并且与部署模式几乎无关：

  • 部署模式 1——主机处理器：在同一处理器上部署 AI 模型服务器和防火墙或加密/解密等安全功能，会导致工作负载争夺 CPU 资源、网络带宽和内存。这会减慢响应时间、增加延迟并降低性能。
  • 部署模式 2——独立虚拟机 (VM)：在同一主机处理器的不同虚拟机上托管 AI 模型和安全功能，会带来不必要的开销和架构复杂性，最终影响系统的可扩展性和敏捷性。
  • 部署模式 3——同一虚拟机：在同一虚拟机上托管两种工作负载类型，模型服务器和安全功能可能会暴露于相同的漏洞。这可能会加剧数据泄露、未经授权的访问和服务中断风险。

CISO 需要新的部署架构，既能提供 AI 模型所需的性能可扩展性，又能够保其中的护敏感数据和 IP。

COTS 硬件上 AI 模型代理的安全性

另一种方法是，将 AI 模型服务器和安全工作负载托管在不同的系统上。这样可提供足够的资源，避免 AI 任务发生不必要的延迟或性能下降，同时在推理、安全运行和 AI 模型本身之间进行物理分离。

随后挑战变为物理占用空间和成本。

发布 意识到这一机会后， 全球领先的应用交付架构厂商 F5 Networks, Inc. 与英特尔以及提供广泛产品组合全球领先的 OEM 公司 Dell 合作开发一种解决方案，以单一的商用现货软件 (COTS) 满足上述要求。基于搭载第四代英特尔至强可扩展处理器的 Dell PowerEdge R760 机架服务器，F5 集成了英特尔® 基础设施处理器（英特尔® IPU）适配器 E2100（图 2）。

英特尔 IPU 适配器图片
图 2. 英特尔® 基础设施处理单元（英特尔® IPU）适配器 E2100 从主机处理器分载安全操作，释放资源用于 AI 训练和推理等其他工作负载。（来源： 英特尔）

英特尔® IPU 适配器 E2100 是一款强大的基础设施加速卡，可提供 200 GbE 带宽、x16 PCIe 4.0 通道及内置加密加速器，结合先进的数据包处理管道以满足线路级安全需求。该卡的标准接口可与 PowerEdge R760 等服务器原生集成，而 IPU 具备足够的计算能力和内存，可托管 F5 NGINIX Plus 等反向代理服务器。

NGINX Plus 基于开源 Web 服务器构建，可作为反向代理服务器部署，以拦截和解密/加密进出目标服务器的流量。这种分离有助于缓解 DDoS 攻击，但也意味着加密操作可以在 AI 模型服务器主机以外的地点进行。

F5 Networks NGINX Plus 反向代理服务器提供 SSL/TLS 加密，并在未经身份验证的推理与 R760 上运行的英特尔® OpenVINO™ 工具套件模型服务器之间提供安全气隙。除了作为反向代理服务器运行外，NGINX Plus 还提供安全控制、负载平衡、内容缓存、应用程序监控和管理等企业级功能。

简化 AI 模型安全。聚焦 AI 价值。

AI 备受瞩目，但其潜在部署风险却常被忽视。任何期盼获得竞争优势的企业都必须在其技术堆栈中迅速集成和部署 AI 解决方案。然而买家避免后悔的关键在于，还必须认识到 AI 应用伴随的安全风险。

在专用 IPU 上运行安全服务不仅可简化安全 AI 的部署，还能通过在 AI 和安全开发团队之间建立明确的隔离，以增强 DevSecOps 管道。

也许我们根本不会花太多时间担心 AI 安全。

 

本文由 insight.tech 的编辑主管 Georganne Benesch 编辑。

英特尔® 至强® 6 处理器让 AI 无处不在

Posted on by Micah Kaplan

全球各个组织通过部署 AI 来提高运营效率及其在市场中的竞争力。我们与英特尔产品管理、网络和边缘事业部副总裁 Mike Masci 以及英特尔副总裁兼至强和计算产品总经理 Ryan Tabrah 就全新英特尔® 至强® 6 处理器进行了交流。Mike 和 Ryan 讨论了以可持续性更强的方式推动无缝可扩展基础设施发展的重大改进，这是让 AI 无处不在（从数据中心到边缘）的必备要素。

为什么英特尔至强 6 处理器的发布对英特尔、合作伙伴以及客户如此重要？

Ryan Tabrah：这款处理器的发布是许多因素共同的结果，其中包括从制造流程开始回归我们交付技术的本源，构建可以满足未来需求的 AI 数据中心。我认为英特尔至强 6 以合适的时机满足了客户的需求，使他们可以继续使用自己的解决方案进行创新，并以前所未有的方式构建数据中心。英特尔至强 6 处理器中的 E-core（能效核）经过优化，可最大限度地提高性能功耗比，同时 P-core（能效核）能够为当今数据中心普遍存在的计算密集型工作负载提供更强的每核性能。

Mike Masci：我们认为至强 6 不仅是一次升级，而且是 AI 驱动计算基础设施的必备要素。现有数据中心的性能功耗比并不足以让客户根据 AI 驱动时代的需求扩展数据。无论网络是否需要处理从边缘 AI 到云 AI 的海量数据，这款处理器都能在更高的效率和更强的性能下实现这个目标。在数据中心，它使基础设施能够满足 AI 的性能需求，同时能够实现线性扩展。

开发人员希望至强 6 平台具有从边缘到云端的一致性，而且可以从非常高端的产品扩展到更注重成本和功耗的低端产品。由于任何降低效率或产生障碍的因素都会减少花费在 AI 技术开发上的时间，因此他们希望获得完全无缝的体验，无需将不同的架构和系统配合使用。

英特尔至强 6 是首款同时配备 E-core（能效核）和 P-core（性能核）的英特尔至强处理器。它的工作负载和相关用例有哪些例子？

Mike Masci：首先，E-core（能效核）专为数据中心级工作负载设计和构建，可在经过优化的密度和功耗水平下提供高性能。这对我们的客户来说是一项巨大的优势，因为它具有可组合性，而且能够将适合各种工作负载的产品分配到合适的位置，无需承担复杂管理和部署所需的支出。

在网络边缘部署与数据中心内部相同类型的工作负载正逐渐成为常态。人们希望能够在不同位置使用相同的基础设施，以便更快速、更轻松地进行部署。长期而言，这样可以节省资金。

最重要的工作负载是云原生工作负载。英特尔至强 6 E-core（能效核）能够出色地处理此类工作负载。对于在网络和边缘侧充分利用其优势的用例，5G 无线内核是我们最重要的细分市场之一。前几代产品是固定功能的专有硬件，采用 NFV（网络功能虚拟化）和 SDN（软件定义网络）的原理，而现在正向云原生技术转型。正因如此，英特尔至强 6 处理器经过优化的多线程性能功耗比极其重要。

对于配备 P-core（性能核）的英特尔至强 6 的其他边缘应用而言，客户对英特尔® Advanced Matrix Extensions（英特尔® AMX）技术充满期待。具体而言，其 P-core（性能核）中固有的专用矢量 ISA 指令使他们可以在边缘进行轻量级推理，因为在边缘，客户可能没有属于训练集群典型配置的大规模 GPU 的功耗预算。AMX 的强大之处在于，对软件开发人员而言，它可以无缝运行，而且借助 OpenVINO™ 和我们的 AI 套件等工具，无需了解如何对特定 ISA 进行编程，即可充分发挥 AMX 的优势。

Ryan Tabrah：实际情况是客户无法配置功耗更大或体积更大的加速器，边缘尤其如此，因此可以依赖已经集成到英特尔至强 6 P-core（性能核）家族中的更紧凑解决方案。

视频是另一个典型用例。只有可以轻松地扩展并提取视频并将其推送给最终用户，客户才能盈利。这就是我们专注于通过整合机架来运行更大视频工作负载的原因之一。与前几代产品相比，通过三合一的机架整合，可以在相同的性能下传输相同数量的视频。数据中心的性能更强、能效更高，能够以更少的设备和更大的密度为更多的客户提供服务。客户可以在 5G 网络的边缘采用相同的基础设施，在这里缓存视频并将其推送给最终用户。

您能否谈谈英特尔至强 6 在特定细分市场和用例中的应用？

Mike Masci：以医疗保健为例，该领域需要大量数据来训练医疗图像模型。为了获得可操作的数据和洞察，需要在云端训练模型，并在边缘有效运行。需要运行 RAG（检索增强生成）等功能，确保模型能够执行预期功能，辅助诊断方面尤其如此。那么需要重新训练模型时，会发生什么情况？边缘设备会向云端发送更多数据，在那里对其进行重新训练，然后将其重新发送到这些边缘设备。对于开发运维和机器学习运维领域的开发人员来说，整个流程就是一门完整的学科，而且可能是当今 AI 领域最重要的学科。

我们认为，如果能够获得经过训练的模型，将其部署到边缘，然后由边缘给模型重新提供数据，在云端进行训练，那么 AI 的真正价值才真正得到了发挥。对许多开发人员来说，将模型部署到可扩展系统上非常重要。

Ryan Tabrah：此外，世界各地的医疗保健机构也有许多老旧代码和应用程序，它们采用的是他们不愿升级或采取任何措施的内核。他们希望能够迁移这些工作负载，甚至将其容器化，将其迁移到无需进行任何更改即可直接运行的系统上。我们利用开源工具帮助他们更新了部分基础设施，新建了可以满足未来需求的数据中心，并与旧应用程序基础进行了连接。

这就是它的神奇之处，客户无需从头开始。医疗保健机构可以利用所有旧数据和旧应用程序执行全新的功能。这就回到了 Mike 刚才所说的，只要有一个从边缘到云端的统一平台，以便在电脑上进行开发，就不用担心这个问题。

至强 6 可以为客户带来哪些可持续发展优势？

Mike Masci：我们的部分网络和边缘工作负载的性能功耗比有显著提升。其性能功耗比是第二代英特尔® 至强® 可扩展处理器的 3 倍。简而言之，如果性能功耗比高达 3 倍，就可以将所需的服务器数量减少三分之二。这不仅可以节省 CPU 功耗，还可以节省整个系统的功耗，包括开关、机架本身的电源以及所有外设。

英特尔的使命就是推动这种可持续发展机制，因为 CPU 性能功耗比在很大程度上决定了客户在部署整体硬件方面的选择。

我们与 5G 内核领域领先的独立软件供应商爱立信的合作就是一个很好的例子。在爱立信内部的 5G 内核 UPF（用户平面功能）真实世界测试中，与上一代产品相比，其性能功耗比提升了 2.7 倍。更重要的是，在拥有 200 万订阅者的控制平面，与上一代产品相比，爱立信为相同数量的订阅者提供支持所需的功耗降低了 60%。这又回到了性能功耗比和可持续发展的范畴。它也显著节省了运营成本，对全球大有裨益。我们通过爱立信的例子证明，这不仅有可能，而且可以变为现实。

在这个方面，我们有基础设施功耗管理器，可以根据实际使用情况对 CPU 功耗和性能进行动态编程。例如，当负载较低时，CPU 会自行降低功耗。因此，整个产品线的负载线路性能有了巨大提升。当今的大多数服务器无法始终得到充分利用。英特尔至强 6 等英特尔 CPU 能够根据低利用率场景显著降低功耗，减少了整体功耗需求，从而提高了平台可持续性。

这看似一项基本要素，但难度超乎想象。需要在操作系统层面进行优化，才能充分利用这些电源状态。需要确保拥有合适的服务质量和 SLA 以及充足的正常运行时间，这一点非常重要。

Ryan Tabrah：我们在制造、验证实验以及制造供应链方面所做的努力，证明了我们在可持续发展方面的领先地位。如果客户知道他们使用的是英特尔芯片，他们就能确信，芯片的开发、测试、验证或制造都是以可持续性更强的方式完成的。我们在在全球各地制造产品时对水资源以及其他资源进行重复利用，对环境给与保护，我们在这个方面也持续处于领先地位。

英特尔至强 6 也为我们的客户提供了实现可持续发展目标的机会。由于英特尔至强 6 的核心数量大、效率高，我们的客户可以更换其数据中心的老旧服务器，将其整合为更少的服务器，从而减少需要能耗和占地空间。

请您介绍一下数据安全以及英特尔至强 6 的哪些增强功能使开发人员可以更轻松地构建更安全的解决方案。

Mike Masci：安全增强功能非常重要，对网络和边缘来说尤其如此，而我们的 SGX 和 TDX 技术的推出则是对它的一大补充。对客户来说，特别是在 AI 驱动的时代，成熟的技术在安全生态系统中极其重要。模型需要具备安全性。例如，如果要运行多租户，就需要设置安全区，这在云原生驱动的时代变得极其重要。总体而言，显而易见的是，英特尔至强 6 采用的成熟安全技术是一项差异化优势。

Ryan Tabrah：我们将安全作为基础构建模块，从头开始构建英特尔至强 6 及其平台。我们的几代至强都是如此，使机密计算尽可能成为合作伙伴生态系统中简单的基本要素。我们在英特尔至强 6 中引入了最新的量子电阻和平台增强技术，使客户能够通过安全性、隐私性和合规性实现业务目标。

您最后还有什么要补充的吗？

Mike Masci：英特尔至强 6 对边缘和网络 AI 来说必不可少。我们认为，构建一个简单顺畅的平台并通过可组合性轻松处理多种工作负载，这个理念已经获得了极大的成功。对我来说，这是英特尔至强 6 所蕴含的关键信息。它无缝且可扩展，因此可以在边缘运行与数据中心相同的应用程序，而无需担心在哪些硬件上运行。

Ryan Tabrah：我同意。在数据中心电力不足的不同环境和地区，无论是因为建设速度不够快，还是存在新的限制因素和清洁能源要求，情况尤其如此。我们提供了从边缘到数据中心的解决方案，对客户来说，其优势是显而易见的。

我认为，最佳验证方法就是客户的反馈。他们需要的不止如此。他们希望借助我们的力量实现更多的目标。他们不仅希望我们能够尽快优化处理器，而且希望我们尽快构建新一代处理器。英特尔在电信、边缘建设、基础设施建设和数据中心等关键领域占据领先地位，他们对此感到振奋不已，我们也很高兴能够与他们共同引领行业发展。

 

本文由 insight.tech 的编辑主管 Christina Cardoza 编辑。

多感官 AI：减少停机时间并提高效率

Posted on by Micah Kaplan

当您在路边等待拖车时，是否总会意识到自己忽略了 75,000 英里的调校和安全检查？“检查机油”灯和低胎压警报可以避免危险情况，但您仍然可能遇到令人沮丧且耗时的故障。如果将这种不便和生产力损失扩展到工厂环境，相对应的机器故障可能导致代价高昂的停机。

这就是预测性维护的作用所在。机器学习可以分析正常工作流程中的模式，并及时检测异常以防止发生代价高昂的停机；但如果是新设备，没有现有数据可供 AI 学习，会发生什么情况？是否可以将人类在应对新情况时的某些优良特质（尽管效率不高）用于基于机器的检查呢？

AI 视频分析提供商 iOmniscient 的联合创始人兼首席执行官 Rustom Kanga 针对上述问题和有关预测性维护未来的其他问题给出了一些答案。他谈到了传统机器学习在预测性维护中的局限性；现有基础设施何时可以成为预测解决方案的一部分，何时不能，以及 e-Nose 到底是什么（视频 1）。

视频 1. iOmniscient 首席执行官 Rustom Kanga 谈论多感官和直觉性 AI 对预测性维护的影响。（资料来源：insight.tech）

传统的预测性维护方法有哪些局限性？

今天，当人们谈论人工智能时，通常将其等同于深度学习和机器学习技术。例如，如果你想让 AI 检测一条狗，你需要有 50,000 张狗的图片并标记：“这是一条狗。那是一条狗。那是一条狗。那是一条狗。”训练好系统后，下次出现一条狗时，它会知道那是一条狗。这是深度学习的运作方式。

但如果你没有针对某些特定或独特类型的狗训练系统，那么它可能无法识别这类动物。这样你就必须重新训练系统。这种重新训练会一直持续，可能会永远训练下去。

维护系统的挑战在于，当你安装一些新设备时，你没有任何关于设备如何发生故障或何时发生故障的历史记录：没有任何数据可用于深度学习。所以，你需要能够在没有这些数据的情况下预测将发生什么事情。

我们所做的是自主、多感官、基于 AI 的分析。自主意味着通常没有人类参与，或非常少的人类参与。多感官是指人类使用眼睛、耳朵和鼻子来了解周围环境，我们也是这样做的。我们进行视频分析、声音分析和气味分析；这样我们就知道环境中发生了什么。

多感官 AI 方法如何应对您提到的一些挑战？

我们开发了一种称为直觉性 AI 的能力。人工智能就是模拟人类智能，而人类不仅仅使用记忆功能，这正是深度学习试图复制的东西。人类还使用逻辑功能。人类有演绎逻辑、归纳逻辑，使用直觉和创造能力来决定世界如何运转。这与人们期望的机器学习系统的运作方式截然不同。

作为一家公司，我们所做的是利用人类的能力来指导系统该寻找什么，然后使用我们的多感官能力来寻找这些迹象。例如，如果安装了一条传送带，我们想知道它何时可能发生故障，那么我们会寻找哪些迹象来预测它工作不正常呢？我们可能会听它的声音：当它开始发出“叮当、叮当、叮当”的声音时，说明出现了问题。因此，我们使用视觉、听觉和嗅觉来判断它在任何给定时间的运行情况，以及是否出现任何预示即将发生故障的迹象。

你们如何训练 AI 来做到这一点，并且是准确做到这一点？

我们告诉系统人类可能会看到什么。例如，假设我们正在检查一些设备，最可能出现的故障情况是生锈。我们就会告诉系统寻找锈迹或颜色变化。如果系统发现有锈迹在扩大，它会告诉我们出现了问题，是时候考虑更换或维修机器了。

直觉性 AI 不需要大量数据。可能 10 个或更少的数据集示例就可以训练我们的系统。由于需要的数据集很少，因此不需要大量计算，也不需要 GPU。我们完全在标准英特尔 CPU 上运行，并且仍然可以实现高准确性。

我们最近为无人驾驶列车实施了一个系统。客户希望确保没有人因为走在列车前面而受伤。这实际上只需要一个简单的入侵检测系统。事实上，摄像头公司在其摄像头中嵌入了入侵检测系统。并且铁路公司已经有所行动，他们从一家非常有信誉的公司购买了一些摄像头来进行入侵检测。

唯一的问题是，每个摄像头每天会发出大约 200 次误报，这使得整个系统无法使用。因此，他们设定了一个标准，希望整个网络不要出现超过一次的误报。我们能够为他们实现这一目标，并且在过去五年一直为他们的列车提供安全系统。

你们的解决方案是否需要安装新的硬件和设备？

我们可以使用任何人的摄像头、任何人的麦克风，当然，摄像头必须能够拍到你希望被看到的画面。然后我们提供智能。我们可以使用现有的基础设施来获得视频和声音。

不过，嗅觉是一个非常独特的能力。没有人制造检测工业气味所需的嗅觉传感器，因此我们自行研发了 e-Nose 来提供给客户。这是一个独特的设备，其中包含六个左右的传感器。当然，市场上有可以检测单分子的传感器。例如，如果要检测一氧化碳，可以购买相应的传感器来实现。但大多数工业化学品要复杂得多。即使一杯咖啡也含有大约 400 种不同的分子。

您能否分享任何其他展示 iOmniscient 解决方案实际应用的用例吗？

我给你举一个例子，展示这样的系统在速度方面的真正价值。由于我们不需要标记 50,000 个对象，我们实际上可以非常快速地实现系统。我们曾经被邀请到一个机场检测其垃圾房中的问题 — 这些房间在机场下方，用于收集来自机场本身和在机场降落的飞机的垃圾。这个机场有 30 或 40 个垃圾房。

当然，有时垃圾袋会破损，垃圾箱会溢出，机场需要一种方法来确保这些垃圾房保持整洁。所以他们决定使用人工智能系统来实现这一目标。他们邀请了大约八家公司来进行概念验证。他们说，“花四周时间训练你们的系统，然后给我们展示你们能做什么。”

四周后，没有人能展示任何成果。他们说，“花八周时间吧”。然后又说，“花十二周时间吧”。没有一家公司能够实际开发出有任何准确性的系统，就是因为涉及的变数太多。

最后，他们找到了我们，问我们说，“你们能来展示一下你们的能力吗？”我们在周二下午派了一名工程师过去，到了周四上午我们就能够演示准确率接近 100% 的系统。系统的实现速度如此之快，而且不需要使用 50,000 组数据进行训练。不需要大量计算，也不需要 GPU。这正是直觉性 AI 的美妙之处。

与英特尔及其技术合作的价值是什么？

我们与英特尔独家合作，在过去 23 年一直是他们的合作伙伴，与他们保持着非常紧密且意义重大的关系。我们可以信任英特尔生产的设备；我们了解它的工作原理，并且知道它会始终发挥作用。设备还向后兼容，这对我们来说非常重要，因为客户购买产品是为了长期使用。

多感官直觉性 AI 的理念在 iOmniscient 是如何演变的？

当我们刚起步时，许多人使用标准视频分析、视频运动检测等技术来了解环境。我们开发的技术能在非常困难、拥挤和复杂的场景中发挥作用，这使得我们在市场中占据了有利地位。

今天，我们能做的远不止于此。我们可以实现人脸识别、车牌设备，这些都受到隐私保护。我们开发基于视频、声音和气味的系统。技术不断发展，我们努力保持在前沿。

例如，在过去，所有这些分析都要求传感器是固定的；如果使用摄像头，就必须将其固定在杆子或墙上。但是，当摄像头本身在移动时会发生什么情况，如果是行人佩戴的摄像头或者摄像头在无人机或行走的机器人上又会怎样？我们已经开始研发能够在这些移动摄像头上发挥作用的技术。我们称之为“野性 AI”。

另一个例子是，我们最初开发了面向工业应用（例如废物管理工厂和机场厕所）的嗅觉技术。但我们也发现，我们可以使用相同的设备来嗅探人呼吸的气味，并检测早期肺癌和乳腺癌。

我们现在还没有推出此类产品；我们正在进行临床测试和临床试验，这是将其作为医疗设备推出所必须经历的流程。但这就是未来的方向。无法预测。20 年前，我们无法想象会开发用于癌症检测的设备，但这正是我们目前的发展方向。

相关内容

要详细了解多感官 AI，请收听多感官 AI：预测性维护的未来，并阅读多感官 AI 彻底改变实时分析。有关 iOmniscient 的最新创新，请关注 X/Twitter 上的 @iOmniscient1 以及他们的 LinkedIn 主页。

 

本文由文案编辑 Erin Noble 编辑。