更智能、更快速、连接 5G 和智能网络

Posted on by Micah Kaplan

在最近的物联网聊天播客中，我们邀请了 CCS Insight 的 Martin Garner 和 Bola Rotibi 来讨论该公司的年度物联网预测报告，特别是对边缘和 AI 领域的关注。但在报告及这场对话中，有很多关于 5G 和网络的内容。所以，这次我们决定专门将重点放在 5G 和智能网络的崛起上，与 CCS Insight 的网络总监 Ian Fogg一起进行讨论。

如今，全球几乎所有行业都需要连接到互联网。它们需要快速、可靠、实时的信息，这就要求网络也要速度快。越来越多的智能设备也连接到网络，网络需要处理所有连接。与此同时，各行业和公司也在努力实现可持续发展目标。5G（甚至 6G）和 AI 真的能帮助实现这些目标吗？让我们一探究竟（视频 1）。

视频 1. CCS Insight 的 Ian Fogg 讨论了 5G 和物联网领域的最新发展，以及对 2024 年及以后的展望。（资料来源：insight.tech）

过去几年，5G 和网络的格局发生了怎样的变化？

5G 首次推出是在 2019 年，当时的标准是非常早期的版本。我们最近看到，它的能力得到了巨大的提升。例如，它最近的用途之一是私有网络。在 2023 年宣告的私有网络中，有 45% 部署了 5G。

我们还看到了非地面网络，这是即将推出的 5G 标准第 17 版的一部分。预计到 2027 年，15% 的智能手机用户将拥有支持卫星的设备。那么，这对物联网意味着什么？过去经常是消费者领域推动创新，然后这些创新被重复用于其他领域，因为这些领域之间存在共性。一旦建立起卫星能力，卫星运营商就可以选择支持多种类型的客户。

我们在过去一年看到的另一件事是 OpenAPI 倡议的宣布，它获得了运营商组织 GSMA 的极大关注。这也包括用于管理网络质量和其他网络类型设置的网络 API。

在这些物联网网络中，5G 的下一步动向如何？

我们的预测之一是，到 2025 年，基于应用的网络功能的数字市场将提供一百多个版本的网络功能和 API。我们已经看到一些小的倡议，但我们预计在未来 18 个月左右的时间内，市场将大幅扩展。

我们还预计，到 2030 年，私有-公共混合型 5G 将成为私有网络的主要选择。独立的私有网络使用专用网络来提供该服务。但混合型解决方案使用独立 5G 和网络切片的一些新功能来提供服务，其质量与其他使用更广泛蜂窝 5G 网络的用户所获得的服务质量不同。这弥补了一些特定位置之间的差距，企业可能在这些位置有专用的私有网络，但希望人员或设备在专用的站点之间流动—这就是一种混合型解决方案。随着时间的推移，这种情况会逐渐出现，但我们预计到 2030 年这将成为主流趋势。

5G 和网络边缘如何跟上物联网的需求？

我认为混合能力在这方面尤其重要，因为它确实可弥合专用私有网络（可能位于港口、制造工厂或其他受限位置）与在广泛领域内提供高质量服务的需求之间的差距。

另一件我们认为很重要且越来越重要的事是，在大量领域和产品类型中，AI 将应用于网络的不同部分。我们认为，通过更好地管理流量模式，确保网络提供足够好的服务质量以及管理中断或停机问题，AI 将使 5G 网络显著提高其可用性，甚至可能超越五个九的可用性。

多谈谈如何使用 AI 增强 5G 和物联网网络吧。

网络人员正在各个领域使用 AI。例如，他们使用它来改进 RAN 管理。随着我们从最初的 4G 到 4G Advanced 或 LT Advanced，再到 5G，以及 5G 第 17 版等等，RAN 的复杂性越来越高，需要管理的设置也越来越多。基站之间、不同频段之间的交互更为复杂，而 AI 是实现持续 RAN 管理以提高覆盖范围和性能的关键方法。

我们看到，AI 在 Open RAN 的推广中也扮演着非常重要的角色。历史上，服务提供商向网络供应商购买基站，所有功能基本上都由同一供应商集成和包含。Open RAN 的概念是，基站内提供接口，以便服务提供商混合和匹配不同的供应商。我们认为，AI 可以在某些方面帮助降低复杂性。

环保问题是另一个我们认为有趣且重要的方面：实现碳排放目标、管理网络能源成本。如果你是一家服务提供商，你会希望减少能源使用，同时保持用户所需的网络体验。那么，你可以在多大程度上削减网络资源，并且仍然提供同样的网络体验？RAN 优化是机器学习工具可以提供帮助的地方。我们的预测之一是，到 2025 年，智能无线接入网络技术、自动化和 AI 驱动的节能技术的组合将使至少三家领先运营商将其碳中和目标提前数年实现。

5G 和物联网网络功能如何帮助各行业实现可持续发展目标？

可持续发展的一个角度是智能电网，因为许多人将太阳能和风能视为成本效益高且用途广泛的绿色发电方式。挑战在于，太阳能和风能发电并不总是可预测的：它们取决于云量、一年中的时间以及当时的天气系统。而且有时会出现发电过剩的情况，需要鼓励最终用户消耗一些电力。还有时候会希望用户降低能源消耗，因为能源价格太贵或者产生的绿色能源不足。

因此我们认为，增加太阳能和风能的使用需要智能电网技术来管理供需，我们预计智能电网技术将从 2028 年（或更早）开始在大多数发达经济体中广泛采用。甚至现在就能看到这种趋势的迹象。

5G 如何帮助电网同时变得更智能和更可持续？

以电动汽车充电为例，可以看到网络技术融入其中的一系列方式。许多电动汽车具有蜂窝网络功能，这样用户可由远程设置省电模式，并告知电动汽车何时何地安排充电。许多家用电动汽车充电器都有类似的遥控功能，通过 Wi-Fi 或其他方式实现。但家中的智能电表通常也支持蜂窝连接。电力公司可以监测用电量并向用户收费，在某些情况下是以非常精细的方式收费。

因此，在电动汽车连接、电动汽车充电器、智能电表这三个涉及最终用户电动汽车充电过程的不同地方，都可以看到网络技术正变得非常重要。

5G 的主导地位还能持续多久？

实际上，在 5G 时代，即使是 4G 也依然重要。在我刚提到的电动汽车场景中，大多数电动汽车都有 4G 蜂窝无线功能。你家里的智能电表甚至可能在使用 2G 无线技术。这些网络时代往往会重叠。所以即使 6G 出现，5G 仍将继续发挥重要作用。但 6G 的工作确实正在进行中；我们已经可以看到 6G 频谱的讨论正在推进。

6G 用例方面的工作也在进行中。其中之一是使用蜂窝网络感知特定位置的动态。这可能是检测道路上的交通流量，或者感知在人行道上行走的人。现在就可以看到这方面的例子：一些 Wi-Fi 接入点可以感知人们是否在家，这被用作一个简单的警报系统。

但围绕 6G 网络的部分想法是，它将具有更广泛的能力 — 能够感知大范围、跨城市发生的事情。当然，这意味着可以根据这些信息得出分析结果并据此采取行动。

在时间尺度上，如果一家公司现在希望部署些什么，6G 可能并不相关。如果产品路线图更长，延伸到 2029 年、2030 年或更远，那么 6G 应该包含在路线图中。如果你是网络供应商，那么你的研发实验室此刻正在迅速而紧张地进行 6G 方面的工作，而且你的 6G 思维要更为先进。

相关内容

要了解有关 5G 和物联网网络预测的更多信息，请阅读报告《2024 年及以后的物联网相关预测》，并收听《5G 和物联网智能网络的崛起》和《CCS Insight 的 2024 年物联网和边缘 AI 重要预测》。有关 CCS Insight 的最新创新，请在 Twitter 上关注 @ccsinsight，在 LinkedIn 上关注。

 

本文由文案编辑 Erin Noble 编辑。

人工智能及其他领域：预测物联网边缘人工智能的未来

Posted on by Micah Kaplan

又到了预测季节。在 insight.tech，我们每年都会突出介绍 CCS Insight 的顶级物联网预测，今年包括大量边缘和人工智能预测。我们与 CCS Insight 物联网研究主管 Martin Garner 及企业研究主任 Bola Rotibi一起对预测做了分门别类（视频 1）。我们再次为读者提供完整的研究论文：2024 年及以后的边缘计算和物联网预测。请务必阅览。

视频 1。CCS Insight 的 Martin Garner 和 Bola Rotibi 讨论了即将到来的物联网和边缘人工智能趋势和预测。（来源：insight.tech）

很明显，人工智能有很多好处和机会；它有能力转变各行各业以及我们的生活。但也令公众颇感不安：在这个创新和扩张的“蛮荒之地”，他们的数据将如何使用，安全性如何，何人以何种措施保护这些数据？而将投资着眼于未来的企业，亦感紧张。然则有一点确定无疑：正确解读人工智能的状况，非一方之力。此举必是各方协作方能成事，而各方都在构建和使用这些解决方案。 

2024 年，边缘和人工智能对物联网预测的影响如何？

Martin Garner：显然，对于边缘和人工智能，2023 年可谓重要一年。ChatGPT 显然产生了巨大的影响，让世界真正见识到了人工智能的能耐，也见识到人工智能的不足。我们在去年 的预测中，大量谈及边缘，只有部分涉及人工智能。今年，我们大幅增加了人工智能的预测。不仅仅是生成式人工智能，如 ChatGPT ；也不仅仅是个人使用人工智能的用途。

举例而言，其中一个预测就是，到 2028 年，一家大型医疗保健提供商将为客户提供数字孪生服务，主动监测其健康状况。如今，个人的大量数据散落各处，例如在线病历、健身手环、智能手表、手机上的数据等等。但全都颇为杂乱，并未合并为一体。我们认为，医疗保健提供商将开始合并这些来源数据。他们将使用人工智能，基本上做工业领域已经在做的事情——预测性维护，但对象是人。当然，我们的目标是尽早干预，这往往意味着干预更小，通常也更便宜。这个例子说明了我们认为人工智能如何由此开始发展。

是否会因为这些进步而继续向云迁移？

Martin Garner：我认为云与边缘的争论将持续好几年。我认为许多国家都对经济感到担忧，我们也还没有完全摆脱疫情的影响。

因此，有一项预测是，由于人们担忧经济衰退，2024 年，工作负载将从云端转移到本地。此种做法的最佳候选者便是已经在使用混合云的公司。对于某些公司而言，硬件更新或许是一个良机，既可将部分工作负载调回企业内部，又能节省一些成本。这是短期的看法。

从长远来看，我们认为有几个领域会出现钟摆式波动，比如内包与外包，而边缘到云或是其中之一。但有个领域，我们还有一个预测，那就是到 2028 年底，云提供商的边缘计算服务将重新定价。

现在，这到底意味着什么？主要的云提供商都有边缘计算服务，但实际上，公共云才是该业务的重头戏。而边缘服务则是公共云的入口匝道，定价也是同理。但对边缘计算的预测显示，五年内的发展规模将超过公共云，甚至可能大得多。
如果出现这种情况，我们就会陷入大块头由小块头补贴的境地，而这毫无意义。

因此，我们确实预计，三到五年内，边缘云服务的价格将上扬，而且是大幅涨价。许多工业公司或许会考虑自建边缘计算，以使自己处于更有利的位置，有更多的选择。如果您愿意，可将边缘当作一种保障措施。

明年，预计人工智能解决方案会如何发展？

Bola Rotibi：2023 年是启动元年， 尤其是从 IT 解决方案提供商而言，新工具层出不穷，显然 ChatGPT 引发了人们巨大的兴趣。但我想说的是，人工智能的发展实有时日，比如在后台运行的机器学习及其他各种模型和算法等等。在手机上搜索图片，这些都是人工智能解决方案、人工智能模型。

我们看到的是生成式人工智能的强大功能，特别是当作一种生产力解决方案。生成式人工智能能够简化复杂的查询，并传回相关的简明信息。所以人人蜂拥而上。过去一年，我们看到，包括英特尔在内，各家供应商纷纷推出生成式人工智能功能，而且加强了各自的人工智能解决方案。我们看到 Microsoft 推出了人工智能助理 Copilot，AWS 推出了 Amazon Q。

因此，我们预测，尽管有人呼吁谨慎行事，但 2024 年人工智能的投资和发展将会加速。因为近几个月来，不少倡导者均表示，“少安勿躁。我们应暂缓行事。”人们还有点担心安全问题；担心是否制定了法规，法规是否足够有效。但与此同时，我认为人们确实渴望获得人工智能并加以发展，因为新的体验和参与程度让人们大开眼界。

未来一年，生成式人工智能的实际状况会是怎样？

Bola Rotibi：一方面，它会变得很棒，非常快；另一方面，也会出现一定的放缓迹象。另一个预测是，尽管存在泡沫，事实上我们也会看到很多新工具，所以我们确实认为 2024 年会有一定程度的放缓。部分原因是人们将了解实际的成本，以及今年开始暴露的一些风险和复杂性。

2023 年群情鼎沸之后，人们开始镇定下来，转变为冷静、微妙的态度，开始正确使用生成式人工智能，深入研究一些功能，例如生成代码。不同类型的工作场所解决方案中，皆能看到人工智能的身影，不仅帮助知识型工作者，还能帮助专家型专业人士。

随着投资的加速，您预计合乎道德的人工智能计划会增加吗？

Martin Garner： 简短的回答：是的，会有更多此类计划。人工智能有潜力在社会中发挥众多有益的作用，但如果使用不当，也会造成巨大的破坏。这有点像药品，有监管的药品，也有未受监管的药品。但主要区别在于，没有专业机构，没有希波克拉底誓词（医师誓词）。至少现在还不能把你从人工智能从业者的行列中除名。

目前，我们的情况恰恰相反，只要开发了新东西，人工智能领先公司就会立即将其开源，以最快的速度推向全世界。这显然对供应商和开发人员以及使用人工智能的客户公司提出了巨大的挑战，要求他们在使用人工智能时，采取合乎道德的立场。要正确行事，可谓多如牛毛。

我们预测，2024 年，于大型组织之内，人工智能监督委员会将司空见惯。该委员会由道德专家、人工智能专家、法律顾问、数据科学家、人力资源团队、不同业务单位的代表组成，负责审查全公司的人工智能使用情况。他们的工作是在技术团队（他们均为工程师，而非伦理学家）与组织及其目标之间架起一座桥梁。

对于很多公司来说，这就需要大量的管理费用，还需要大量的培训才能与时并进，始终全面掌控。这一切都是因为人工智能行业在自律方面做得很不够。

欧盟的人工智能法案对人工智能解决方案的开发意味着什么？

Bola Rotibi：欧盟率先颁行人工智能法案，就像 GDPR 一样。我们已经看到欧盟批准了《数字市场法案》。但并非只有欧盟这样做，美国、英国、中国和其他地区也在做。因此，我认为监管机构正在形成合力，2024 年底开始，将会看到一定程度的改善。但我认为，在人们努力适应和理解这一切的意味之时，会有一种磨合的过程，总会有些小问题。但我认为，这将成为人们团结一致的东西。

另一件正在发生的事情是行业层面的监管。最近，包括 IBM、Meta 和英特尔在内的 50 家组织发起了人工智能联盟。联盟的宗旨是集结业界之力，共同完成标准化工作；齐集工作组；为应对某些人工智能挑战和机遇，出谋划策；以及成为终端用户之间互动的枢纽。

对于构建人工智能解决方案的开发人员而言，需要考虑哪些因素？

Bola Rotibi： 不仅仅在于开发人员。安全是工作流程中人人应负的责任，同样，对人工智能采取合乎道德的方法也是如此。当然， 开发人员可以自问，“ 嗯，我能做，就该做吗？”但同时，要想保持一致性，就必须提供指引和原则，在整个组织内分发和传播。这需要从基层做起，也需要自上而下。

因此，我认为未来将采取分层的方法。这也许能意味着，Martin 提到的监督委员会从道德角度，思考组织的现状，并开始制定政策。然后，这些政策将纳入工具之中，以充当护栏。但同时也要对开发人员提供指导和培训，让他们在开发过程中，采取负责任的人工智能方法。

众多组织都在思考影响力、可持续发展以及所有这些方面的问题，因此已经有大量的想法和倡议，让人们从多个层面思考，不仅仅思考负责任的人工智能，还要思考全面做正确的事情。

5G 如何适应这一点？何时开始关注 6G ？

Martin Garner： 5G 要做的事情之一就是扩大人工智能的使用，这要归功于 5G 所具备的大容量、时间敏感型网络定位服务。我们将看到，在多个领域，人工智能的运用都在增加， 例如自动驾驶汽车、我们现在拥有的 5G 以及即将推出的 5G 新技术（是实现这一目标的关键推动因素之一）。

但我认为另一个有趣的方面是人工智能对 5G 的影响。5G 网络很复杂，整个优化和管理是个大问题。我们对此有一个预测，即人工智能将使 5G 网络的可用性超越 5 个 9（99.999%）。这就需要分析流量模式，确保网络的设置能够完美处理特定类型的流量，发现问题，执行预测性维护，以及配置网络，以使出现问题时，能够优雅降级，甚至自我修复。

虽然 6G 还为时尚早，但工作当然还在继续。未来五年左右，我们将建设 6G 网络，我们认为 2030 年将是 6G 的重要一年。我们确实有一些 6G 的预测。其一是，到 2030 年，首个由 6G 技术驱动的大型双子城将宣告成立。我们认为，城市将是 6G 的绝佳展示场所，而大规模孪生将是最佳用例之一，因为城市的所有层面都会纳入模型中。仅看城市实时数据的庞大数量和速度，就需要 6G。我们认为 2030 年将是 6G 的重要一年。

相关内容

要详细了解边缘人工智能趋势预测，请收听《2024 年顶尖物联网和边缘人工智能预测：与 CCS Insight 共鉴》，以及阅读报告《2024 年及之后的边缘计算和物联网预测》。有关 CCS Insight 的最新创新，请在 Twitter 上关注 @ccsinsight，在 LinkedIn 上关注。

本文由文案编辑 Erin Noble 编辑。

模块化智能显示器可让数字标牌发挥更大作用

Posted on by Micah Kaplan

在当今快节奏、媒体渗透的环境中，标牌需要进行改造。要想在餐馆、商店、赌场、机场和其他地方吸引顾客的眼球，显示器必须具有相关性和吸引力。

它们还必须方便管理人员快速、轻松地进行更换。这意味着不再需要在黑板上重写整个餐厅菜单，也不再需要在电子显示器上闪烁上周的价格。

由于业务需求千差万别，要制作出适应性强、可动态定制内容的显示器并不是一个容易实现的目标。但一家系统集成商和一家数字显示器制造商经过多年合作，已开发出一种用户友好、高效且可靠的显示模块，可以量身定制，以满足各种专业需求。

合作打造通往定制智能显示器之路

两家公司，即 德国系统集成商 Aaronn Electronic GmbH 与 Sharp/NEC Display Solutions 的合作关系是智能显示器随着时间推移发生演变的一面镜子，Aaron 董事总经理 Florian Haidn 指出。早期的专业显示器需要外部媒体播放器来播放内容。英特尔与 Sharp/NEC 合作制定的数字标牌标准“开放式可插拔规范 (OPS)”改变了这一现状。此项标准简化了“插槽”式计算设备的安装、使用和维护，使平板显示器具备了计算功能。

最终，市场转向了易于大规模制造的显示器。它们看起来像一台电视机，内含嵌入式系统芯片 (SoC)。SOC 的演变有助于帮助这些数字显示器变得经济实惠且普遍使用，但它们是黑盒系统，不允许公司根据自己的需求调整计算能力或应用程序。“没有任何自行控制机制，” Sharp/NEC 大屏幕显示器和计算技术高级产品经理 Erik Elbert 表示。

此外，SoC 及其操作系统高度依赖显示器制造商提供安全补丁，Elbert 指出，这对于财富 500 强企业和其他专业机构来说是明显的缺陷。

“他们不允许系统芯片嵌入式显示器等黑盒设备连接到其内部网络，” Elbert 说。

提供满足公司需求的安全数字显示器解决方案是 Sharp/NEC 和 Aaronn 的专长。如今，Aaronn 与物联网硬件制造商合作，提供个体化计算解决方案，而 Sharp/NEC 则提供嵌入这些解决方案的显示器。“我们的显示器高度模块化，可以根据配置、操作系统、应用程序和安全要求提供定制解决方案，” Elbert 说。

Aaronn 和 Sharp/NEC 共同提供定制显示器，以满足从企业通信到关键任务运输控制室等各种需求。Sharp/NEC 依赖于广泛的系统集成商网络来安装系统并提供持续维护。

运行中的数字显示器

快餐店是可受益于定制数字显示器的一类企业，因为它们会经常更换菜单，并且非常重视效率。Aaronn 和 Sharp/NEC 正在德国和奥地利的数千家麦当劳餐厅推广数字显示器。为满足连锁餐厅的特殊需求，Aaronn 对解决方案的硬件、操作系统和计算性能规范进行了定制。

餐厅在部署解决方案之前采用纸质菜单作为标准，并且一天内需要多次更换。现在智能显示器可根据用餐时间进行编程，以改变菜单。此外，展板还可以播放动画和产品视频，吸引并保持客户的注意力。个别餐厅可以定制一些自身的内容。

虽然麦当劳的设备目前还不能进行高级计算机分析，但 Aaron 和 Sharp/NEC 显示器中的嵌入式计算功能可以在边缘设备上运行更高级的算法。例如，通过在机场航站楼的屏幕上安装计算机视觉摄像头，管理人员可以分析旅客流量和其他参数，但仅限于收集所测量的人和物的元数据，以保护个人隐私。与偶尔运行视频的数字显示器相比，Aaronn 可以为此类用例提供更强的计算能力。

Haidn 指出，Aaron 大多数系统以英特尔设备为基础，因为它们能够提供 Aaronn 所需的高性能芯片和和高效率 CPU 技术。Aaronn 还使用英特尔 vPro® 平台。该平台可轻松配置多个操作系统，并配备定制解决方案所需的安全功能。Haidn 表示：“我们要提供可靠的工业级全天候可持续技术。”

利用模块化嵌入式计算提高可持续性和定制化水平

效率是数字显示器的重要考虑因素，尤其是当可持续性成为企业的一项关键驱动因素时。Aaronn-Sharp/NEC 智能显示器的模块化设计有助于实现屏幕单元和计算模块相互独立。如果任何一个组件损坏或需要升级，则可以用新的组件替换，因此不需要淘汰掉整个系统。Elbert 表示，显示器设备的使用寿命至少为 5 到 7 年。

数字显示器采用英特尔的低功耗 CPU，这是节能方面的另一个优势。Elbert 建议说，客户在选择智能显示器设备时，可持续性考虑因素应发挥重要作用。拆卸插槽式电脑设备比扔掉整个设备更环保，成本也更低。“首先要了解您现在和未来的需求，” Elbert 表示。“灵活且重复利用现有已部署和已付费的设备是件好事。”

Elbert 预测，未来智能数字显示器将在分析方面承担更多繁重的工作，并提供更多定制信息。例如，乘坐从中国起飞的航班抵达德国的旅客可以在出站口附近的屏幕上看到他们需要填写的表格以及填写表格所需的时间等信息。足球比赛结束后乘火车旅行的乘客可能会看到当地一家快餐店的打折优惠信息。

无论您是在球场、机场还是当地餐厅，未来的智能显示器都可以提供引人注目的视觉效果和更有用的信息。

 

本文由 insight.tech 的贡献者 Teresa Meek 编辑。

除了聊天机器人：生成式 AI 解决方案的潜力

Posted on by Micah Kaplan

AI 已经成为头条新闻已经有一段时间了。但随着我们进入 2024，生成式 AI 会成为最新的突破。大部分注意力都集中在 ChatGPT 上，并伴随着许多关于什么是生成式 AI 的误解和误区。

为此，我们采访了 AI 应用程序平台提供商 Anyscale 的首席科学家 Waleed Kadous；全球管理咨询和技术公司埃森哲云第一首席技术专家 Teresa Tung；以及与埃森哲和英特尔合作的 AI 和分析首席总监兼首席技术官 Ramtin Davanlou。他们讨论了生成式 AI 解决方案的商业机会、所涉及的挑战以及下一步的计划（视频 1）。因为生成式 AI 将继续存在，并且有很多值得期待的。

视频 1. 来自 Anyscale 和埃森哲的行业专家讨论了生成式 AI 解决方案的影响和机遇。（资料来源：insight.tech）

请解释生成式 AI、商业机会和挑战。

Ramtin Davanlou：总之，像 OpenAI、谷歌和 AWS 这样的公司利用其庞大的计算资源和庞大的数据集来训练 AI 模型 或 LLM（即大型语言模型），以生成新内容，构建全新的知识。这些内容以不同的形式出现：文本、图像、视频、语音，甚至计算机代码。但文本尤其重要，因为它是大多数企业的主要通信手段。

这些 AI 模型中的许多模型能够在任何给定主题上生成非常好的响应，比该主题领域的普通人甚至普通专家都要好。然后，公司可以采用这些模型，并对它们进行微调，以便模型以某种方式发挥作用，并获得有关特定环境的更多知识。这创造了许多机会。

公司可以使用生成式 AI 来做一些事情，例如发送电子邮件或创建幻灯片等，我们创建的所有内容都是为了相互通信，或增强这些内容。这对服务行业，以及与机器人相结合的制造业产生了巨大的影响。

LLM 现在无法做到，但很快就能做到的是从头开始创造全新的知识。

企业在开发 GenAI 解决方案时，应该考虑哪些因素？

Waleed Kadous：一个考虑因素是这些模型的输出质量。LLM 有一个问题，称为幻觉，他们自信地断言一些完全不真实的事情。那么，您如何进行评估，以确保该系统实际上产生了高质量的结果？您使用哪些基础数据？在过去的六个月中，我们在一个被称为“检索增强生成”的领域取得了进展，它有助于最大限度地减少幻觉问题。

第二个考虑因素是数据清洁度，这与这些 LLM 可以访问的信息有关。它们披露了哪些信息？它们能告诉人们什么? 不同用户之间是否有泄漏？有人是否可以对用于训练模型的数据进行逆向工程？它仍然是一个新的领域，所以我们仍然可以看到在这一领域出现的问题。

然后，最后一点是 LLM 成本很高。我的意思是，非常昂贵。您可以在一个月内轻松地在 GPT-4 上花费 10 万美元。

企业怎么才能开始将 GenAI 解决方案带入下一个层次?

Teresa Tung：大多数公司都有概念证明，许多公司都是从 OpenAI 等管理模型开始的。这些令人惊叹的通用模型可以解决许多用例，并提供了一个非常好的开始方式。但正如 Waleed 提到的那样，从长远来看，成本是一个因素；它可能比许多公司愿意支付的价格高出一个数量级。因此，公司现在需要考虑合理调整成本，并根据业绩调整成本。

当 AI 模型对企业变得越来越重要时，我们也看到公司希望掌握这些模型。他们可能会想要创建自己的特定任务和特定模型，而不是使用管理模型。可以根据不同的需求定制 100 亿以下的参数模型。仍然会有通用模型，但也有适合用途的模型。

Waleed Kadous：我们在 Anyscale 所做的实验之一是将自然语言翻译为 SQL 查询。通用模型 GPT-4 能够产生的准确率为约 80%。但通过训练 SSM（小型特定模型，只有 70 亿个参数，费用大约是成本的百分之一），我们能够实现 86% 的转换准确率。因此，小型特定模型与大型语言模型之间的讨论（现在正在这个行业发生）正在不断演变。

现在，您的客户的最大的生成式 AI 机会在哪里？

Waleed Kadous：第一种用例商机是总结。是否有一些领域，您可以浓缩大量信息，以及浓缩哪些领域的信息是有用的？

第二种是我之前提到过的检索增强生成家族。在那里，您不仅可以天真的问 LLM 问题，而且实际上可以为其提供上下文，以及现有的答案知识库，以帮助回答这些问题。

另一个有趣的应用程序是您将其称之为“与系统交谈”的应用程序。将其想象成您可以与之交谈的仪表板，即升级版的仪表板。这在物联网中尤其有趣。我曾见过一家在这方面做得很出色的公司；它为零售商安装 Wi-Fi。您可以问这个仪表板这样的问题：“我们在哪里看到路由器工作太努力了？”它将实时查询这些信息，并为您提供更新。

最后是上下文中的应用程序开发。也许最有名的是 Copilot，当您编写代码时，它将为您提供有关如何编写更好、更高质量的代码的建议。上下文中的应用程序最困难，但它们的潜力也最大。

Teresa Tung：Waleed 给出了一个很好的概述，所以我将从不同的视角阐述您可以购买的东西、可以提升的东西以及您可以构建的东西。“购买”是能够为软件开发、营销和企业应用程序购买生成式 AI 驱动的应用程序。他们使用经过第三方数据训练的模型，使任何人都能够获得这些效率。这正迅速成为一种新常态。

“提升”是应用公司的第一方数据，即有关您的产品、客户、流程的数据。要做到这一点，您需要整理好数据基础，检索增强生成就是一个很好的开始方式。

“构建”是指公司维护自己的自定义模型。这可能从预先训练好的开放模型开始，然后向模型添加自己的数据。它在模型中为您提供更多的控制权和更多的自定义。

像埃森哲与英特尔这样的合作关系从何而来？

Ramtin Davanlou：在这一领域，合作伙伴关系非常重要，因为试图构建端到端的 GenAI 应用程序的公司通常必须解决基础设施和计算资源等问题。例如，您需要非常高效的 ML Ops 工具，以帮助您处理从开发到管理、监控和在生产环境中部署模型的各个部分。

我们已经使用了一些英特尔软件，如 cnvrg.io，这是一种 ML Ops 工具，允许数据科学家和工程师在相同环境中进行协作。它还允许您跨不同的云平台使用不同的计算资源，例如在本地环境、英特尔® Developer Cloud 和 AWS 上。

合作伙伴关系也有助于降低总拥有成本，特别是在您扩大规模时的成本。为什么不为每个新用例构建新平台，而构建一个您可以重复使用的平台？例如，我们与英特尔合作，使用 Intel Developer Cloud 以及 GaudiTools （专门用于微调深度学习应用程序模型的 AI 加速器）构建了一个生成式 AI playground。然后，为了大规模部署这些模型，您可以使用 AWS。

另一个例子是需要一种工具来帮助分配工作负载。Hugging Face 有一个叫做 TGI 的库，非常有用。因此，您可以看到，需要将许多不同的组件和片段组合在一起，才能拥有一个端到端的 GenAI 应用程序。

Waleed Kadous：另一个问题是开源的想法，即开源模型，当然还有开源软件。Meta 发布的一个示例是称为 Llama2 的模型，我们已经看到了非常非常好的效果。它可能不能与 GPT-4 相提并论，但绝对接近 GPT-3.5，比 GPT-4 低一个档次。Berkeley 有一个 vLLM，一个高性能的部署系统；还有 Ray LLM。vLLM 管理一台机器；Ray LLM 为您提供了跨多台机器的可扩展性，以处理峰值和自动扩展等。

我们看到开源的蓬勃发展，因为不是每个人都喜欢把他们所有的数据委托给一两个大公司，并且供应商锁定是一个真正的问题。还有灵活性：我可以在数据中心部署某些东西，或者在我自己的 AWS 云中部署它，除了我之外，没有人可以访问它。

由于成本原因，开源解决方案更便宜。我们做了一个关于构建一个电子邮件摘要引擎需要花费多少钱的概要，如果您使用像 GPT-4 这样的东西，它将花费 36000 美元，如果您使用开源技术，它将花费约 1000 美元。

我们已经看到很多公司对开源模型很感兴趣，从倾向于更注重成本的初创公司，到倾向于更注重隐私和数据控制的企业。并不是说开源模型和技术是完美的，只是它们很灵活，而且成本更低。从1800 亿到 700 亿及以下，各种规模的模型都可用。现在它只是一个非常动态的空间。

需要做些什么，才能使生成式 AI 更成为主流？

Waleed Kadous：一个不断增加的趋势是努力使 LLM 更易于使用。但另一个问题是，我们还没有完全弄清楚如何随着时间的推移，让它们变得更好。如果 LLM 犯了一个错误，您如何纠正它？这听起来是一个很简单的问题，但答案实际上是有细微差别的。因此，我们看到评估和监控阶段有了巨大的改进。

然后，到目前为止，重点一直放在大型语言模型上——文本输入和文本输出——因为世界上的每一家企业都使用语言。但我们开始看到可以处理或输出图像的模型的演变。就像用于文本的有 Llama，现在也有用于视频和视觉处理的 LLaVA ，尽管并非世界上所有企业都需要处理图像。

在生成式 AI 的话题上，业务领导者应该注意什么？

Teresa Tung：希望要点是意识到开始拥有自己的 AI 模型是多么容易。但它确实是从准备好数据基础的投资开始的——记住，AI 是与数据有关的。好消息是，您还可以使用生成式 AI，帮助数据供应链顺利运行。因此，这是双赢的。

Ramtin Davanlou：我认为，监管和道德合规，以及在我们所谓的负责任的 AI 下处理幻觉和其他主题，是公司需要克服的最大挑战。大规模使用 GenAI 所需的文化变革是它成功的关键。

Waleed Kadous：现在开始很重要，而且不需要很复杂。可以把它想象成一个分阶段的过程。构建原型，并确保用户喜欢它。然后考虑成本，在某种程度上，质量是次要问题。

您还可以为人们提供工具来优化他们自己的工作流程，并改进 LLM 本身。我认为这是最令人兴奋的趋势之一，与其将 GenAI 视为一种替代技术，不如将其视为帮助人们更好地完成工作的增强技术。帮助人们以一种让他们感到有能力而不是被淘汰的方式使用 LLM。

相关内容

要了解有关生成式 AI 的更多信息，请收听导航生成式 AI 解决方案领域。要了解埃森哲和 Anyscale 的最新创新，请关注它们：

 

本文由文案编辑 Erin Noble 编辑。

多感官 AI 彻底改变实时分析

Posted on by Micah Kaplan

人类使用他们的眼睛、耳朵和鼻子来了解他们的环境。iOmniscient 基于 AI 的分析通过视频、声音和嗅觉分析来模拟这些功能，所有这些都可以协同工作。

早在 AI 成为时尚之前，iOmniscient 首席执行官 Rustom Kanga 就与人联合创立了这家公司。“从某种意义上说，那时的计算机不具备同样的能力，所以我们必须设计更高效的算法，最大限度地减少所需的训练量。” Kanga 说。这种体验非常有用，因为如今公司的 AI 算法只需少量训练，并且可以在无 GPU 的情况下运行，可显著降低运营成本和减少实施系统所需的时间。

由于 GPU 非常耗电，iOmniscient 系统可使整个系统更可持续，显著降低碳足迹。该公司利用英特尔® OpenVINO™ 工具套件优化模型，同时最大限度地减少资源要求，并使用更具成本效益的硬件。

利用行业特定包交付成果

该公司拥有 70 多项国际专利，可提供许多独特的功能，例如能够理解拥挤和复杂的场景中的行为，但 iOmniscient 的重点不是销售产品。相反，它了解客户的问题，并可确保结果。它开发的算法可解决 300 多种用例，这些用例可以以不同的排列组合一起使用，以解决许多行业特定的需求。在此基础上，它为零售业、铁路和智能交通管理等各种行业整合了全面的行业包。如今，该公司的产品已在 70 个国家/地区的 30 个不同行业中实施。

对于许多行业来说，iOmniscient 的全面的行业包解决了各种问题。

以零售行业为例，管理层希望了解其客户的人口统计数据，以及他们在商店的不同部分花费的时间。零售商可能会提供忠诚度计划，为客户提供与其已知兴趣有关的特别优惠。当购物者在商店里走动时，数字广告显示器可以根据人口统计数据反映接近显示器的人们的兴趣。

在建筑物中，iOmniscient 系统可以在无需数据库的情况下提供无门访问管理。而在制造工厂中，它可以帮助进行质量控制和预测性机器维护。

自动响应

“我们非常早就意识到，真正的挑战不仅仅是生成有关环境中正在发生的事情的信息，” iOmniscient 的联合创始人 Ivy Li 说。“我们的客户要求系统能以自主方式解决其特定问题。”

以机场或火车站等公共场所发生的典型事件为例。即使在拥挤的地点，iOmniscient 系统也可以检测到遗弃的包裹。可以匿名跟踪留下它的人。当找到他们时，系统可以找到最近的适当响应者，在他们的手机上向他们提供事件的视频，并告诉他们去哪里和要做什么。

因此，系统不是专注于单一的检测算法，而是动态地结合多种算法来实现所需的操作，在上述情况下，该操作是指导第一响应者处理事件。

这种自主响应是另一种国际专利的 iOmniscient 功能，可以将事件的响应时间缩短约 80%。在发生交通事故的情况下，这种快速响应可以挽救生命。

利用多感官 AI 以较低的成本解决复杂的问题

“我们的客户往往对价格敏感，” Kanga 解释道。“我们设计的解决方案与当今基于 GPU 的人工智能系统相比，其需要的存储量减少 90%，网络带宽减少 90%，并且可以与现有的低分辨率摄像头配合使用。”

因此，该公司将继续为客户构建“同类最佳”解决方案的同时，也专注于以最低的成本进行这项工作，这是通过设计系统最大限度地减少其基础设施的要求来实现的。其结果是一个智能的多感官分析解决方案，通常可以以低于视频录制系统的成本来安装。

 

本文由 insight.tech 的贡献者 Teresa Meek 编辑。

小样本学习加快 AI 模型训练和推理

Posted on by Micah Kaplan

为提高盈利能力、优化生产并在激烈竞争的业务环境中取得成功，制造商越来越多地采用计算机视觉技术。但开发能够在工厂车间中使用的解决方案是一个极其复杂且耗时的过程。

这是因为计算机视觉模型用来组装产品或检测零件和机械缺陷的 AI 算法需要大量的训练。虽然可以使用预先训练的模型，但这些模型的准确性几乎无法满足部署需要。训练自定义模型通常需要大量的数据集、熟练的工人来指导培训，还需要花费数月的时间。

对于期待部署支持视觉的解决方案的制造商来说，这是一个严重的发展瓶颈，会阻碍行业的数字化转型。但一种名为“小样本学习”的新 AI 模型训练方法可能是更快地部署 AI 解决方案的关键。

小样本学习如何加快 AI 模型训练

要知道为何小样本学习可以改变游戏规则，请先了解计算机视觉模型通常是如何开发的。

通常情况下，自定义 AI 模型从预先训练好的模型开始。以装配线环境下的分拣用例为例。开发团队可能会从用于对象识别的广义计算机视觉模型开始。但该模型无法识别公司使用的特定组件。为了使其可以足够准确地用于部署，开发人员通常会采用一种称作“监督学习”的方法，为 AI 模型提供带有注释的训练数据，以帮助它了解特定部件或缺陷的外观，以将其与其他部件区分开来。

但完成此项任务往往需要数千张图像。在监督学习场景中，图像还必须由领域专家进行注释（“这是小工具，这不是小工具”），以便向模型传授所需的知识。这项不仅任务成本非常高，还需要付出大量劳动，因为熟练的员工必须首先注释图像，然后通过多轮训练调整模型的超参数。

“即使是在最好的情况下，监督学习也需要需要大量熟练人员，并需要 耗时数月才能完成，”全球计算智能公司联想集团的算法研究员 Lu Han 解释道。

在某些场景下，监督学习可能并不可行。例如，如果制造商需要训练模型检测一种新的零件缺陷类型，可能没有足够的缺陷零件图像用于模型定制。

小样本学习采取另一种的方式来克服此项挑战。“小样本学习”中的“样本”是指模型在训练过程中获得的某类对象的示例数量。

在此过程中，AI 可能会被教导来识别一般对象之间的相似度或差异程度。此功能随后可用于将从未见过的对象与少量参考示例进行匹配。一个简化的示例是，对模型提供螺母、螺栓和螺钉的注释图像，每个类别都有两个示例，再加上螺栓的测试图像，然后要求模型预测螺栓测试图像与这三个对象类别中的哪个最相似。

小样本学习自定义 AI 模型需要数量更少的注释图像——只需几十个而不是几千个——并且通常需要几天或几周而不是几个月。其结果是大大简化了 AI 开发工作流程，帮助企业以前所未有的速度部署 AI 解决方案。

用于缺陷识别的小样本学习系统

典型案例：联想在一家纺织品制造商处部署的缺陷识别技术。

为了保证质量，制造商必须能够识别其生产的纺织品中的 80 多种不同类型的表面缺陷。人工检查无法达到预期的质量控制水平。

该公司希望开发基于 AI 的缺陷识别解决方案，但在实施过程中面临一些常见的障碍。自定义模型训练非常困难，因为公司只有很少的缺陷样本可供使用。此外，该公司只有一条生产线用于生产各种类型的产品，因此任何 AI 解决方案都需要能够在产品和材料发生变化时快速更新边缘模型。如果采用传统的训练方法，构建一个有效的 AI 解决方案可能需要约 6 至 12 个月时间。这不是一个令人满意的时间框架，而且对未来的迭代来说也不是一个好兆头。

作为智能制造的领先企业，联想集团在其科研部门联想研究院孵化了联想边缘人工智能方向。它拥有强大的技术能力来解决上述难题。联想 EdgeAI 与制造商合作，利用小样本学习技术开发了一种端到端计算机视觉缺陷识别解决方案。模型的初始训练和本地更新仅在一周内完成。其准确性令人印象深刻：关键项目的漏检率为零。

为了减少延迟并实现本地管理，联想在边缘工业个人计算机 (IPC) 上运行了 AI 推理工作负载。这样可以在不同产品类型使用的不同 AI 模型之间近乎实时地进行切换。它还允许工厂质量保证人员现场重新训练模型，以适应未来的产品更改或新出现的缺陷。

联想认为与英特尔的技术合作有助于有效部署该解决方案。“我们的系统使用英特尔芯片，可在客户所需的边缘场景中提供强大的计算资源，” Han 指出。

联想还使用英特尔® OpenVINO™ 工具套件。Han 表示：“我们的推理引擎广泛兼容各种工具套件，特别是 OpenVINO。在推理方面，英特尔芯片可支持约 20 个边缘 AI 模型。我们的许多客户更喜欢搭载英特尔芯片的设备，这有助于我们更快地将此解决方案推向市场。”

通过小样本学习加速工业 4.0

由于小样本学习是加快 AI 解决方案开发的有效策略，因此它可能会成为解决方案开发人员、系统集成商 (SIs) 和制造商的一个极具吸引力的选择。它还可以帮助降低成本，因为小样本系统可以更容易地重新训练，以适应新产品模式或从未见过的缺陷等运营变化。

随着 AI 普及率的提高，工业 AI 生态系统也可能日趋成熟，SI 和解决方案开发人员可以提供全面的服务和咨询包。联想已经将其缺陷检测系统作为端到端解决方案进行销售，并为软件提供全生命周期服务包和订阅式支持。

“计算机视觉正在制造业中变得不可或缺，” Han 指出。“小样本学习可帮助企业更快地部署创新的计算机视觉解决方案，加快其数字化转型，更快实现投资回报。计算机视觉和小样本学习在这一领域都有着光明的前景。”

 

本文由 insight.tech 的贡献者 Teresa Meek 编辑。

数字孪生让楼宇管理更环保、更智能

Posted on by Micah Kaplan

拥有建筑环境资产组合的公司面临着一个令人沮丧的问题。他们希望自己的建筑（零售店、工厂、医院或其他建筑）能够智能化。毕竟，智能设施可以减少能源消耗，减少浪费，降低维护成本，延长资产寿命，并实现一系列额外的运营效率。但是，企业要想实现这些理想成果，相关数据却很难获取，往往锁定在独立的遗留系统中的专有协议背后。

幸运的是，数字孪生（代表物理资产并捕捉其相互依存关系的功能模型）可以解决这个问题。数字孪生解锁和整合各系统的数据，为企业提供宝贵的运营见解，而楼宇业主可以利用这些见解，使其设施更智能、更可持续、更易于管理。

面向遗留资产管理的数字孪生平台

“各组织在利用技术让其业务和设施变得更加智能方面，拥有巨大的机会。” e-Magic （数字孪生解决方案 TwinWorX® 的提供商）业务开发副总裁 Dale Kehler 表示。将资产驱动的数据从孤岛中解放出来，使企业能够做出数据驱动的决策，而不是依赖不可靠的参数或直觉。

为此，TwinWorX® 创建物理资产的数字模型，并跟踪其使用情况和相互依存关系。因此，企业可以利用数字对等物来监测和控制其设备。TwinWorX® 还与供应商无关，将不同资产的实时遥测数据汇总到一个平台上。这意味着企业不必再为 10 种不同的资产使用 10 种不同的软件产品；他们只需透过一个玻璃窗，即可查看所有相关信息。

至关重要的是，像 TwinWorX® 这样的数字孪生解决方案能够捕捉资产之间的相互依存关系。TwinWorX® 连接各系统中成千上万的数据点，使资产管理者能够轻松了解改变一个变量对其他变量的影响。例如，调高建筑物内的温度设置，就能显示出对炉子寿命、碳排放和能源成本的影响。Kehler 说：“由于有了上下文数据支持所看到的内容，数字孪生代表了一种新的数据建模方式。”

来自资产的实时遥测数据并非单向流动。Kehler 说，“实现与资产的双向通信，就能从数字孪生中控制资产。” 数字孪生可更改设置，如温度、气体流量或企业想要操作的其他可访问参数。

有了实时数据馈送，公司就可以收到需要立即关注的运行异常通知。在一个数字孪生平台上收集所有相关数据，使他们能够应用机器学习和人工智能等技术，不仅能了解当前发生的情况，还能预见即将出现的问题，在某些情况下，还能应用预测性维护来防止故障发生。

数字孪生解决方案应用范围涵盖各行各业

数字孪生的应用范围很广，视环境而定，从单一的办公大楼到庞大的制造工厂或医疗综合体，不一而足。

Kehler 说，TwinWorX® 最常用于集中管理多建筑环境中的资产。例如，天普大学 (Temple University) 希望创建一个集中式平台，以便查看校园内所有楼宇管理系统的数据。由于 TwinWorX® 提供了与供应商无关的遗留资产管理系统，该大学现在可以在一个地方管理数据，从而节省时间。有了 TwinWorX®，还可以无需使用冗余的许可和分析工具，从而节省资金。

Kehler 表示，像天普大学所做的，集中数据并摆脱昂贵的供应商合同，是迈向智能环境的早期步骤。数字孪生解决方案解决了许多楼宇业主的问题：我们如何才能战略性设计我们的系统，并为管理智能环境做好准备？有了 TwinWorX®，公司可以从小规模开始，连接单一资产或少数几个资产，随着目标越来越远大，再增加更多资产。

首先，公司通常会想方设法降低能源费用，使运营更加环保。Kehler 说，“许多公司都在应对能源成本上升的问题，并在努力实现脱碳，以履行可持续发展的承诺。”“清楚掌握能源使用情况，便能找到节约成本的机会，例如减少能源使用，混合能源构成等等”。数字孪生解决方案可以向企业展示，使用一种可再生能源，或者混合使用可再生能源与传统能源，将对其整体可持续发展状况产生何种影响。

TwinWorX® 平台采用英特尔® 服务器和处理器，而 e-Magic 经常推荐英特尔® 处理器和物联网系统，用于需要低延迟的客户边缘计算实施。e-Magic 为遗留资产管理提供数字孪生平台和连接工具。其系统集成合作伙伴还为建立碳核算等专门功能提供额外的咨询服务。

未来的遗留资产管理

虽然数字孪生还处于萌芽状态，但 Kehler 预计在不久的将来，随着立法迫使楼宇业主迅速实现能源效率，数字孪生的应用将不断增加，尤其是对于那些致力于实现可持续发展目标的公司。

随着实施的增加，有朝一日，数字孪生会帮助创建由互联系统组成的整个生态系统，使建筑环境和智能城市同步实现一系列共同的效率目标。

 

本文由 insight.tech 的贡献者 Teresa Meek 编辑。

API 安全填补了网络保护方面的关键空白

Posted on by Micah Kaplan

无论您以数字方式访问银行账户、进行在线购买或登录云应用程序，您都需要使用应用程序编程接口 (API)。API 充当应用程序中的网关，是数字连接的粘合剂。然而，人们对它们仍然知之甚少，而且往往感觉不安全。

组织依赖于数百个甚至数千个 API，但 CISO、CIO 和 CTO 通常不了解准确的库存。这就解释了为什么 API 已经成为一种常见的网络攻击矢量的原因。涉及 API 的问题包括身份验证实践不佳、配置错误和缺乏监控。

API 安全是一个巨大的挑战，在很大程度上，这是网络安全解决方案如何应用的结果。大多数解决方案采用“马眼罩”方法，保护计算环境的特定部分，如端点、服务器和云应用程序，API 安全公司 Noname 战略联盟的技术总监 Ryan B 说。“他们只会看到他们专门课程中的内容和他们眼球前面的东西。”

结果：IT 环境中出现了巨大的安全漏洞，不仅影响了公司的内部资产，还影响了与不断增加的云端和软件即服务 (SaaS ) 应用程序堆栈的连接。Noname 填补了这一空白，无论资产在哪里，都可以利用人工智能和机器学习算法分析流量，并在云端、本地或两者兼而有之的地方识别和阻止恶意行为。“我们是专门为 API 问题而打造的，” Ryan 说。

Noname 从企业而不是安全供应商或云提供商的角度应对 API 挑战，从整个环境的全景视图来保护所有 API 。

“我们发现许多解决方案无法识别与 API 有关的恶意活动，” Noname 全球战略联盟副总裁 Peter Cutler 说。“当它们发现恶意活动时，已经太晚了。这就是为什么 Noname 集成开箱即用的 SIEM（安全信息和事件管理）和端点保护等网络安全解决方案的原因。”

利用人工智能和机器学习发现 API 漏洞

根据用于应用程序安全的开源基础 OWASP，最常见的 API 漏洞包括：

  • “损坏对象级别身份验证”，允许用户根据用户角色访问数据，而无需验证该人员是否有权访问数据
  • “损坏身份验证”，当攻击者入侵密码、会话令牌和用户帐户信息等凭证时，就会发生这种情况
  • “损坏对象财产级别身份验证”，涉及一个用户访问另一个用户的数据

恶意机器人通常是这些攻击的幕后黑手。试图对抗机器人行为的人类无法在速度和能力上与它们竞争，因此需要人工智能和机器学习。

“这是一个需要解决的超人问题。您雇用的所有人、您购买的所有技术，您认为这些是工作的合适的解决方案。您购买了防火墙、聘请了安全顾问、运行了一些渗透测试。猜猜是什么方法？这还不够好，” Ryan B 说。

Noname 使用机器人对抗机器人。在客户环境中实施的第一周，Noname® API 安全平台处于学习模式，观察使用 API 的应用程序之间流量的移动模式。该平台记住 API 规范、请求和响应模式，并查看涉及支付卡数据等机密信息的通信参数。

从第二周开始，安全平台会利用第一周获得的基准知识来识别偏离正常模式的活动。然后，人工智能确定这些异常是否是恶意的。可疑活动会被标记和阻止。Noname 对流程应用了置信度评分。Ryan B. 说，它基于至少 80% 的机器学习派生方法来确定某个特定动作是否是恶意的，并且可以追踪到攻击者及其已知位置。

为了使 IT 防御保持最新状态，Noname 使用了主动测试，这是一种模拟网络攻击的技术。每当客户更改环境时，此运行时测试会检查新的软件版本、端点或其他组件是否受到适当保护。这可以防止将新的漏洞引入环境。

Cutler 说，如果没有主动测试，组织启动新的生产 API 时，”就会祈祷 API 网关或网络应用程序防火墙 (WAF) 和其他安全层将识别和保护它们。这是非常危险的，肯定不是一个好的策略。”

API 安全意识需要高性能计算

当然，机器学习和人工智能将继续在 API 安全方面发挥重要作用。随着流量的增长，机器学习和人工智能需要大量的处理能力。”我们一开始使用 8 个 CPU，每秒处理大约 3000 条消息。当 API 流量扩展到每秒处理 7000；10000； 20,000 条消息时，我们的机器学习引擎将需要更多的 CPU，” Ryan B 说。

Noname 与英特尔密切合作，以利用运行人工智能和机器学习所需的性能。该公司对第五代英特尔® 至强® 处理器进行了基准测试，以从性能显著提升中受益。利用英特尔嵌入式加密技术来防止恶意行为者损害 Noname 技术的工作也正在进行中。

展望未来，Noname 希望 API 能被更好地理解。这需要教育，这是公司使命的一部分。

“我认为，进入 2024 年，人们将更加重视安全。他们将为工作购买合适的工具，并利用这些创新，以一种他们以前从未尝试过的方式保护他们的系统，” Ryan B. 说。

 

由 insight.tech 主编 Georganne Benesch 编辑。

利用店内闭路电视监控系统实现智能零售解决方案

Posted on by Micah Kaplan

在网上购物时，您会留下一些数字碎片信息的痕迹供零售商分析。通过跟踪您的鼠标点击甚至是放弃的购物车，零售商可以知道您喜爱哪些商品、您忽略的哪些商品以及哪些商品需要通过有针对性的广告重新引起您的注意。

虽然电子商务零售商可以利用这些购物者洞察信息，但实体零售商从来都无法轻松做到这一点。在实体店内，商家很难描绘出从买家被商品展示所吸引到最终销售的整个购物行程。

但得益于计算机视觉分析 (CVA) 技术，零售商现在可以使用已安装的闭路电视监控系统来获取店内购物者数据。通过将更精确的行程跟踪引入实体店铺，这些技术使零售商能够做出更好的商品展示、产品分类和人员配置决策，以提高销售业绩。

利用闭路电视监控系统进行计算机视觉分析

零售业数字解决方案提供商 Sensormatic Solutions 的视频分析、人工智能和孵化总经理 Dustin Ares 表示，实体店获取购物者数据的最顺畅的方法是尽可能利用商店现有的技术基础设施。

店内闭路电视监控系统可以跟踪购物者的行为，以便零售商能够了解哪些商品受到关注或被忽略，以及需要多长时间才能完成销售。Sensormatic Solutions CVA 可以与闭路电视监控设备连接，将其用作边缘推理系统中的摄像头传感器。该公司将摄像头数据输入专门的人工智能算法进行实时推理，以提供有关现场活动的可执行洞察信息。Ares 指出，“我们可以使用边缘设备处理数据，快速做出低延迟决策，然后通知商店相关人员或经理采取特定行动”。

该“特定行动”可能包括根据购物者流量和兴趣，在店内的新区域重新分配人员或者调整某些商品的采购。在某些情况下，零售店铺的店员可以通过耳机即时接收有关如何以及在何处配合客户以促成销售的指示。

同样的摄像头驱动分析可以帮助零售商解决另一个主要痛点：盗窃。“红色”购物者是潜在的商店盗窃者，他们的行为往往与善意“绿色”购物者不同。他们可能会随意挑选物品或不断偷看店员，摄像头的此类视觉提示可帮助提醒店员。

智能零售解决方案和分析

如果对使用摄像头分析购物者行为有顾虑，零售商可以在遵守欧洲 GDPR 等隐私和消费者数据保护法律的前提下获取分析结果。Sensormatic Solutions 模型采用保护隐私的设计理念构建；它们不保留或处理私人可识别信息，仅处理边缘元数据。

该公司还意识到人工智能模型存在偏见的可能性。Ares 表示，“我们严格审查模型，以确保不会传播偏见，尤其是在进行人口统计评估时”。Sensormatic Solutions 定期与其母公司智能建筑解决方案提供商 Johnson Controls 进行核查，以了解该领域的全球法规和合规情况。Ares 指出，“我们希望确保我们的产品不仅合规，还能具有前瞻性，考虑到未来的[发展趋势]。”

各种智能零售使用案例

虽然了解购物者的行为特征和防止损失是零售商关注的重要问题，但它们绝不是该行业唯一考虑的问题。

一家欧洲巧克力制造商利用 Sensormatic Solutions CVA 测试中央商店陈列的效果。该商家发现顾客互动情况低于预期，因此将店员安排在离显示屏更近的地方，以改善店员与顾客的互动。

在韩国，Sensormatic Solutions 帮助一家连锁便利店开发库存管理解决方案。这家零售商由于需要安排员工持续查看新鲜食品货架上的库存水平，造成了人力资源的浪费。安装摄像头传感器不仅能提供准确的库存信息，还让零售商能够主动预测库存水平何时会减少，从而采取必要的预防措施。

Sensormatic Solutions 本身就是系统集成商。该公司与业内许多渠道合作伙伴建立了合作关系，特别是零售商安全解决方案提供商。该公司可以按现状使用店内系统，并根据需要测量的指标建议增加其他摄像头装置。

Sensormatic Solutions 的智能零售技术组合在英特尔硬件上运行，特别是英特尔® 酷睿™ 第 13 代处理器和最新的英特尔® 酷睿™ 第 14 代处理器。英特尔的全球可用性是该公司的一大优势，因为该公司的业务足迹也遍布全球。

数据驱动零售的未来

期待 Sensormatic Solutions 提供更全面的解决方案，以应对零售业面临的更广泛挑战。Ares 预测，该公司将继续发展成为零售数据专家，不仅为个人客户提供洞察信息，而且为全行业基准提供参数和分析。

由于全渠道购物和众多零售店铺争夺消费者眼球，零售业的复杂程度前所未有。幸运的是，即使是实体店，也可以通过闭路电视监控系统来利用洞察信息，降低业务复杂度。数据驱动的分析是智能零售解决方案的基础，它可以帮助各行各业的零售商实现一系列令人印象深刻的效率目标。

 

由 insight.tech 主编 Georganne Benesch 编辑。

掌握面向下一代人工智能的工具

Posted on by Micah Kaplan

人工智能正在改变世界，每天都在不同行业中不断发展。这在一定程度上是因为开发人员正在构建新的解决方案，并努力跟上新一代人工智能的发展。英特尔帮助使这一切成为可能，为开发人员提供所需的技术和工具，例如 OpenVINO™ 和英特尔® Geti™。此外，OpenVINO 和 Geti 旨在将开发人员和业务领域用户连接在一起，进一步促进下一代人工智能解决方案和使用案例的发展。

为了了解有关下一代人工智能开发的更多信息，我们与英特尔人工智能传道者 Paula Ramos 做了探讨。她讨论了人工智能解决的现实问题、所涉及的英特尔功能以及人工智能的民主化和传播（视频 1）。因为这不仅关系到向开发人员提供工具和技术，同样重要的是提供教育和资源，让更多人率先进入这一领域。

视频 1。英特尔公司人工智能传道者 Paula Ramos 探讨了使下一代人工智能成为可能的趋势和技术。（资料来源：insight.tech）

您认为如今人工智能将如何推动并解决现实世界中的问题？

人工智能发展迅速，日新月异。现在，人们对它的认识比以往更加深刻，因为这些现实世界中的问题已经变成了令人惊叹的解决方案。初创公司正在利用硅能和人工智能的能力来解决这些问题。

例如，人工智能运用翻译帮助人们交流，在百种语言之间翻译文本。另一个很好的例子是一些汽车品牌正在使用的自动驾驶汽车系统，该系统可以控制汽车转向、加速和制动，并有可能减少交通死亡和交通事故。人工智能可以帮助医生诊断癌症，制定个性化治疗方案，或加快新药和新疗法的应用。人工智能正在帮助农民少用农药和除草剂。人工智能正在帮助人类更快解决问题。

让人工智能更容易为开发人员所用有什么重要意义？

对此我有三个想法。首先，为开发人员创建更易访问的信息，可以加快人工智能创新的速度。能够使用人工智能工具的开发人员越多，使用起来越容易，技术的发展就会越快，从而加快创新的速度。获得最新的硬件改进也很重要。人工智能实际上是另一种工具，因为它使开发人员能够更高效构建和部署应用程序。

第二点是人工智能的民主化。我们需要确保人工智能适合每一个人，每一个开发人员都有机会从这项技术中受益。我们改善获取人工智能的方式，可以弥合人工智能采用的差距。

第三点是解决人工智能人才短缺问题。目前，世界上对人工智能开发人员的需求量很大，但开发人员的数量却不足。我们降低学习和使用人工智能的难度，可以帮助训练更多开发人员，缩小人工智能人才的短缺。

已经出现了哪些工具和硬件可以解决人工智能民主化的问题？

我对英特尔发布全新人工智能电脑感到激动不已。这款电脑搭载英特尔® 酷睿™ Ultra 处理器，整合了 GPU 和称为 NPU（神经处理单元）的新元件。九月，我在英特尔® 创新大会的生成式人工智能展位上展示了该款电脑，其性能卓越。英特尔公司首席执行官 Pat Gelsinger 演示了在一台人工智能电脑（本地 Windows 计算机）上运行 Llama 2 聊天机器人（LLM 模型）的情况。在没有互联网连接的情况下使用人工智能，不把数据发送到云端，肯定会更安全。

众所周知，很多人认为英特尔只是一家硬件公司，但我们正在努力向开发人员展示如何使用 OpenVINO（英特尔拥有的推理和部署框架）等框架或系统，轻松改进他们的解决方案。人工智能电脑还能够运行 OpenVINO。OpenVINO 向我们展示了英特尔利用人工智能的潜力。OpenVINO 现在无处不在：智慧城市、制造业、零售、医疗保健和农业。在过去一年中，它的下载量增加了90%。

您能否更详细介绍一下 OpenVINO™ 与人工智能之间的关系？

OpenVINO 是英特尔在客户端和边缘平台上为开发人员提供的一个工具套件；它支持 AI at the edge（边缘人工智能），使人工智能——生成式人工智能更容易获得，在多个硬件平台上优化神经网络推理。不过，OpenVINO 的主要目标是优化和量化模型，从而缩小模型的大小。我们可以减少内存占用，还能在各种硬件（英特尔和非英特尔硬件）中更快运行模型。我们正在利用 OpenVINO 解决开发人员的真正痛点。

另一件重要的事情是，只要拥有了中间表示格式（即 OpenVINO 格式）的模型，就可以在各处部署。这是英特尔与部分竞争对手之间的其中一个差别。

开发人员如何利用英特尔® Geti™？

英特尔 Geti 是一个帮助企业快速开发计算机视觉模型的平台。简而言之，它将所有必要的工作整合在一起，例如注释、训练、优化、测试。您可以创建项目、上传注释、上传新的生产数据或以前的数据。您可以修改可训练的功能，测试服务器上运行的部署，也可以下载部署到本地运行。

因此，使用该技术有很多好处。数据科学家、机器学习专家、系统集成商和领域专家可以使用同一个平台协同工作。这是因为它易于使用，而且可以控制训练和优化过程的多个方面。它还可以提供不同格式的建模，其中一种格式就是中间表示格式–OpenVINO，这是 Geti 平台的后台优化和量化工具。

英特尔 Geti 平台还提供 SDK，帮助用户利用易于使用的功能。该平台利用 OpenVINO 构建部署管道，并在包含 CPU 和 GPU 在内的各种英特尔硬件平台上加速推理，而无需计算机视觉专业知识。这就是这个平台的魅力所在。

使用英特尔 Geti SDK 进行部署对开发人员来说非常简单，因为该 SDK 与计算机视觉任务无关，也与模型架构无关。开发人员不需要为模型输入准备数据，也不需要为显示结果准备模型输出。

女性进入人工智能领域会面临哪些挑战？

我非常热衷这个话题。就我个人而言，我代表了全球科技工作者中的两个少数群体。首先是科技界的女性，其次是科技界的拉丁裔女性。你可以把 “科技”理解为人工智能或一般意义上的工程学。全球科技人员中有 50% 是女性，但拉丁裔女性仅占 2%。因此，这是一个代表性严重不足的问题，我希望为减少拉丁国家，尤其是拉丁美洲国家缺乏教育和培训机会的现象做出贡献。

但我也希望激励更多女性从事人工智能工作。我想减少歧视和偏见。无论男女，每个人都应该有机会在科技领域取得成功。妇女也可以坐在桌边，认真讨论技术问题。女性对于如何解决问题具有独特的视角；我们拥有独特技能，能够创造出满足所有用户需求的产品和服务。

而且我们已经为人工智能领域做出了重大贡献。人工智能研究员、斯坦福以人为本人工智能研究院联合创始人李飞飞博士就是一个例子。她为深度学习的诞生做出了贡献。她开发了 ImageNet 计划，该计划在深度学习的部署中发挥了重要作用。这是一位女性对人工智能产生的非凡影响，因此我可以想象，其他女性也能为这一领域做出或多或少的贡献。

关于人工智能发展的未来，您还有什么想补充的吗？

有一个重要问题，我想与开发人员分享：你的梦想在哪里？你可以实现这些目标，因为人工智能是一种强大的工具，有潜力让世界变得更美好。

所以，去尝试新技术、新模型和算法吧。尝试参与开源项目，并成为开源项目的积极贡献者。随时了解使人工智能更实用的最新趋势。我们需要构建一个包容、公平、有益于所有人的人工智能。动力就来自你的想像力。

相关内容

如要了解人工智能趋势的更多信息，请阅读《人工智能传道：加速开发人员成功的关键 (Evangelizing AI: The Key to Accelerating Developers’ Success)》 并收听《与英特尔一道探索下一代人工智能 (Exploring the Next Generation of Artificial Intelligence: With Intel)》。有关英特尔的最新创新，请在 Twitter 上关注 @IntelIoT，在 LinkedIn 上关注 Intel Internet of Things。

 

本文由文案编辑 Erin Noble 编辑。