分类： 工业

在最近的物联网聊天播客中，我们邀请了 CCS Insight 的 Martin Garner 和 Bola Rotibi 来讨论该公司的年度物联网预测报告，特别是对边缘和 AI 领域的关注。但在报告及这场对话中，有很多关于 5G 和网络的内容。所以，这次我们决定专门将重点放在 5G 和智能网络的崛起上，与 CCS Insight 的网络总监 Ian Fogg一起进行讨论。

如今，全球几乎所有行业都需要连接到互联网。它们需要快速、可靠、实时的信息，这就要求网络也要速度快。越来越多的智能设备也连接到网络，网络需要处理所有连接。与此同时，各行业和公司也在努力实现可持续发展目标。5G（甚至 6G）和 AI 真的能帮助实现这些目标吗？让我们一探究竟（视频 1）。

视频 1. CCS Insight 的 Ian Fogg 讨论了 5G 和物联网领域的最新发展，以及对 2024 年及以后的展望。（资料来源：insight.tech）

过去几年，5G 和网络的格局发生了怎样的变化？

5G 首次推出是在 2019 年，当时的标准是非常早期的版本。我们最近看到，它的能力得到了巨大的提升。例如，它最近的用途之一是私有网络。在 2023 年宣告的私有网络中，有 45% 部署了 5G。

我们还看到了非地面网络，这是即将推出的 5G 标准第 17 版的一部分。预计到 2027 年，15% 的智能手机用户将拥有支持卫星的设备。那么，这对物联网意味着什么？过去经常是消费者领域推动创新，然后这些创新被重复用于其他领域，因为这些领域之间存在共性。一旦建立起卫星能力，卫星运营商就可以选择支持多种类型的客户。

我们在过去一年看到的另一件事是 OpenAPI 倡议的宣布，它获得了运营商组织 GSMA 的极大关注。这也包括用于管理网络质量和其他网络类型设置的网络 API。

在这些物联网网络中，5G 的下一步动向如何？

我们的预测之一是，到 2025 年，基于应用的网络功能的数字市场将提供一百多个版本的网络功能和 API。我们已经看到一些小的倡议，但我们预计在未来 18 个月左右的时间内，市场将大幅扩展。

我们还预计，到 2030 年，私有-公共混合型 5G 将成为私有网络的主要选择。独立的私有网络使用专用网络来提供该服务。但混合型解决方案使用独立 5G 和网络切片的一些新功能来提供服务，其质量与其他使用更广泛蜂窝 5G 网络的用户所获得的服务质量不同。这弥补了一些特定位置之间的差距，企业可能在这些位置有专用的私有网络，但希望人员或设备在专用的站点之间流动—这就是一种混合型解决方案。随着时间的推移，这种情况会逐渐出现，但我们预计到 2030 年这将成为主流趋势。

5G 和网络边缘如何跟上物联网的需求？

我认为混合能力在这方面尤其重要，因为它确实可弥合专用私有网络（可能位于港口、制造工厂或其他受限位置）与在广泛领域内提供高质量服务的需求之间的差距。

另一件我们认为很重要且越来越重要的事是，在大量领域和产品类型中，AI 将应用于网络的不同部分。我们认为，通过更好地管理流量模式，确保网络提供足够好的服务质量以及管理中断或停机问题，AI 将使 5G 网络显著提高其可用性，甚至可能超越五个九的可用性。

多谈谈如何使用 AI 增强 5G 和物联网网络吧。

网络人员正在各个领域使用 AI。例如，他们使用它来改进 RAN 管理。随着我们从最初的 4G 到 4G Advanced 或 LT Advanced，再到 5G，以及 5G 第 17 版等等，RAN 的复杂性越来越高，需要管理的设置也越来越多。基站之间、不同频段之间的交互更为复杂，而 AI 是实现持续 RAN 管理以提高覆盖范围和性能的关键方法。

我们看到，AI 在 Open RAN 的推广中也扮演着非常重要的角色。历史上，服务提供商向网络供应商购买基站，所有功能基本上都由同一供应商集成和包含。Open RAN 的概念是，基站内提供接口，以便服务提供商混合和匹配不同的供应商。我们认为，AI 可以在某些方面帮助降低复杂性。

环保问题是另一个我们认为有趣且重要的方面：实现碳排放目标、管理网络能源成本。如果你是一家服务提供商，你会希望减少能源使用，同时保持用户所需的网络体验。那么，你可以在多大程度上削减网络资源，并且仍然提供同样的网络体验？RAN 优化是机器学习工具可以提供帮助的地方。我们的预测之一是，到 2025 年，智能无线接入网络技术、自动化和 AI 驱动的节能技术的组合将使至少三家领先运营商将其碳中和目标提前数年实现。

5G 和物联网网络功能如何帮助各行业实现可持续发展目标？

可持续发展的一个角度是智能电网，因为许多人将太阳能和风能视为成本效益高且用途广泛的绿色发电方式。挑战在于，太阳能和风能发电并不总是可预测的：它们取决于云量、一年中的时间以及当时的天气系统。而且有时会出现发电过剩的情况，需要鼓励最终用户消耗一些电力。还有时候会希望用户降低能源消耗，因为能源价格太贵或者产生的绿色能源不足。

因此我们认为，增加太阳能和风能的使用需要智能电网技术来管理供需，我们预计智能电网技术将从 2028 年（或更早）开始在大多数发达经济体中广泛采用。甚至现在就能看到这种趋势的迹象。

5G 如何帮助电网同时变得更智能和更可持续？

以电动汽车充电为例，可以看到网络技术融入其中的一系列方式。许多电动汽车具有蜂窝网络功能，这样用户可由远程设置省电模式，并告知电动汽车何时何地安排充电。许多家用电动汽车充电器都有类似的遥控功能，通过 Wi-Fi 或其他方式实现。但家中的智能电表通常也支持蜂窝连接。电力公司可以监测用电量并向用户收费，在某些情况下是以非常精细的方式收费。

因此，在电动汽车连接、电动汽车充电器、智能电表这三个涉及最终用户电动汽车充电过程的不同地方，都可以看到网络技术正变得非常重要。

5G 的主导地位还能持续多久？

实际上，在 5G 时代，即使是 4G 也依然重要。在我刚提到的电动汽车场景中，大多数电动汽车都有 4G 蜂窝无线功能。你家里的智能电表甚至可能在使用 2G 无线技术。这些网络时代往往会重叠。所以即使 6G 出现，5G 仍将继续发挥重要作用。但 6G 的工作确实正在进行中；我们已经可以看到 6G 频谱的讨论正在推进。

6G 用例方面的工作也在进行中。其中之一是使用蜂窝网络感知特定位置的动态。这可能是检测道路上的交通流量，或者感知在人行道上行走的人。现在就可以看到这方面的例子：一些 Wi-Fi 接入点可以感知人们是否在家，这被用作一个简单的警报系统。

但围绕 6G 网络的部分想法是，它将具有更广泛的能力 — 能够感知大范围、跨城市发生的事情。当然，这意味着可以根据这些信息得出分析结果并据此采取行动。

在时间尺度上，如果一家公司现在希望部署些什么，6G 可能并不相关。如果产品路线图更长，延伸到 2029 年、2030 年或更远，那么 6G 应该包含在路线图中。如果你是网络供应商，那么你的研发实验室此刻正在迅速而紧张地进行 6G 方面的工作，而且你的 6G 思维要更为先进。

相关内容

要了解有关 5G 和物联网网络预测的更多信息，请阅读报告《2024 年及以后的物联网相关预测》，并收听《5G 和物联网智能网络的崛起》和《CCS Insight 的 2024 年物联网和边缘 AI 重要预测》。有关 CCS Insight 的最新创新，请在 Twitter 上关注 @ccsinsight，在 LinkedIn 上关注。

 

本文由文案编辑 Erin Noble 编辑。

又到了预测季节。在 insight.tech，我们每年都会突出介绍 CCS Insight 的顶级物联网预测，今年包括大量边缘和人工智能预测。我们与 CCS Insight 物联网研究主管 Martin Garner 及企业研究主任 Bola Rotibi一起对预测做了分门别类（视频 1）。我们再次为读者提供完整的研究论文：2024 年及以后的边缘计算和物联网预测。请务必阅览。

视频 1。CCS Insight 的 Martin Garner 和 Bola Rotibi 讨论了即将到来的物联网和边缘人工智能趋势和预测。（来源：insight.tech）

很明显，人工智能有很多好处和机会；它有能力转变各行各业以及我们的生活。但也令公众颇感不安：在这个创新和扩张的“蛮荒之地”，他们的数据将如何使用，安全性如何，何人以何种措施保护这些数据？而将投资着眼于未来的企业，亦感紧张。然则有一点确定无疑：正确解读人工智能的状况，非一方之力。此举必是各方协作方能成事，而各方都在构建和使用这些解决方案。 

2024 年，边缘和人工智能对物联网预测的影响如何？

Martin Garner：显然，对于边缘和人工智能，2023 年可谓重要一年。ChatGPT 显然产生了巨大的影响，让世界真正见识到了人工智能的能耐，也见识到人工智能的不足。我们在去年 的预测中，大量谈及边缘，只有部分涉及人工智能。今年，我们大幅增加了人工智能的预测。不仅仅是生成式人工智能，如 ChatGPT ；也不仅仅是个人使用人工智能的用途。

举例而言，其中一个预测就是，到 2028 年，一家大型医疗保健提供商将为客户提供数字孪生服务，主动监测其健康状况。如今，个人的大量数据散落各处，例如在线病历、健身手环、智能手表、手机上的数据等等。但全都颇为杂乱，并未合并为一体。我们认为，医疗保健提供商将开始合并这些来源数据。他们将使用人工智能，基本上做工业领域已经在做的事情——预测性维护，但对象是人。当然，我们的目标是尽早干预，这往往意味着干预更小，通常也更便宜。这个例子说明了我们认为人工智能如何由此开始发展。

是否会因为这些进步而继续向云迁移？

Martin Garner：我认为云与边缘的争论将持续好几年。我认为许多国家都对经济感到担忧，我们也还没有完全摆脱疫情的影响。

因此，有一项预测是，由于人们担忧经济衰退，2024 年，工作负载将从云端转移到本地。此种做法的最佳候选者便是已经在使用混合云的公司。对于某些公司而言，硬件更新或许是一个良机，既可将部分工作负载调回企业内部，又能节省一些成本。这是短期的看法。

从长远来看，我们认为有几个领域会出现钟摆式波动，比如内包与外包，而边缘到云或是其中之一。但有个领域，我们还有一个预测，那就是到 2028 年底，云提供商的边缘计算服务将重新定价。

现在，这到底意味着什么？主要的云提供商都有边缘计算服务，但实际上，公共云才是该业务的重头戏。而边缘服务则是公共云的入口匝道，定价也是同理。但对边缘计算的预测显示，五年内的发展规模将超过公共云，甚至可能大得多。
如果出现这种情况，我们就会陷入大块头由小块头补贴的境地，而这毫无意义。

因此，我们确实预计，三到五年内，边缘云服务的价格将上扬，而且是大幅涨价。许多工业公司或许会考虑自建边缘计算，以使自己处于更有利的位置，有更多的选择。如果您愿意，可将边缘当作一种保障措施。

明年，预计人工智能解决方案会如何发展？

Bola Rotibi：2023 年是启动元年， 尤其是从 IT 解决方案提供商而言，新工具层出不穷，显然 ChatGPT 引发了人们巨大的兴趣。但我想说的是，人工智能的发展实有时日，比如在后台运行的机器学习及其他各种模型和算法等等。在手机上搜索图片，这些都是人工智能解决方案、人工智能模型。

我们看到的是生成式人工智能的强大功能，特别是当作一种生产力解决方案。生成式人工智能能够简化复杂的查询，并传回相关的简明信息。所以人人蜂拥而上。过去一年，我们看到，包括英特尔在内，各家供应商纷纷推出生成式人工智能功能，而且加强了各自的人工智能解决方案。我们看到 Microsoft 推出了人工智能助理 Copilot，AWS 推出了 Amazon Q。

因此，我们预测，尽管有人呼吁谨慎行事，但 2024 年人工智能的投资和发展将会加速。因为近几个月来，不少倡导者均表示，“少安勿躁。我们应暂缓行事。”人们还有点担心安全问题；担心是否制定了法规，法规是否足够有效。但与此同时，我认为人们确实渴望获得人工智能并加以发展，因为新的体验和参与程度让人们大开眼界。

未来一年，生成式人工智能的实际状况会是怎样？

Bola Rotibi：一方面，它会变得很棒，非常快；另一方面，也会出现一定的放缓迹象。另一个预测是，尽管存在泡沫，事实上我们也会看到很多新工具，所以我们确实认为 2024 年会有一定程度的放缓。部分原因是人们将了解实际的成本，以及今年开始暴露的一些风险和复杂性。

2023 年群情鼎沸之后，人们开始镇定下来，转变为冷静、微妙的态度，开始正确使用生成式人工智能，深入研究一些功能，例如生成代码。不同类型的工作场所解决方案中，皆能看到人工智能的身影，不仅帮助知识型工作者，还能帮助专家型专业人士。

随着投资的加速，您预计合乎道德的人工智能计划会增加吗？

Martin Garner： 简短的回答：是的，会有更多此类计划。人工智能有潜力在社会中发挥众多有益的作用，但如果使用不当，也会造成巨大的破坏。这有点像药品，有监管的药品，也有未受监管的药品。但主要区别在于，没有专业机构，没有希波克拉底誓词（医师誓词）。至少现在还不能把你从人工智能从业者的行列中除名。

目前，我们的情况恰恰相反，只要开发了新东西，人工智能领先公司就会立即将其开源，以最快的速度推向全世界。这显然对供应商和开发人员以及使用人工智能的客户公司提出了巨大的挑战，要求他们在使用人工智能时，采取合乎道德的立场。要正确行事，可谓多如牛毛。

我们预测，2024 年，于大型组织之内，人工智能监督委员会将司空见惯。该委员会由道德专家、人工智能专家、法律顾问、数据科学家、人力资源团队、不同业务单位的代表组成，负责审查全公司的人工智能使用情况。他们的工作是在技术团队（他们均为工程师，而非伦理学家）与组织及其目标之间架起一座桥梁。

对于很多公司来说，这就需要大量的管理费用，还需要大量的培训才能与时并进，始终全面掌控。这一切都是因为人工智能行业在自律方面做得很不够。

欧盟的人工智能法案对人工智能解决方案的开发意味着什么？

Bola Rotibi：欧盟率先颁行人工智能法案，就像 GDPR 一样。我们已经看到欧盟批准了《数字市场法案》。但并非只有欧盟这样做，美国、英国、中国和其他地区也在做。因此，我认为监管机构正在形成合力，2024 年底开始，将会看到一定程度的改善。但我认为，在人们努力适应和理解这一切的意味之时，会有一种磨合的过程，总会有些小问题。但我认为，这将成为人们团结一致的东西。

另一件正在发生的事情是行业层面的监管。最近，包括 IBM、Meta 和英特尔在内的 50 家组织发起了人工智能联盟。联盟的宗旨是集结业界之力，共同完成标准化工作；齐集工作组；为应对某些人工智能挑战和机遇，出谋划策；以及成为终端用户之间互动的枢纽。

对于构建人工智能解决方案的开发人员而言，需要考虑哪些因素？

Bola Rotibi： 不仅仅在于开发人员。安全是工作流程中人人应负的责任，同样，对人工智能采取合乎道德的方法也是如此。当然， 开发人员可以自问，“ 嗯，我能做，就该做吗？”但同时，要想保持一致性，就必须提供指引和原则，在整个组织内分发和传播。这需要从基层做起，也需要自上而下。

因此，我认为未来将采取分层的方法。这也许能意味着，Martin 提到的监督委员会从道德角度，思考组织的现状，并开始制定政策。然后，这些政策将纳入工具之中，以充当护栏。但同时也要对开发人员提供指导和培训，让他们在开发过程中，采取负责任的人工智能方法。

众多组织都在思考影响力、可持续发展以及所有这些方面的问题，因此已经有大量的想法和倡议，让人们从多个层面思考，不仅仅思考负责任的人工智能，还要思考全面做正确的事情。

5G 如何适应这一点？何时开始关注 6G ？

Martin Garner： 5G 要做的事情之一就是扩大人工智能的使用，这要归功于 5G 所具备的大容量、时间敏感型网络定位服务。我们将看到，在多个领域，人工智能的运用都在增加， 例如自动驾驶汽车、我们现在拥有的 5G 以及即将推出的 5G 新技术（是实现这一目标的关键推动因素之一）。

但我认为另一个有趣的方面是人工智能对 5G 的影响。5G 网络很复杂，整个优化和管理是个大问题。我们对此有一个预测，即人工智能将使 5G 网络的可用性超越 5 个 9（99.999%）。这就需要分析流量模式，确保网络的设置能够完美处理特定类型的流量，发现问题，执行预测性维护，以及配置网络，以使出现问题时，能够优雅降级，甚至自我修复。

虽然 6G 还为时尚早，但工作当然还在继续。未来五年左右，我们将建设 6G 网络，我们认为 2030 年将是 6G 的重要一年。我们确实有一些 6G 的预测。其一是，到 2030 年，首个由 6G 技术驱动的大型双子城将宣告成立。我们认为，城市将是 6G 的绝佳展示场所，而大规模孪生将是最佳用例之一，因为城市的所有层面都会纳入模型中。仅看城市实时数据的庞大数量和速度，就需要 6G。我们认为 2030 年将是 6G 的重要一年。

相关内容

要详细了解边缘人工智能趋势预测，请收听《2024 年顶尖物联网和边缘人工智能预测：与 CCS Insight 共鉴》，以及阅读报告《2024 年及之后的边缘计算和物联网预测》。有关 CCS Insight 的最新创新，请在 Twitter 上关注 @ccsinsight，在 LinkedIn 上关注。

本文由文案编辑 Erin Noble 编辑。

AI 已经成为头条新闻已经有一段时间了。但随着我们进入 2024，生成式 AI 会成为最新的突破。大部分注意力都集中在 ChatGPT 上，并伴随着许多关于什么是生成式 AI 的误解和误区。

为此，我们采访了 AI 应用程序平台提供商 Anyscale 的首席科学家 Waleed Kadous；全球管理咨询和技术公司埃森哲云第一首席技术专家 Teresa Tung；以及与埃森哲和英特尔合作的 AI 和分析首席总监兼首席技术官 Ramtin Davanlou。他们讨论了生成式 AI 解决方案的商业机会、所涉及的挑战以及下一步的计划（视频 1）。因为生成式 AI 将继续存在，并且有很多值得期待的。

视频 1. 来自 Anyscale 和埃森哲的行业专家讨论了生成式 AI 解决方案的影响和机遇。（资料来源：insight.tech）

请解释生成式 AI、商业机会和挑战。

Ramtin Davanlou：总之，像 OpenAI、谷歌和 AWS 这样的公司利用其庞大的计算资源和庞大的数据集来训练 AI 模型 或 LLM（即大型语言模型），以生成新内容，构建全新的知识。这些内容以不同的形式出现：文本、图像、视频、语音，甚至计算机代码。但文本尤其重要，因为它是大多数企业的主要通信手段。

这些 AI 模型中的许多模型能够在任何给定主题上生成非常好的响应，比该主题领域的普通人甚至普通专家都要好。然后，公司可以采用这些模型，并对它们进行微调，以便模型以某种方式发挥作用，并获得有关特定环境的更多知识。这创造了许多机会。

公司可以使用生成式 AI 来做一些事情，例如发送电子邮件或创建幻灯片等，我们创建的所有内容都是为了相互通信，或增强这些内容。这对服务行业，以及与机器人相结合的制造业产生了巨大的影响。

LLM 现在无法做到，但很快就能做到的是从头开始创造全新的知识。

企业在开发 GenAI 解决方案时，应该考虑哪些因素？

Waleed Kadous：一个考虑因素是这些模型的输出质量。LLM 有一个问题，称为幻觉，他们自信地断言一些完全不真实的事情。那么，您如何进行评估，以确保该系统实际上产生了高质量的结果？您使用哪些基础数据？在过去的六个月中，我们在一个被称为“检索增强生成”的领域取得了进展，它有助于最大限度地减少幻觉问题。

第二个考虑因素是数据清洁度，这与这些 LLM 可以访问的信息有关。它们披露了哪些信息？它们能告诉人们什么? 不同用户之间是否有泄漏？有人是否可以对用于训练模型的数据进行逆向工程？它仍然是一个新的领域，所以我们仍然可以看到在这一领域出现的问题。

然后，最后一点是 LLM 成本很高。我的意思是，非常昂贵。您可以在一个月内轻松地在 GPT-4 上花费 10 万美元。

企业怎么才能开始将 GenAI 解决方案带入下一个层次?

Teresa Tung：大多数公司都有概念证明，许多公司都是从 OpenAI 等管理模型开始的。这些令人惊叹的通用模型可以解决许多用例，并提供了一个非常好的开始方式。但正如 Waleed 提到的那样，从长远来看，成本是一个因素；它可能比许多公司愿意支付的价格高出一个数量级。因此，公司现在需要考虑合理调整成本，并根据业绩调整成本。

当 AI 模型对企业变得越来越重要时，我们也看到公司希望掌握这些模型。他们可能会想要创建自己的特定任务和特定模型，而不是使用管理模型。可以根据不同的需求定制 100 亿以下的参数模型。仍然会有通用模型，但也有适合用途的模型。

Waleed Kadous：我们在 Anyscale 所做的实验之一是将自然语言翻译为 SQL 查询。通用模型 GPT-4 能够产生的准确率为约 80%。但通过训练 SSM（小型特定模型，只有 70 亿个参数，费用大约是成本的百分之一），我们能够实现 86% 的转换准确率。因此，小型特定模型与大型语言模型之间的讨论（现在正在这个行业发生）正在不断演变。

现在，您的客户的最大的生成式 AI 机会在哪里？

Waleed Kadous：第一种用例商机是总结。是否有一些领域，您可以浓缩大量信息，以及浓缩哪些领域的信息是有用的？

第二种是我之前提到过的检索增强生成家族。在那里，您不仅可以天真的问 LLM 问题，而且实际上可以为其提供上下文，以及现有的答案知识库，以帮助回答这些问题。

另一个有趣的应用程序是您将其称之为“与系统交谈”的应用程序。将其想象成您可以与之交谈的仪表板，即升级版的仪表板。这在物联网中尤其有趣。我曾见过一家在这方面做得很出色的公司；它为零售商安装 Wi-Fi。您可以问这个仪表板这样的问题：“我们在哪里看到路由器工作太努力了？”它将实时查询这些信息，并为您提供更新。

最后是上下文中的应用程序开发。也许最有名的是 Copilot，当您编写代码时，它将为您提供有关如何编写更好、更高质量的代码的建议。上下文中的应用程序最困难，但它们的潜力也最大。

Teresa Tung：Waleed 给出了一个很好的概述，所以我将从不同的视角阐述您可以购买的东西、可以提升的东西以及您可以构建的东西。“购买”是能够为软件开发、营销和企业应用程序购买生成式 AI 驱动的应用程序。他们使用经过第三方数据训练的模型，使任何人都能够获得这些效率。这正迅速成为一种新常态。

“提升”是应用公司的第一方数据，即有关您的产品、客户、流程的数据。要做到这一点，您需要整理好数据基础，检索增强生成就是一个很好的开始方式。

“构建”是指公司维护自己的自定义模型。这可能从预先训练好的开放模型开始，然后向模型添加自己的数据。它在模型中为您提供更多的控制权和更多的自定义。

像埃森哲与英特尔这样的合作关系从何而来？

Ramtin Davanlou：在这一领域，合作伙伴关系非常重要，因为试图构建端到端的 GenAI 应用程序的公司通常必须解决基础设施和计算资源等问题。例如，您需要非常高效的 ML Ops 工具，以帮助您处理从开发到管理、监控和在生产环境中部署模型的各个部分。

我们已经使用了一些英特尔软件，如 cnvrg.io，这是一种 ML Ops 工具，允许数据科学家和工程师在相同环境中进行协作。它还允许您跨不同的云平台使用不同的计算资源，例如在本地环境、英特尔^® Developer Cloud 和 AWS 上。

合作伙伴关系也有助于降低总拥有成本，特别是在您扩大规模时的成本。为什么不为每个新用例构建新平台，而构建一个您可以重复使用的平台？例如，我们与英特尔合作，使用 Intel Developer Cloud 以及 GaudiTools （专门用于微调深度学习应用程序模型的 AI 加速器）构建了一个生成式 AI playground。然后，为了大规模部署这些模型，您可以使用 AWS。

另一个例子是需要一种工具来帮助分配工作负载。Hugging Face 有一个叫做 TGI 的库，非常有用。因此，您可以看到，需要将许多不同的组件和片段组合在一起，才能拥有一个端到端的 GenAI 应用程序。

Waleed Kadous：另一个问题是开源的想法，即开源模型，当然还有开源软件。Meta 发布的一个示例是称为 Llama2 的模型，我们已经看到了非常非常好的效果。它可能不能与 GPT-4 相提并论，但绝对接近 GPT-3.5，比 GPT-4 低一个档次。Berkeley 有一个 vLLM，一个高性能的部署系统；还有 Ray LLM。vLLM 管理一台机器；Ray LLM 为您提供了跨多台机器的可扩展性，以处理峰值和自动扩展等。

我们看到开源的蓬勃发展，因为不是每个人都喜欢把他们所有的数据委托给一两个大公司，并且供应商锁定是一个真正的问题。还有灵活性：我可以在数据中心部署某些东西，或者在我自己的 AWS 云中部署它，除了我之外，没有人可以访问它。

由于成本原因，开源解决方案更便宜。我们做了一个关于构建一个电子邮件摘要引擎需要花费多少钱的概要，如果您使用像 GPT-4 这样的东西，它将花费 36000 美元，如果您使用开源技术，它将花费约 1000 美元。

我们已经看到很多公司对开源模型很感兴趣，从倾向于更注重成本的初创公司，到倾向于更注重隐私和数据控制的企业。并不是说开源模型和技术是完美的，只是它们很灵活，而且成本更低。从1800 亿到 700 亿及以下，各种规模的模型都可用。现在它只是一个非常动态的空间。

需要做些什么，才能使生成式 AI 更成为主流？

Waleed Kadous：一个不断增加的趋势是努力使 LLM 更易于使用。但另一个问题是，我们还没有完全弄清楚如何随着时间的推移，让它们变得更好。如果 LLM 犯了一个错误，您如何纠正它？这听起来是一个很简单的问题，但答案实际上是有细微差别的。因此，我们看到评估和监控阶段有了巨大的改进。

然后，到目前为止，重点一直放在大型语言模型上——文本输入和文本输出——因为世界上的每一家企业都使用语言。但我们开始看到可以处理或输出图像的模型的演变。就像用于文本的有 Llama，现在也有用于视频和视觉处理的 LLaVA ，尽管并非世界上所有企业都需要处理图像。

在生成式 AI 的话题上，业务领导者应该注意什么？

Teresa Tung：希望要点是意识到开始拥有自己的 AI 模型是多么容易。但它确实是从准备好数据基础的投资开始的——记住，AI 是与数据有关的。好消息是，您还可以使用生成式 AI，帮助数据供应链顺利运行。因此，这是双赢的。

Ramtin Davanlou：我认为，监管和道德合规，以及在我们所谓的负责任的 AI 下处理幻觉和其他主题，是公司需要克服的最大挑战。大规模使用 GenAI 所需的文化变革是它成功的关键。

Waleed Kadous：现在开始很重要，而且不需要很复杂。可以把它想象成一个分阶段的过程。构建原型，并确保用户喜欢它。然后考虑成本，在某种程度上，质量是次要问题。

您还可以为人们提供工具来优化他们自己的工作流程，并改进 LLM 本身。我认为这是最令人兴奋的趋势之一，与其将 GenAI 视为一种替代技术，不如将其视为帮助人们更好地完成工作的增强技术。帮助人们以一种让他们感到有能力而不是被淘汰的方式使用 LLM。

相关内容

要了解有关生成式 AI 的更多信息，请收听导航生成式 AI 解决方案领域。要了解埃森哲和 Anyscale 的最新创新，请关注它们：

• 推特： @Accenture_US 和 @anyscalecompute
• LinkedIn：埃森哲和 Anyscale

 

本文由文案编辑 Erin Noble 编辑。

物联网和人工智能解决方案提供商 EPIC iO 首席执行官 Ken Mills 表示，当谈到技术实施时，公司想要的是他们可以立即食用的披萨，而不是需要组装的乐高积木。

是的，物联网和人工智能是革命性的，可以显著提高效率。但是，要让这些技术发挥作用，连接性、数据集成、可视化等等这些组成部分的庞大数量，就会让 IT 团队头晕目眩。
米尔斯说：“客户的技术应用能力还不足以自己找出人工智能解决方案，他们需要帮助。”

开发 AI 集成平台

EPIC iO 帮助让这些技术为客户所用，实际上就是为人工智能和物联网解决方案制作披萨。

该公司通过 EPIC iO DeepInsights——一个软件平台，让不同的技术组件协同工作。DeepInsights 就像披萨饼皮，将物联网传感器、人工智能和计算机视觉以及连接性结合在一起。“我们将整个堆栈提供给客户，这样他们就不必购买五个不同的其他软件包来使这些技术发挥作用。” Mill 说。EPIC iO 在为数据提供上下文方面特别有用，从而带来更敏锐的洞察力。

为了进一步扩展披萨的比喻，公司可以挑选他们想要包含的“配料”（传感器），无论是用于视频数据分析的摄像头，还是用于提供和监控边缘设备的连接传感器。

人工智能民主化模板

开放式人工智能和物联网软件平台的优势在于，您不必每次都提供定制的解决方案。“我们正在整合经过验证的模板，以便我们的客户可以自动执行工作流程并赚更多钱。” Mills 说。

创建可复制的人工智能解决方案还可以降低采用障碍，实现技术的民主化。EPIC iO 的使命是让世界更安全、更智能、更互联。人工智能的成本正在降低，因为必要硬件和计算的成本和性能都在提高。
这些因素也有助于改善普及性。

当公司只想突出自己的优势时，模板格式尤其有用。
例如，数据分析公司 SAS 与 EPIC iO 合作，这样他们就可以在 EPIC iO 所安装解决方案收集的边缘数据上叠加自己的技能。“EPIC iO 和 SAS 是很好的合作伙伴关系，因为我们可以在边缘收集所有数据，并通过计算机视觉和机器学习模型，生成事件和规则，然后将数据传递给 SAS 开展更深入的分析。” Mills 说。

物联网分析的效率

另一方面，在许多情况下，公司知道他们需要改进流程，但他们不确定人工智能解决方案是否能起到作用。
例如，加利福尼亚州的一家大型公用事业公司会派遣工人检查储罐的填充量，并在填充量过低时跟进。该公司在第一次评估流程效率后，探索安装摄像头，并由人工监控。但是，“人在环路中的解决方案并不具有成本效益，也不实用，尤其是在拥有人工智能等技术的情况下。” Mills 说。

相反，EPIC iO 建议安装物联网摄像头传感器，使用人工智能和计算机视觉来测量填充率并主动检测问题。只有当填充量下降时，工人们才需要前往检查。更好的是，由于人工智能带来的数字化转型，该公司获得了更多、更有用的数据，包括站点的使用方式和时间，而不是关注填充率这一狭隘的问题。

公用事业案例说明了如何利用人工智能提高运营效率。公司需要问一问，哪些问题他们还没有找到解决方案，哪些问题对他们的业务最有意义。
Mills 说：“只要确定了这两个载体，那么就有可能找到人工智能可以提供帮助的解决方案。”

与合作伙伴合作

DeepInsights 构建于英特尔^® OpenVINO^™ 工具套件之上并有英特尔 CPU 和 GPU 的支持，既提供高性能计算，又能降低能耗。该软件也是云原生的，不依赖于单一云环境。DeepInsights 具备可移植性，使客户能够控制其人工智能相关数据的存储和推断地点，这对遵守隐私和数据处理法规至关重要。

虽然 EPIC iO 为客户提供简单的解决方案，但该公司仍与系统集成商合作，建立物理基础设施，并在需要时提供持续的现场支持。集成外部软件程序并建立运行工作流程，也属于系统集成商的职责范围。

人工智能民主化的未来

计算机视觉和传感器为人工智能的实现提供了无限可能：例如，一个强大的姿势分析模型可以确定医院病人是否在病房中跌倒，以便工作人员可以在必要时干预。

使用人群分析来监控零售楼层的活动是另一种用途，使用人工智能来帮助改善城市的空气质量和安全也是一种用途。

Mills 尤其热衷于使用生成式人工智能，让普通用户更容易获得洞察力。
他期待的另一项发展方向？人工智能的民主化。“我真的很兴奋，越来越多的人将能够在各个行业领域利用人工智能，而且不仅仅局限于最大的公司和城市。” 他说。人工智能的民主化是实现一个更安全、更智能、更互联世界的必由之路。

 

由 insight.tech 主编 Georganne Benesch 编辑。