3分布式人工智能基础设施和应用部署用例

在我们上一篇关于人工智能(AI)的博客中，标题为Equinix与NVIDIA合作加速分布式AI基础设施应用我们强调了行业趋势如何将人工智能堆栈的托管推向边缘，更接近数据源。要求将人工智能数据处理和分析留在原产国的合规法规，也为在多个国家放置和互联人工智能堆栈提供了进一步的理由。

在本文中，我们将讨论遵循此模型的三个用例，其中企业正在利用NVIDIA AI平台Equinix®实施从开发到部署的人工智能解决方案。

在Equinix平台上利用NVIDIA AI

根据IDC最近发布的白皮书，开发和部署分布式AI:把所有拼图拼在一起“一个快速增长的部署场景是在核心(云或数据中心)开发AI，并在边缘或托管中心部署和改进AI模型，然后在核心进行再培训。”[1]IDC还指出，许多托管供应商在边缘提供完整的AI基础设施即服务(AI IaaS)，源数据不必移到组织的安全域之外的公共云中。此外，由于企业AI应用程序正在跨多个云、私有数据中心、数据代理和边缘位置处理多个数据源，大多数公司都需要托管数据中心中的AI堆栈作为互连枢纽，并为这些多个数据源提供安全、高速、低延迟的连接。

根据这些趋势，Equinix平台上的企业正在跨核心和边缘位置使用NVIDIA技术处理、分析和管理端到端AI数据访问和工作流。以下三个用例说明了企业如何利用NVIDIA AI Enterprise、NVIDIA DGX Foundry和NVIDIA Fleet Command解决方案，这些解决方案在Equinix平台上提供简单、安全的AI管理和部署，以推进其AI基础设施和应用程序。

用例1 -零售商店

一家大型零售连锁供应商将其店内摄像头馈送和库存管理数据发送到Equinix位置，在那里利用NVIDIA DGX Foundry人工智能开发基础设施构建库存管理、员工轮班管理、购物者购买趋势预测和广告投放的人工智能模型。随后，零售商将其AI模型移动到门店位置，使用NVIDIA舰队指挥云服务(由NVIDIA舰队指挥云服务启用)执行接近实时的AI模型推断Equinix的金属™)在特定城市的Equinix数据中心。

Equinix上提供的NVIDIA AI企业软件提供了零售商用于图像分类的AI工具和框架，如TensorFlow。此外，该零售商希望将NVIDIA Base Command栈托管在互连中心(如Equinix)的DGX系统上，以高速访问位于多个云和数据代理中的外部数据集。零售商将其推理服务器放置在不同的Equinix城域网位置，以减少必须传输到中心位置的数据量，并在边缘进行实时推理——因为Equinix数据中心位于距离零售店终端设备10毫秒(ms)的往返时间(RTT)内。

用例2 -建筑物的视频监控

一家大型房地产管理公司希望分析其多个物业的视频监控录像，以发现未经授权的行为。目前，许多警报是基于检测到的动作生成的，但该公司希望在人工智能处理它们以识别各种类型的未经授权的行为后，优先考虑并减少警报的数量，例如有人跳过栅栏，尾随或在未经授权的区域行走。该公司希望使用NVIDIA Base tribute平台来集中训练AI模型，以在中心位置检测NVIDIA Base Command上的异常行为，然后将AI模型移动到边缘位置，利用Fleet Command(由Equinix Metal启用)进行AI模型推理，靠近数据生成的位置。

这家公司在多个城市有许多站点，每个站点有数百个摄像头。它希望在每个站点执行运动检测处理，但也希望将其AI推断堆栈定位在一个地铁位置，以降低在每个商店托管AI堆栈的成本。该公司希望在同一条地铁中完成靠近边缘的模型推理，以减少传输到中心位置的数据量。此外，出于隐私和合规性的考虑，该公司希望在数据产生的地区处理数据。

用例3 -汽车高级驾驶辅助系统(ADAS)开发

一家自动驾驶汽车公司的ADAS开发团队需要一个AI基础设施来为其联网车辆开发模型。测试车辆产生的数据量非常大——每辆车每天产生20TB到80TB的数据(ADAS L2和ADAS L3)。自动驾驶车辆池在特定的地铁中生成这些大型数据集，将这些大规模数据集转移到中心位置是昂贵和耗时的。

该公司希望通过DGX Foundry使用基于NVIDIA DGX的培训集群，结合NVIDIA Base Command，在特定城市的Equinix数据中心开发其AI模型。此外，该团队希望将他们的硬件在环测试设备放置在特定地铁的Equinix数据中心，以测试DGX Foundry构建的AI模型。该团队迭代这个过程，以不断提高模型的准确性。

有关使用Equinix和NVIDIA技术部署端到端AI基础设施和应用程序的更多信息，请阅读IDC白皮书《开发和部署分布式人工智能:把所有拼图拼在一起》。

[1]IDC白皮书，“开发和部署分布式人工智能:将所有拼图拼在一起”，Doc ##US48458321，由Core Scientific、Equinix、NetApp、NVIDIA赞助，2021年12月。