边缘计算如何实现物联网？

2023-09-13 11:53:48

云计算

边缘计算

物联网 虽然生成式人工智能凭借其通过使用大型语言模型(LLM)得出推理智能的类人能力，而成为众人瞩目的焦点，但现在将人工智能应用于物联网(IoT)中的智能设备的方式也被认为是成熟的。

边缘正在锐化。如果有关注人工智能(AI)的讨论，就会发现有几个主题推动着人工智能的发展。虽然生成式人工智能凭借其通过使用大型语言模型(LLM)得出推理智能的类人能力，而成为众人瞩目的焦点，但现在将人工智能应用于物联网(IoT)中的智能设备的方式也被认为是成熟的。

边缘与物联网

这是物联网内部的计算，因此这就是“边缘”计算。虽然物联网和边缘这两个术语经常互换使用，但必须澄清说明一下，物联网是设备所在的地方，而边缘计算是在设备上发生的事情。为了进一步定义，物联网设备通常需要连接到互联网才能工作，而边缘设备可能在其生命周期的大部分时间里都处于断开连接状态，只是偶尔连接到互联网用于处理的云数据中心。

为边缘应用创建硬件需要考虑特定的计算性能、功耗和经济条件的全新设计。考虑到这些核心动态，IT行业一直在努力让边缘计算变得更好。

物联网的规模

到2030年，预计将有超过1250亿个物联网设备连接到互联网，从智能手机到摄影头，再到智能家居设备等。这些设备中的每一个都将产生大量用于分析的数据，其中80%以视频和图像的形式存在。到目前为止，尽管已知道物联网中存在大量数据，即使有与云的连接，但也只分析了其中的一小部分数据。

对隐私、安全和带宽的日益关注，导致数据在更接近其来源的地方进行处理，即在物联网的边缘。那么，人工智能有什么作用呢?目前，人工智能技术主要是为云计算运营而设计的，云计算不像边缘设备那样具有成本、功耗和可扩展性限制。人工智能边缘专家Axelera AI认为其可以提供帮助。该企业的Metis AI平台本月已进入早期访问阶段，用于开发先进的边缘人工智能原生硬件和软件解决方案。

Axelera AI联合创始人兼首席执行官Fabrizio Del Maffeo表示：“Metis AI平台提供实用的边缘人工智推理解决方案，满足开发下一代计算机视觉应用的企业的需求。人工智能原生的集成硬件和软件解决方案简化了实际部署，提供了用户友好的开发和集成路径。其采用PCIe卡和视觉就绪系统等行业标准外形，简化了人工智能与业务应用的集成，满足当今的市场需求。“

什么是数据流技术?

该平台的核心是Metis人工智能处理单元(AIPU)，其基于专有的数字内存计算技术(D-IMC)和具有“数据流”技术的RISC-V。正如Maxeler Technologies提醒的那样：“数据流计算机专注于优化应用中的数据移动，并利用数千个微小‘数据流核心’之间的大规模并行性，在性能、空间和功耗方面提供数量级的优势。”

Del Maffeo和团队声称AIPU提供业界领先的性能、可用性和效率，而成本仅为现有解决方案的一小部分。该技术可针对不断增长的部署项目进行扩展，并且该企业的嵌入式安全引擎通过加密保护数据和信息，确保敏感生物识别数据的安全。

该技术集成到AI加速卡、AI加速板和AI加速视觉就绪系统中，可供公众使用。这使得中小型企业能够加快采用速度并简化现场安装。使用Metis AIPU开发的名为Voyager的即点即用软件开发套件(SDK)，为计算机视觉应用和自然语言处理(NLP)提供了易于使用的用户友好型神经网络，其旨在将人工智能集成到设备中。

Del Maffeo解释道：“Voyager SDK为开发人员提供了一种快速、简单的方法，为Axelera AI的Metis AI平台构建功能强大的高性能应用。开发人员在一个简单的YAML配置文件中，以声明方式描述其端到端管道，其中可以包括一个或多个深度学习模型以及多个非神经预处理和后处理元素。SDK工具链自动编译和部署Metis AI平台管道中的模型，并将预处理和后处理组件分配给主机上的可用计算元素，例如CPU、嵌入式GPU或媒体加速器。”

作为消费者，我们最初可能没有意识到计算能力正在得到这种涡轮增压。因为，没有一个普通用户会思考这些操作是否涉及使用32位浮点数据的机器学习网络，以使用标准反向传播技术对人工智能模型进行精确训练。

这里需要了解的一点是，人工智能模型通常使用强大、昂贵、耗能的图形处理单元(GPU)在云数据中心中进行训练，并且在过去，这些模型经常直接用于同一硬件上的推理。Axelera AI的建议是，不再需要此类硬件来实现高推理精度，而当今的挑战是，如何有效地将这些模型部署到在网络边缘运行的成本较低、功耗受限的设备。

边缘将继续变得更智能、更锐利和更大，我们需确保能够控制这种新型设备智能，使其发挥最大效率。