The Internet of Things (IoT) has created a ubiquitously connected world powered by a multitude of wired and wireless sensors generating a variety of heterogeneous data over time in a myriad of fields and applications. To extract complete information from these data, advanced artificial intelligence (AI) technology, especially deep learning (DL), has proved successful in facilitating data analytics, future prediction and decision making. The collective integration of AI and the IoT has greatly promoted the rapid development of AI-of-Things (AIoT) systems that analyze and respond to external stimuli more intelligently without involvement by humans. However, it is challenging or infeasible to process massive amounts of data in the cloud due to the destructive impact of the volume, velocity, and veracity of data and fatal transmission latency on networking infrastructures. These critical challenges can be adequately addressed by introducing edge computing. This article conducts an extensive survey of an end-edge-cloud orchestrated architecture for flexible AIoT systems. Specifically, it begins with articulating fundamental concepts including the IoT, AI and edge computing. Guided by these concepts, it explores the general AIoT architecture, presents a practical AIoT example to illustrate how AI can be applied in real-world applications and summarizes promising AIoT applications. Then, the emerging technologies for AI models regarding inference and training at the edge of the network are reviewed. Finally, the open challenges and future directions in this promising area are outlined.

中文翻译：

---

边缘计算驱动的物联网人工智能最新进展综述

物联网 (IoT) 创造了一个无处不在的连接世界，由大量有线和无线传感器提供支持，随着时间的推移，在无数领域和应用程序中生成各种异构数据。为了从这些数据中提取完整的信息，先进的人工智能 (AI) 技术，尤其是深度学习 (DL)，已证明在促进数据分析、未来预测和决策方面取得了成功。人工智能和物联网的集体融合极大地促进了物联网（AI-of-Things，AIoT）系统的快速发展，该系统无需人类参与，可以更智能地分析和响应外部刺激。然而，由于体积、速度、以及网络基础设施上数据的真实性和致命的传输延迟。通过引入边缘计算可以充分解决这些关键挑战。本文对灵活的 AIoT 系统的端边缘云编排架构进行了广泛调查。具体来说，它首先阐明了包括物联网、人工智能和边缘计算在内的基本概念。在这些概念的指导下，它探索了通用的 AIoT 架构，提供了一个实际的 AIoT 示例来说明 AI 如何应用于现实世界的应用程序，并总结了有前景的 AIoT 应用程序。然后，回顾了有关网络边缘推理和训练的 AI 模型的新兴技术。最后，概述了这个有前途的领域的开放挑战和未来方向。通过引入边缘计算可以充分解决这些关键挑战。本文对灵活的 AIoT 系统的端边缘云编排架构进行了广泛调查。具体来说，它首先阐明了包括物联网、人工智能和边缘计算在内的基本概念。在这些概念的指导下，它探索了通用的 AIoT 架构，提供了一个实际的 AIoT 示例来说明 AI 如何应用于现实世界的应用程序，并总结了有前景的 AIoT 应用程序。然后，回顾了有关网络边缘推理和训练的 AI 模型的新兴技术。最后，概述了这个有前途的领域的开放挑战和未来方向。这些关键挑战可以通过引入边缘计算来充分解决。本文对灵活的 AIoT 系统的端边缘云编排架构进行了广泛调查。具体来说，它首先阐明了包括物联网、人工智能和边缘计算在内的基本概念。在这些概念的指导下，它探索了通用的 AIoT 架构，提供了一个实际的 AIoT 示例来说明 AI 如何应用于现实世界的应用程序，并总结了有前景的 AIoT 应用程序。然后，回顾了有关网络边缘推理和训练的 AI 模型的新兴技术。最后，概述了这个有前途的领域的开放挑战和未来方向。本文对灵活的 AIoT 系统的端边缘云编排架构进行了广泛调查。具体来说，它首先阐明了包括物联网、人工智能和边缘计算在内的基本概念。在这些概念的指导下，它探索了通用的 AIoT 架构，提供了一个实际的 AIoT 示例来说明 AI 如何应用于现实世界的应用程序，并总结了有前景的 AIoT 应用程序。然后，回顾了有关网络边缘推理和训练的 AI 模型的新兴技术。最后，概述了这个有前途的领域的开放挑战和未来方向。本文对灵活的 AIoT 系统的端边缘云编排架构进行了广泛调查。具体来说，它首先阐明了包括物联网、人工智能和边缘计算在内的基本概念。在这些概念的指导下，它探索了通用的 AIoT 架构，提供了一个实际的 AIoT 示例来说明 AI 如何应用于现实世界的应用程序，并总结了有前景的 AIoT 应用程序。然后，回顾了有关网络边缘推理和训练的 AI 模型的新兴技术。最后，概述了这个有前途的领域的开放挑战和未来方向。提供了一个实际的 AIoT 示例，以说明 AI 如何应用于现实世界的应用程序，并总结了有前景的 AIoT 应用程序。然后，回顾了有关网络边缘推理和训练的 AI 模型的新兴技术。最后，概述了这个有前途的领域的开放挑战和未来方向。提供了一个实际的 AIoT 示例，以说明 AI 如何应用于现实世界的应用程序，并总结了有前景的 AIoT 应用程序。然后，回顾了有关网络边缘推理和训练的 AI 模型的新兴技术。最后，概述了这个有前途的领域的开放挑战和未来方向。