近日，团队博士生王旭斌在设备端边缘智能方向的工作“Empowering Edge Intelligence: A Comprehensive Survey on On-Device Al Models”被计算机领域国际顶级期刊ACM Computing Surveys录用。该工作的第一作者为2022级博士研究生王旭斌，指导老师为贾维嘉教授。合作者还有北京师范大学王田教授、郭剑雄副教授、王晨豪副教授、唐志清博士以及UIC孟天晖博士。
Xubin Wang, Zhiqing Tang, Jianxiong Guo, Tianhui Meng, Chenhao Wang, Tian Wang, Weijia Jia*, Empowering Edge Intelligence: A Comprehensive Survey on On-Device Al Models, ACM Computing Surveys, Mar 2025.
期刊简介《ACM Computing Surveys》自1969年创刊至今，深受全球顶尖学者的广泛关注和一致认可，它致力于接收计算机领域具有代表性的前沿综述论文， 该刊是计算机领域的国际顶级期刊，属于中科院SCI一区Top，最新影响因子达到23.8，目前是Cite Score上排名第一的计算机领域国际顶级期刊。
在当前人工智能技术迅猛发展的背景下，设备端人工智能（AI）模型的研究逐渐成为推动智能设备普及和应用的重要力量。题为《Empowering Edge Intelligence: A Comprehensive Survey on On-Device Al Models》的综述论文，正是在这一背景下取得的成果。该综述不仅系统性地分析了设备端AI模型的特征和应用场景，还深入探讨了其面临的技术挑战和优化策略，为未来的研究和应用奠定了坚实的基础，助力我国在全球智能技术领域的竞争力提升。
图1 设备端AI模型的构建、优化和部署流程
研究成果概述综述深入探讨了设备端人工智能模型的基本概念、应用场景及其面临的技术挑战。首先，论文定义了设备端AI模型的特征，包括实时性能、资源限制和数据隐私保护，并分析了其在智能手机、智能家居、自动驾驶和医疗设备等领域的应用。接着，综述详细讨论了设备端AI模型所面临的主要挑战，如计算资源的限制、能量管理和数据隐私问题。为应对这些挑战，研究者们提出了多种优化和实施策略，包括模型压缩、数据预处理和系统集成等。此外，综述还探讨了边缘计算和基础模型等新兴技术对设备端AI模型演变的影响，强调了这些技术在推动智能系统发展的重要性。
特别地，综述从数据、模型和系统三个方面详细介绍了在设备上优化和实施人工智能模型的方法：
1.数据优化策略
在机器学习领域，“垃圾进，垃圾出”的原则强调了高质量数据输入对实现可靠结果的重要性，尤其是在大型语言模型的开发中，训练数据的规模和质量的提升显著改善了模型性能。为了在边缘设备上有效部署模型，数据预处理显得尤为关键。综述介绍了设备端人工智能中常用的数据优化技术，以确保高效且高质量的数据处理。这些方法包括数据过滤、特征提取、数据聚合和数据量化，每种方法都针对设备端AI模型的特定应用和优势进行了优化。下图概述了设备端人工智能的数据优化方法，这些方法能够有效提升为设备端AI模型收集的数据质量。
图2 设备端人工智能的数据优化方法
2.模型优化策略
为了在边缘设备上有效部署人工智能模型，开发了一系列模型优化技术，以应对这些设备通常面临的严格计算、内存和功耗限制。这些方法旨在在保持性能水平的同时，减少AI模型的大小和复杂性。模型优化操作的概述包括模型压缩和模型设计，其中模型压缩通过剪枝、模型量化和知识蒸馏等技术减少模型大小，以获得在保持高准确度的同时需要更少资源的紧凑模型。而模型设计则通过手动和自动技术（如架构选择、参数调优和正则化）创建轻量级模型。
图3 设备端人工智能的模型优化方法
3.系统优化策略
随着对实时性能和资源高效的深度学习模型需求的不断增加，针对设备端人工智能部署的系统优化已成为一个关键研究领域。成功在边缘设备上部署深度学习模型需要结合软件和硬件的方法，以提高计算效率。综述提供了轻量级模型训练和推理框架的全面概述，从软件角度出发，同时介绍了旨在加速模型性能的硬件方法。下图展示了各种系统优化方法，强调了软件和硬件优化如何协同工作，以提升设备端AI模型的计算效率。这种综合策略对于确保深度学习应用能够在边缘环境的限制下有效运行至关重要。
图4 设备端人工智能的系统优化方法
创新性亮点
1.全面的特征分析：综述首次系统性地定义了设备端AI模型的特征，并将其应用场景细分为多个领域，为研究者提供了清晰的理解框架。
2.技术挑战与解决方案：论文深入分析了设备端AI模型面临的技术挑战，并提出了针对性的优化策略，如模型压缩和数据预处理，为实际应用提供了可行的解决方案。
3.新兴技术的影响：综述探讨了边缘计算和基础模型等新兴技术对设备端AI模型的影响，揭示了未来技术发展的潜力和方向。
总结该综述的研究成果在设备端AI领域具有重要意义。首先，它为设备端AI模型的特征和应用提供了系统的分析框架，有助于研究者更好地理解和比较不同的模型。其次，提出的优化策略为设备端AI模型的实际应用提供了指导，促进了智能设备的普及和应用。最后，综述强调了设备端AI模型在智能家居、医疗健康、工业自动化等多个领域的应用潜力，为未来的研究和发展指明了方向。
