Training Framework for Intelligent Identification of Cable Processes Based on NAS and Structural Re parameterization

NI Tian; MEI Qin; LIU Xingye; HUANG Min; GUO Yanna; BAI Chenyang

English Version Reader LoginJournal Login

您当前的位置：

首页 >

文章列表页 >

Training Framework for Intelligent Identification of Cable Processes Based on NAS and Structural Re parameterization

更新时间：2025-10-29

- Training Framework for Intelligent Identification of Cable Processes Based on NAS and Structural Re parameterization
- Issue 6, (2025)
- 作者机构：
  
  1. 无锡广盈集团有限公司科技分公司(创新研究院）
  2. 无锡广盈集团科技公司
- 作者简介：
- 基金信息：
- DOI：
  CLC：
- Published：2025
- 稿件说明：
移动端阅览
NI Tian, MEI Qin, LIU Xingye, et al. Training Framework for Intelligent Identification of Cable Processes Based on NAS and Structural Re parameterization[J]. 2025, (6).
DOI：

NI Tian, MEI Qin, LIU Xingye, et al. Training Framework for Intelligent Identification of Cable Processes Based on NAS and Structural Re parameterization[J]. 2025, (6). DOI：

摘要

针对电缆施工场景下端侧视觉模型识别精度不足的问题，本文提出了一种结合神经架构搜索（neural architecture search，NAS）和结构重参数化（structural re-parameterization）技术的知识蒸馏（knowledge distillation， KD）框架，旨在利用视觉大模型的强大表征能力，提升轻量化端侧模型的综合性能。该框架创新性地将结构重参数化与NAS协同应用于知识蒸馏过程；在训练阶段通过动态扩展模型结构增强小模型的学习能力；在推理阶段恢复原始轻量架构，确保部署效率；在训练后期也缓解了传统知识蒸馏性能提升乏力的问题。在通用目标检测数据集与电缆施工专用数据集上的系统验证结果表明，所提方法在显著提升端侧模型识别精度的同时，维持了高效推理速度，对推动电缆施工智能化落地具有重要实践价值。

Abstract

Aiming at the problem of insufficient recognition accuracy of the end-side visual model in the cable construction scenario

this paper proposes a knowledge distillation (KD) framework that combines neural architecture search (NAS) and structural re-parameterization technology

aiming to utilize the powerful representation ability of large visual models. Improve the overall performance of lightweight end-side models. The framework innovatively applies structural re-parameterization and NAS to the knowledge distillation process. In the training stage

the learning ability of the small model is enhanced by dynamically expanding the model structure. Restore the original lightweight architecture in the inference stage to ensure deployment efficiency. In the later stage of training

it also alleviates the problem of weak performance improvement of traditional knowledge distillation. The system verification results on the general object detection dataset and the cable construction special dataset show that the proposed method significantly improves the recognition accuracy of the end-side model while maintaining efficient reasoning speed

which has important practical value for promoting the intelligent implementation of cable construction.

关键词

Keywords

references

崔雍浩, 商聪, 陈锶奇, 郝建业. 人工智能综述:AI的发展[J]. 无线电通信技术, 2019, 45 (03): 225-231.

郑远攀,李广阳,李晔.深度学习在图像识别中的应用研究综述[J].计算机工程与应用,2019,55(12):20-36.

袁燕岭,李世松,董杰,等.电力电缆诊断检测技术综述[J].电测与仪表,2016,53(11):1-7.

邓永恒,章晋睿,岳晟,等.迈向泛在智能:端侧大语言模型现状与展望[J].中国科学基金,2025,39(02):263-273.

蒲天骄,乔骥,韩笑,等.人工智能技术在电力设备运维检修中的研究及应用[J].高电压技术,2020,46(02):369-383.

李清格,杨小冈,卢瑞涛,等.计算机视觉中的Transformer发展综述[J].小型微型计算机系统,2023,44(04):850-861.

李玉洁,马子航,王艺甫,等.视觉Transformer(ViT)发展综述[J].计算机科学,2025,52(01):194-209.

孙仁科,许靖昊,皇甫志宇,等.基于视觉-语言预训练模型的零样本迁移学习方法综述[J].计算机工程,2024,50(10):1-15.

高晗,田育龙,许封元,等.深度学习模型压缩与加速综述[J].软件学报,2021,32(01):68-92.

曾焕强,胡浩麟,林向伟,等.深度神经网络压缩与加速综述[J].信号处理,2022,38(01):183-194.

张珂,冯晓晗,郭玉荣,等.图像分类的深度卷积神经网络模型综述[J].中国图象图形学报,2021,26(10):2305-2325.

DING X, ZHANG X, MA N, et al. Repvgg: Making vgg-style convnets great again[C]//Proceedings of the IEEE/CVF conference on computer vision and pattern recognition. 2021:13733-13742.

刘富州,周路遥,魏钰洁,等.基于SGMD-WVD联合KD的风电场集电线故障区段定位算法[J].电力大数据,2025,28(03):68-76.

田萱,王亮,丁琪.基于深度学习的图像语义分割方法综述[J].软件学报,2019,30(02):440-468.

高钦泉,赵岩,李根,等.基于知识蒸馏的超分辨率卷积神经网络压缩方法[J].计算机应用,2019,39(10):2802-2808.

黄震华,杨顺志,林威,等.知识蒸馏研究综述[J].计算机学报,2022,45(03):624-653.

孟宪法,刘方,李广,等.卷积神经网络压缩中的知识蒸馏技术综述[J].计算机科学与探索,2021,15(10):1812-1829.

李航宇,王楠楠,朱明瑞,等.神经结构搜索的研究进展综述[J].软件学报,2022,33(01):129-149.

俞利新,崔祺,车军,等.结合结构重参数化方法与空间注意力机制的图像融合模型[J].计算机应用研究,2022,39(05):1573-1578+1600.

徐凯,梁志坚,张镱议,等.基于GoogLeNet Inception-V3模型的电力设备图像识别[J].高压电器,2020,56(09):129-135+143.

崔雍浩, 商聪, 陈锶奇, 郝建业. 人工智能综述:AI的发展[J]. 无线电通信技术, 2019, 45 (03): 225-231.

郑远攀,李广阳,李晔.深度学习在图像识别中的应用研究综述[J].计算机工程与应用,2019,55(12):20-36.

袁燕岭,李世松,董杰,等.电力电缆诊断检测技术综述[J].电测与仪表,2016,53(11):1-7.

邓永恒,章晋睿,岳晟,等.迈向泛在智能:端侧大语言模型现状与展望[J].中国科学基金,2025,39(02):263-273.

蒲天骄,乔骥,韩笑,等.人工智能技术在电力设备运维检修中的研究及应用[J].高电压技术,2020,46(02):369-383.

李清格,杨小冈,卢瑞涛,等.计算机视觉中的Transformer发展综述[J].小型微型计算机系统,2023,44(04):850-861.

李玉洁,马子航,王艺甫,等.视觉Transformer(ViT)发展综述[J].计算机科学,2025,52(01):194-209.

孙仁科,许靖昊,皇甫志宇,等.基于视觉-语言预训练模型的零样本迁移学习方法综述[J].计算机工程,2024,50(10):1-15.

高晗,田育龙,许封元,等.深度学习模型压缩与加速综述[J].软件学报,2021,32(01):68-92.

曾焕强,胡浩麟,林向伟,等.深度神经网络压缩与加速综述[J].信号处理,2022,38(01):183-194.

张珂,冯晓晗,郭玉荣,等.图像分类的深度卷积神经网络模型综述[J].中国图象图形学报,2021,26(10):2305-2325.

DING X, ZHANG X, MA N, et al. Repvgg: Making vgg-style convnets great again[C]//Proceedings of the IEEE/CVF conference on computer vision and pattern recognition. 2021:13733-13742.

刘富州,周路遥,魏钰洁,等.基于SGMD-WVD联合KD的风电场集电线故障区段定位算法[J].电力大数据,2025,28(03):68-76.

田萱,王亮,丁琪.基于深度学习的图像语义分割方法综述[J].软件学报,2019,30(02):440-468.

高钦泉,赵岩,李根,等.基于知识蒸馏的超分辨率卷积神经网络压缩方法[J].计算机应用,2019,39(10):2802-2808.

黄震华,杨顺志,林威,等.知识蒸馏研究综述[J].计算机学报,2022,45(03):624-653.

孟宪法,刘方,李广,等.卷积神经网络压缩中的知识蒸馏技术综述[J].计算机科学与探索,2021,15(10):1812-1829.

李航宇,王楠楠,朱明瑞,等.神经结构搜索的研究进展综述[J].软件学报,2022,33(01):129-149.

俞利新,崔祺,车军,等.结合结构重参数化方法与空间注意力机制的图像融合模型[J].计算机应用研究,2022,39(05):1573-1578+1600.

徐凯,梁志坚,张镱议,等.基于GoogLeNet Inception-V3模型的电力设备图像识别[J].高压电器,2020,56(09):129-135+143.

Views

下载量

CSCD

Alert me when the article has been cited

提交

Tools

Publicity Resources

No data

Related Author

No data

Related Institution

No data

AI问答

⁰