关键词：深度神经网络 模型压缩 深度学习 网络剪枝 网络蒸馏 

摘要：深度神经网络近年在计算机视觉以及自然语言处理等任务上不断刷新已有最好性能,已经成为最受关注的研究方向.深度网络模型虽然性能显著,但由于参数量巨大、存储成本与计算成本过高,仍然难以部署到硬件受限的嵌入式或移动设备上.相关研究发现,基于卷积神经网络的深度模型本身存在参数冗余,模型中存在对最终结果无用的参数,这为深度网络模型压缩提供了理论支持.因此,如何在保证模型精度条件下降低模型大小已经成为热点问题.本文对国内外学者近几年在模型压缩方面所取得的成果与进展进行了分类归纳并对其优缺点进行评价,并探讨了模型压缩目前存在的问题以及未来的发展方向.

工程科学学报杂志要求:

{1}投稿须基金项目论文，请给出项目的编号或批准文号，本刊将优先采用。

{2}凡向本刊投稿，稿件录用后即视为授权本刊，并包括本刊关联的出版物、网站及其他合作出版物和网站。

{3}本刊欢迎有观点、有论证、有研究深度的文稿。

{4}文章题目力求简明、醒目，中文文题一般以20个汉字以内为宜，可带副题。

{5}来稿应附3～8个关键词。附200字左右的结构式摘要（理论研究不要写成结构式摘要），内容包括目的、方法、结果、结论。

注：因版权方要求，不能公开全文，如需全文，请咨询杂志社