基于参数预初始化的迁移学习初步研究开题报告

全文总字数：3326字

1. 研究目的与意义（文献综述）

随着社会的快速发展，信息化与网络化在人类日常的生活中扮演的角色变得愈发重要。随着数据规模与计算资源的快速发展，机器学习成为现在的一个热门学科。机器学习作为一种重要的学习方法，在近年来得到了广泛的研究与发展，其中卷积神经网络在图像分类、目标检测、图像语义分割等领域取得了一系列突破性的研究成果，其强大的特征学习与分类能力引起了广泛的关注，具有重要的分析与研究价值。

但是在传统的学习之中，由于“用于学习的训练样本与新的测试样本满足独立同分布”的条件以及“必须有足够可利用的训练样本才能学习得到一个好的分类模型”这两个条件往往在现实测试之中无法得到满足，这就引起了机器学习中的一个问题：如何利用少量的现有训练样本或者源领域数据，建立一个可靠的模型，对目标领域数据进行分析预测。与此同时我们也在思考探索另外一个问题：作为人类，我们在学习新的知识时，可以通过借助过去以往学习过的经验结果与知识这种方法来帮助学习新知识，比如学习英语时我们可以与借助中文的一些相似语法来学习。因此是否可以借助模仿人类的这一行为，去开发新的机器学习方法—迁移学习，从而把在特定数据集上训练得到的“知识”成功运用到新的领域之中，解决机器学习之中由于样本条件不满足难以得到准确的模型这一问题。因此现在“在卷积神经网络中运用迁移学习”成为了当下机器学习领域中的一个热门研究方向。诸多研究结果表明：先对卷积神经网络进行参数的预训练，然后将卷积神经网络在特定应用上进行迁移训练和测试相比传统地直接在目标数据集上训练网络的方法性能可以得到较大幅度的提升。

在近几年的时间里，在机器学习这一方面已经有非常多的学者投入了迁移学习的领域之中，而且积极投身这个领域的学者正在变得越来越多，其发展前景十分广阔。在每年的机器学习和数据挖掘的顶级学者峰会上都有关于迁移学习的文章发表，比如：icml，sigkdd，nips，icdm以及cikm等。同时在世界范围内，迁移学习已经取得了明显的成就，其在文本分类，图像识别，语义推理等方面上不断经过实验，结果明显发现在经过迁移学习与训练的样本要优于传统的一些学习方法的样本。在现如今，迁移学习已经开始应用在机器学习，电力，生物，医学，地理等各方面，通过卷积神经网络与迁移学习的相结合，解决了现实生活中的很多难题。

2. 研究的基本内容与方案

基本内容及目标

本次设计的研究目标为：首先对深度卷积神经网络的学习算法和基本结构以及迁移学习的原理和特点进行学习探讨，同时分析并代码实现具体的迁移学习基本框架，对其适用场景模型进行实际性能测试，并在测试后得出识别错误率，通过具体数据分析与总结本次毕业设计中的迁移学习框架实际性能效果。

本次设计的研究内容为：学习机器学习和深度卷积神经网络的基本知识；学习迁移学习的框架及适用场景模型；实现迁移学习框架的实际性能测试。

3. 研究计划与安排

1) 第1-3周 完成题目调研，完成文献阅读，进行相关资料的收集，完成文献综述以及开题报告撰写；

2) 第4-5周 学习深度卷积神经网络以及迁移学习，完成论文开题；

3) 第6-12周 完成迁移学习的框架以及适用场景搭建，撰写论文初稿；

4. 参考文献（12篇以上）

[1] 李彦冬，郝宗波，雷航．卷积神经网络综述[j]．计算机应用．2016．

[2] 陈康，向勇，喻超．大数据时代机器学习的新趋势[j]．电信科学．2012.

[3] 庄福振，罗平，何清，史忠植．迁移学习研究进展[j]．软件学报．2015.