汕头网站推广系统,英文网站外链查询,网络规划设计师如何复习,网站被采集了 一个栏目不收录这个也是看论文的时候看到的#xff0c;但是对这方面不是理解#xff0c;需要对这方面知识点进行一个补充。
参考#xff1a;
迁移学习概述#xff08;Transfer Learning#xff09;-CSDN博客
1. 什么是Transfer Learning#xff1f;
Transfer Learning就是迁移学习但是对这方面不是理解需要对这方面知识点进行一个补充。
参考
迁移学习概述Transfer Learning-CSDN博客
1. 什么是Transfer Learning
Transfer Learning就是迁移学习 因为标注数据是一项枯燥且花费巨大的任务因此就要想办法进行废物利用。 如何将一个数据集的数据可以应用于另一个新的任务这就是迁移学习 Transfer Learning Definition: Ability of a system to recognize and apply knowledge and skills learned in previous domains/tasks to novel domains/tasks. 目标将某个领域或任务上学习到的知识或模式应用到不同但相关的领域或问题中。
2. 三大问题
用什么迁移what to transfer如何进行迁移how to transfer何时适合迁移when to transfer
3. 如何迁移
3.1 基于实例的迁移
基于实例的迁移学习研究的是如何从源领域中挑选出对目标领域的训练有用的实例比如对源领域的有标记数据实例进行有效的权重分配让源域实例分布接近目标域的实例分布从而在目标领域中建立一个分类精度较高的、可靠地学习模型。 因为迁移学习中源领域与目标领域的数据分布是不一致所以源领域中所有有标记的数据实例不一定都对目标领域有用。戴文渊等人提出的TrAdaBoost算法就是典型的基于实例的迁移。
这个就是从数据下手想办法让旧数据能够适应新的问题比如筛选或者变换等等
3.2 基于特征的迁移
寻找源领域于目标领域之间的共同特征
特征映射
3.3 基于共享参数的迁移
如何找到源数据和目标数据的空间模型之间的共同参数或者先验分布从而可以通过进一步处理达到知识迁移的目的假设前提是学习任务中的的每个相关模型会共享一些相同的参数或者先验分布。
4. 模型的预训练
其实预训练的过程就是一种迁移学习想办法转移到一个具体的问题领域上
因此第一层feature称之为一般(general)特征最后一层称之为特定(specific)特征
详细内容需要看参考的那篇博客。
