迁移学习(transfer learning)前沿方向

最新进展

传递迁移学习

在传递迁移学习框架中,我们需要通过一个或多个中间数据所拥有的知识,将两个不相关或是弱相关的源数据和目标数据联系在一起,形成一种知识的链式迁移。其针对的源数据和目标数据包括文本和图像数据,还包括属于同一类型但是语义完全不同的数据,通过联合矩阵分解或是深度神经网络等方法实现相互连接的具有弱相似性的知识迁移。目前已经有研究通过传递迁移学习实现了飞机图片和人脸图片这种弱相关的数据之间的知识迁移。传递迁移学习不仅冲击了传统迁移学习的约束,也为数据难获取,或数据量有限的小样本数据学习创造了新的技术视角和新的可能。


深度迁移学习

深度迁移学习将深度学习与迁移学习结合起来。通过对深度学习模型的研究,人们发现对于相似的学习任务,虽然模型的最终目标可能不同,但模型前几层却常常具有相似的功能。这种相似的功能显示了深度学习模型前几层具有的可在多种目标数据间迁移的通用性。利用深度学习这一特点设计的迁移学习技术,一般被称为深度迁移学习。

图像识别是深度迁移学习的典型应用。针对不同图像识别任务(如车辆识别、人脸识别等)训练的深度学习模型,其前几层均有提取图像纹理的功能,而对图像纹理的有效提取则是各类图像识别任务的共同基础。因此,当需要进行某类图像识别任务而缺乏足够的支撑深度学习技术的大量标注数据时,可将用于识别其他类型图像的深度学习模型迁移过来。例如,2017年发表在《自然》杂志的一项成果,就利用了基于128万余张涉及千余类物品的图像训练的深度学习模型,通过深度迁移学习技术,仅用12万余张标注的皮肤癌图片,就训练出了优于人类专家的皮肤癌识别模型。此外,深度迁移学习在时空预测等领域也有应用。例如,预测城市交通状况是智慧城市管理的重要基础之而一些欠发达城市缺乏足够的数据支撑深度学习技术的应用。这种情况就可以使用深度迁移学习,将在其他发达的、数据丰富的城市学习到的深度模型迁移到数据缺乏的城市中去。


终身迁移学习

终身学习(lifelong learning)是一个非常吸引人的新领域,它研究一个智能系统如何处理不断到来的各类任务,从而实现终身不间断的学习。而终身迁移学习则指在终身学习不同任务的过程中自适应地使用各种迁移学习技术来提高终身学习的有效性。然而,传统的迁移学习都是由人来确定使用哪种迁移学习算法。一个终身学习的智能系统可能会面临各种需要迁移学习的场景,而不同算法也有各自擅长的领域,无法一概而论。同时,我们也不希望有太多的人为干预,不必每当遇到新的场景,就由专家来指导智能系统该选用哪种算法。这就促成了自迁移学习(learning to transfer)的诞生。

自迁移学习是一种能由算法自主选择用什么来迁移以及如何去迁移的框架。它的核心思想是从过去已经实施过的一系列迁移学习任务中学习总结经验,并把这些经验应用到未来可能出现的迁移学习任务中。自迁移学习旨在从过去的经验中学习两件事:一是源数据和目标数据之间的差别对提升迁移学习效果的影响;二是目标数据的判别力强弱如何反映迁移学习的效果。当我们遇到新的数据时,只要计算出了上述两个衡量标准,就能推算出使得提升效果最大化的迁移学习策略是什么。如此一来,智能系统只需要预先学习少量知识,便可以在无须专家的帮助下自主进行有效的终身迁移学习。


迁移强化学习

迁移强化学习指的是把迁移学习的技术应用到强化学习的智能体训练过程中。强化学习本质上是一种学习从环境到决策的映射从而使效益最大化的方法。目前,强化学习的研究面临着多重挑战,如难以从环境中获取足够反馈,以及面对复杂任务或多项任务时的糟糕表现。而迁移强化学习从源任务选择、知识迁移、任务映射等多个角度对解决这些问题产生了至关重要的影响。

迁移强化学习的应用十分广泛,例如任务导向型的对话系统。任务导向型的对话系统正在成为智能语音交互领域的一大热门,京东智能客服、谷歌语音助手都属于这一范畴。它可以被看作是一个以用户满意度最大化为目标的智能代理,因此用强化学习的方法来训练模型是合适之举。然而,每个人的对话习惯各不相同,这使得大样本数据的分布很不一致。搭建个性化的对话系统是一个很好的解决办法,却又面临数据量不够的问题。迁移学习的介入有效地解决了两者之间的矛盾。它把其他所有人的对话样本看作源数据,把当前用户的对话样本看作目标数据,先从广泛的大众群体对话中学习出一种通用的策略,再利用当前用户的对话数据使得策略精益求精,从而满足个性化需求。


众包迁移学习

众包迁移学习(crowd transfer learning)是迁移学习与群体智能技术相融合的新产物。目前众包已经被广泛应用在人工智能领域以获取足够的标注数据,但众包模式存在着高延迟和质量差距较大等诸多问题吗。在此基础上提出的众包迁移学习通过网络群体获取数据,采用知识迁移来提升数据质量和数据规模,降低数据获取成本。

众包迁移学习作为数据挖掘和人工智能领域一种全新的数据处理模式,其在数据集成、数据清洗和数据标注方面都有较为典型的应用。在传统众包场景下其任务的参与者往往良莠不齐,任务难度也不尽相同。如何判断任务的完成质量,推测任务的真实结果是众包迁移学习的研究热点之一,而交叉任务众包的提出是众包迁移学习的一个典型范例。该方法将历史任务的完成质量通过知识迁移的方法迁移到正在进行的任务上,并利用概率图模型推断出新任务的完成质量。这种方法在数据清洗与降噪上取得了良好的效果,也使得众包数据集成的结果变得更加可靠。


对抗迁移学习

在建立一个基于迁移学习的舆情分析模型时我们可以利用领域的相似度来建立一个共有关键词库:一方面可以帮助在源领域进行分类,另一方面又与目标领域具有共性,也很难利用这些关键词来区分两个领域。这一迁移学习的思想可以用生成式对抗网络GAN(Generative Adversarial Networks)来建立。在我们的工作中,挑选关键词时,首先考虑提高源领域的模型准确度,然后尽量降低这些词对两个领域的区分能力,通过互相对抗的过程做到端到端的学习。经实验验证,这些共有关键词可以很好地解释舆情的取向,为模型提供了良好的可解释性。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 202,529评论 5 475
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,015评论 2 379
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 149,409评论 0 335
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,385评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,387评论 5 364
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,466评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,880评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,528评论 0 256
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,727评论 1 295
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,528评论 2 319
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,602评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,302评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,873评论 3 306
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,890评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,132评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,777评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,310评论 2 342

推荐阅读更多精彩内容