泡泡图灵智库，带你精读机器人顶级会议文章
标题： Matching Networks for One Shot Learning
作者：Oriol Vinyals, Charles Blundell, Timothy Lillicrap, Koray Kavukcuoglu, Daan Wierstra
Google DeepMind
来源：NIPS 2016
播音员：
编译：王昕杰
审核：万应才，李鑫
欢迎个人转发朋友圈；其他机构或自媒体如需转载，后台留言申请授权
摘要
大家好，今天为大家带来的文章是 -- Matching Networks for One Shot Learning 该文章发表于NIPS 2016。
DeepMind团队的这篇文章虽然是2016年的，仍然是解决小样本学习问题的经典。对于训练过程中从未见过的新类，只借助每类少数几个标定样本，不改变已经训练好的模型，能够对测试样本进行分类。
主要贡献
1. 借鉴了注意力LSTM，考虑了整个参考集合对图像分类的贡献。
2. 训练过程中，尽量模拟测试流程，使用小样本构造minibatch。
3. 可端到端训练的。
算法流程
图1. 匹配网络结构。g为 参考样本特征提取，f为测试样本特征提取
1. 训练策略
图1所示匹配网络结构的创新之处在于，直接在训练的时候就去模仿测试时只有少量标注样本的情况，提出episode的概念。每个episode会包含一个support set（充当训练数据），和一个test set（充当测试数据）。其中每个support set由N-way-K-shot模式随机生成，即在训练集涵盖的所有的类别中随机选择N个类别，然后每个类别又随机选择K个样本作为support set。给出support set 的 N*K 个样本，使网络快速学习，预测test set的类别标签。
2. 注意力模型
对于test set 的类别标签预测由如下公式得到
其中a为注意力机制，由如下公式得到，相当于余弦距离的softmax形式。其中C是余弦距离，用于比较test set x^ 和support set xi的相似度。f, g分别是test set和support set的特征提取函数，通过卷积池化等操作得到。
对于每个xi LSTM维护四个状态变量前后向隐状态与前后向记忆。对于每个test，通过l=1,2...L次迭代，使用一个注意力LSTM模型计算其特征。每一步维护 LSTM 四个状态变量.
主要结果
表1. 在Omniglot数据集下和其它方法对比的结果
表2. 在 miniImageNet 数据集下和其它方法对比的结果
表3. 在 整个ImageNet 数据集下和其它方法对比的结果
Abstract
Learning from a few examples remains a key challenge in machine learning.Despite recent advances in important domains such as vision and language, thestandard supervised deep learning paradigm does not offer a satisfactory solutionfor learning new concepts rapidly from little data. In this work, we employ ideasfrom metric learning based on deep neural features and from recent advancesthat augment neural networks with external memories. Our framework learns anetwork that maps a small labelled support set and an unlabelled example to itslabel, obviating the need for fine-tuning to adapt to new class types. We then defineone-shot learning problems on vision (using Omniglot, ImageNet) and languagetasks. Our algorithm improves one-shot accuracy on ImageNet from 87.6% to93.2% and from 88.0% to 93.8% on Omniglot compared to competing approaches.We also demonstrate the usefulness of the same model on language modeling byintroducing a one-shot task on the Penn Treebank.
如果你对本文感兴趣，想要下载完整文章进行阅读，可以关注 【泡泡机器人SLAM】公众号。
泡泡机器人SLAM的原创内容均由泡泡机器人的成员花费大量心血制作而成，希望大家珍惜我们的劳动成果，转载请务必注明出自【泡泡机器人SLAM】微信公众号，否则侵权必究！同时，我们也欢迎各位转载到自己的朋友圈，让更多的人能进入到SLAM这个领域中，让我们共同为推进中国的SLAM事业而努力！
商业合作及转载请联系liufuqiang_robot@hotmail.com返回搜狐，查看更多