Semi-supervised learning with deep generative models

ShuKumata.icon

Research institute:

The problem the authors try to solve:

1枚まとめ

0. とりあえず一言

アブスト

The ever-increasing size of modern data sets combined with the difficulty of obtaining label information has made semi-supervised learning one of the problems of significant practical importance in modern data analysis. We revisit the approach to semi-supervised learning with generative models and develop new models that allow for effective generalisation from small labelled data sets to large unlabelled ones. Generative approaches have thus far been either inflexible, inefficient or non-scalable. We show that deep generative models and approximate Bayesian inference exploiting recent advances in variational methods can be used to provide significant improvements, making generative approaches highly competitive for semi-supervised learning.

ラベル情報を得る難しさを抱える、現代のデータセットの大きさがかつてないほど増えていっていることが、半教師あり学習を現代のデータ分析において実用的に非常に重要な課題にしている。我々は、再度生成モデルによる半教師あり学習のアプローチに挑み、小さなラベルづけされたデータから巨大なラベルづけされていないデータまで、効果的な一般化を許す新しいモデルを開発した。これまで生成的なアプローチは柔軟性がなく、非効果的で、ノンスケーラブルだった。我々は、深層生成モデルとvariationnal methodsの近年の発達を用いた近似ベイズ推論が生成的なアプローチを半教師学習において高い競争力のあるものにする、大幅な改善を提供できることを示した。

要するに？

1. どんなもの？ 問題意識は？

2. 先行研究と比べてどこがすごい？

3. 技術や手法のキモはどこ？

4. どうやって有効だと検証した？

5. 議論はある？

6. 次に読むべき論文は？

7. メモ

8.コメント

リンク

まとめスライド等