GoogleのDeep Learning論文読んだ

Representation Learning: A Review and New Perspectives を読んだ。

どこまで理解出来てるかいまいちだがメモとしてAbstractの要約をまとめとく。読んだことメモってことで。

• 高レベルの特徴抽出器(教師なし)を構築した (high-level, class-specific feature detectors)
  • # 人間や猫の顔を識別するニューラルネットワークが教師なし学習でできたと
• 9-layered locally connected sparse autoencoder
  • # この辺の技術用語は日本語がよくわからない。とにかく9層のニューラルネットワーク。
• 使用したデータセットは、1,000,000の画像(200x200px)
• 使用したコンピューターは1,000台(コア数で言うと16,000コア)
• 学習期間3日
• (直感には難しそうな)ラベル無し(=教師無し)画像のみから顔認識器(face detector)が構築できる事を示すことができた。
• 他には猫の顔や人影も識別できる。
• (deep learningによって学習した)特徴を用いた識別により、過去の研究を上回る制度を達成できた。

本文も一応読んだけどAbstract以上に理解が深まった感じはしない。
アルゴリズムの解説とかではなく、大規模計算リソース+大規模データぶん回したら教師なしでここまでできたよーっていう紹介なんだと思う。