ネオコグニトロン

ネオコグニトロン: Neocognitron)は、1979年に福島邦彦によって提唱された畳み込みニューラルネットワークである[1][2]

畳み込みの手法を導入する以前のコグニトロン(「教師なし学習」を行う多層神経回路)では位置ずれや変形の影響を受けやすかった。 このため、形の類似性だけに基づいてパターン認識することを目的としてネオコグニトロンが開発された。 ネオコグニトロンは複数の種類の細胞から構成され、その中で最も重要な細胞は「S細胞」および「C細胞」と呼ばれる[3] 。 局所特徴量はS細胞によって抽出され、微小変位(local shift)といったこれらの特徴の変形はC細胞に委ねられている。 入力中の局所特徴量は、隠れ層によって徐々に統合され、分類される[4]

デイヴィッド・ヒューベルトルステン・ウィーセルが1959年に提唱したモデルから発想を得ている。 彼らは「単純細胞」および「複雑細胞」と呼ばれる一次視覚野の2種類の細胞を発見し、パターン認識タスクにおいて使用されるこれら2種類の細胞のカスケードモデルを提唱した[5][6]

1998年、ヤン・ルカンらはネオコグニトロンにバックプロパゲーションによる教師あり学習を適用し、LeNet と名付けて公表した[7]手書き文字認識やその他のパターン認識の課題に用いられている[8]

ネオコグニトロンには様々な種類が存在する[9]。例えば、ある種のネオコグニトロンは、逆伝播シグナルを用いることによって同一入力中の複数のパターンを検出でき、選択的注意(selective attention)を達成する[10]

脚注

  1. Fukushima, Kunihiko「位置ずれに影響されないパターン認識機構の神経回路のモデル --- ネオコグニトロン ---」『Trans. IECE』J62-A第10号、1979年10月、658–665頁。
  2. Fukushima, Kunihiko (1980). “Neocognitron: A self-organizing neural network model for a mechanism of pattern recognition unaffected by shift in position”. Biological Cybernetics 36 (4): 93–202.
  3. Fukushima 1987, p. 83.
  4. Fukushima 1987, p. 84.
  5. David H. Hubel and Torsten N. Wiesel (2005). Brain and visual perception: the story of a 25-year collaboration. Oxford University Press US. p. 106. ISBN 978-0-19-517618-6. https://books.google.com/books?id=8YrxWojxUA4C&pg=PA106
  6. Hubel, DH; Wiesel, TN (October 1959). “Receptive fields of single neurones in the cat's striate cortex”. J. Physiol. (Lond.) 148: 574–91. doi:10.1113/jphysiol.1959.sp006308. PMC 1363130. PMID 14403679. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC1363130/.
  7. Lecun, Y (1998). “Gradient-based learning applied to document recognition”. Proceedings of the IEEE 86 (11): 2278-2324. doi:10.1109/5.726791.
  8. LeCun, Yann; Bengio, Yoshua; Hinton, Geoffrey (2015). “Deep learning”. Nature 521: 436–444. doi:10.1038/nature14539. PMID 26017442.
  9. Fukushima 2007
  10. Fukushima 1987, pp.81, 85

参考文献

関連項目

外部リンク

This article is issued from Wikipedia. The text is licensed under Creative Commons - Attribution - Sharealike. Additional terms may apply for the media files.