日本語
 
Help Privacy Policy ポリシー/免責事項
  詳細検索ブラウズ

アイテム詳細

  The Helmholtz Machine Through Time

Hinton, G., Dayan, P., To, A., & Neal, R. (1995). The Helmholtz Machine Through Time. In F., Fogelman-Soulie, & R., Gallinari (Eds.), Conférence Internationale sur les Réseaux de Neurones Artificiels (ICANN 1995) (pp. 483-490). Paris, France: RC2.

Item is

基本情報

表示: 非表示:
アイテムのパーマリンク: https://hdl.handle.net/21.11116/0000-0007-558F-9 版のパーマリンク: https://hdl.handle.net/21.11116/0000-0007-5599-D
資料種別: 会議論文

ファイル

表示: ファイル

関連URL

表示:
非表示:
URL:
https://www.cs.toronto.edu/~hinton/absps/hmtt.pdf (全文テキスト(全般))
説明:
-
OA-Status:

作成者

表示:
非表示:
 作成者:
Hinton, GE, 著者
Dayan, P1, 著者           
To, A, 著者
Neal, RM, 著者
所属:
1External Organizations, ou_persistent22              

内容説明

表示:
非表示:
キーワード: -
 要旨: We describe the "wake-sleep'' algorithm that allows a multilayer, unsupervised, stochastic neural network to build a hierarchical, top-down generative model of an ensemble of data vectors. Because the generative model uses distributed representations that are a non-linear function of the input, it is intractable to compute the posterior probability distribution over hidden representations given the generative model and the current data vector. It is therefore intractable to fit the generative model to data using standard techniques such as gradient descent or EM. Instead of computing the posterior distribution exactly, a "Helmholtz Machine'' uses a separate set of bottom-up "recognition'' connections to produce a compact approximation to the posterior distribution. The wake-sleep algorithm uses the top-down generative connections to provide training data for the bottom-up recognition connections and vice versa. In this paper, we show that the wake-sleep algorithm can be generalized to model the temporal structure in sequences of data vectors. This gives a very simple online algorithm that fits generative models which have distributed hidden representations which can be exponentially more powerful than conventional Hidden Markov Models.

資料詳細

表示:
非表示:
言語:
 日付: 1995-10
 出版の状態: 出版
 ページ: -
 出版情報: -
 目次: -
 査読: -
 識別子(DOI, ISBNなど): -
 学位: -

関連イベント

表示:
非表示:
イベント名: Conférence Internationale sur les Réseaux de Neurones Artificiels (ICANN 1995)
開催地: Paris, France
開始日・終了日: 1995-10-09 - 1995-10-13

訴訟

表示:

Project information

表示:

出版物 1

表示:
非表示:
出版物名: Conférence Internationale sur les Réseaux de Neurones Artificiels (ICANN 1995)
種別: 会議論文集
 著者・編者:
Fogelman-Soulie, F, 編集者
Gallinari, R, 編集者
所属:
-
出版社, 出版地: Paris, France : RC2
ページ: - 巻号: - 通巻号: - 開始・終了ページ: 483 - 490 識別子(ISBN, ISSN, DOIなど): ISBN: 2-910085-18-X