Deutsch
 
Hilfe Datenschutzhinweis Impressum
  DetailsucheBrowse

Datensatz

 
 
DownloadE-Mail
  The Helmholtz Machine Through Time

Hinton, G., Dayan, P., To, A., & Neal, R. (1995). The Helmholtz Machine Through Time. In F. Fogelman-Soulie, & R. Gallinari (Eds.), Conférence Internationale sur les Réseaux de Neurones Artificiels (ICANN 1995) (pp. 483-490). Paris, France: RC2.

Item is

Basisdaten

einblenden: ausblenden:
Genre: Konferenzbeitrag

Externe Referenzen

einblenden:
ausblenden:
externe Referenz:
https://www.cs.toronto.edu/~hinton/absps/hmtt.pdf (beliebiger Volltext)
Beschreibung:
-
OA-Status:

Urheber

einblenden:
ausblenden:
 Urheber:
Hinton, GE, Autor
Dayan, P1, Autor           
To, A, Autor
Neal, RM, Autor
Affiliations:
1External Organizations, ou_persistent22              

Inhalt

einblenden:
ausblenden:
Schlagwörter: -
 Zusammenfassung: We describe the "wake-sleep'' algorithm that allows a multilayer, unsupervised, stochastic neural network to build a hierarchical, top-down generative model of an ensemble of data vectors. Because the generative model uses distributed representations that are a non-linear function of the input, it is intractable to compute the posterior probability distribution over hidden representations given the generative model and the current data vector. It is therefore intractable to fit the generative model to data using standard techniques such as gradient descent or EM. Instead of computing the posterior distribution exactly, a "Helmholtz Machine'' uses a separate set of bottom-up "recognition'' connections to produce a compact approximation to the posterior distribution. The wake-sleep algorithm uses the top-down generative connections to provide training data for the bottom-up recognition connections and vice versa. In this paper, we show that the wake-sleep algorithm can be generalized to model the temporal structure in sequences of data vectors. This gives a very simple online algorithm that fits generative models which have distributed hidden representations which can be exponentially more powerful than conventional Hidden Markov Models.

Details

einblenden:
ausblenden:
Sprache(n):
 Datum: 1995-10
 Publikationsstatus: Erschienen
 Seiten: -
 Ort, Verlag, Ausgabe: -
 Inhaltsverzeichnis: -
 Art der Begutachtung: -
 Identifikatoren: -
 Art des Abschluß: -

Veranstaltung

einblenden:
ausblenden:
Titel: Conférence Internationale sur les Réseaux de Neurones Artificiels (ICANN 1995)
Veranstaltungsort: Paris, France
Start-/Enddatum: 1995-10-09 - 1995-10-13

Entscheidung

einblenden:

Projektinformation

einblenden:

Quelle 1

einblenden:
ausblenden:
Titel: Conférence Internationale sur les Réseaux de Neurones Artificiels (ICANN 1995)
Genre der Quelle: Konferenzband
 Urheber:
Fogelman-Soulie, F, Herausgeber
Gallinari, R, Herausgeber
Affiliations:
-
Ort, Verlag, Ausgabe: Paris, France : RC2
Seiten: - Band / Heft: - Artikelnummer: - Start- / Endseite: 483 - 490 Identifikator: ISBN: 2-910085-18-X