Redes LSTM de memoria a largo plazo
Long short-term memory (LSTM) networks
- Fecha
- 1997 · fiabilidad alta
- Lugar
- Universidad Técnica de Múnich, Alemania, e IDSIA, Lugano, Suiza
- Autoría
- Sepp Hochreiter y Jürgen Schmidhuber
- Personas
- 👤 Jürgen Schmidhuber1963–👤 Sepp Hochreiter1967–
- Ámbito
- Saber y símbolos
Qué es
Arquitectura de red recurrente con compuertas que recuerda información durante largas secuencias. Dominó el reconocimiento de voz y la traducción automática hasta el transformer.
A qué dio paso
- El reconocimiento de voz de Siri, Alexa y Google
- La traducción neuronal (Google Translate, 2016)
- El transformer como sucesor
Se apoya en
- Retropropagación para entrenar redes neuronales profundas1986
- Problema de desvanecimiento de gradiente1991
- redes recurrentes
- problema del gradiente evanescente
Hizo posible
- Unidades recurrentes cerradas2014
- reconocimiento de voz neuronal
- traducción automática neuronal