Retropropagación para entrenar redes neuronales profundas
Backpropagation for training neural networks
- Fecha
- 1986 · fiabilidad alta
- Lugar
- UC San Diego y Carnegie Mellon, EE. UU.
- Autoría
- David Rumelhart, Geoffrey Hinton y Ronald Williams (1986); Seppo Linnainmaa (1970) y Paul Werbos (1974) como precursores
- Personas
- 👤 David Rumelhart1942–2011👤 Geoffrey Hinton1947–👤 Paul Werbos1947–👤 Ron Williams1944–2004👤 Seppo Linnainmaa1945–
- Ámbito
- Saber y símbolos
⚠️ Dato en discusión: las fuentes no coinciden.
Qué es
Algoritmo que calcula eficientemente cómo ajustar cada peso de una red de varias capas propagando el error hacia atrás. Es el motor de entrenamiento de todo el aprendizaje profundo.
Linnainmaa (1970) y Werbos (1974) describieron el método antes; el artículo de 1986 lo popularizó para redes neuronales.
A qué dio paso
- El conexionismo y el renacimiento de las redes neuronales
- El aprendizaje profundo de 2012 en adelante
- Los grandes modelos de lenguaje
Se apoya en
Hizo posible
- Redes neuronales convolucionales (LeNet)1989-1998
- Redes LSTM de memoria a largo plazo1997
- AlexNet y la revolución del aprendizaje profundo2012
- Redes generativas antagónicas (GAN)2014
- Arquitectura transformer (Attention Is All You Need)2017
- Predicción de la estructura de proteínas por aprendizaje profundo (AlphaFold 2)2020-2021
- redes convolucionales