Mezcla de expertos
Mixture of experts
- Fecha
- 1991 · fiabilidad media
- Lugar
- Cambridge, Massachusetts, Estados Unidos
- Autoría
- Steven J. Nowlan, Michael I. Jordan, Robert A. Jacobs y Geoffrey Hinton
- Ámbito
- Saber y símbolos
Qué es
Arquitectura de aprendizaje automático que divide un problema entre varias subredes «expertas» especializadas, coordinadas por una red de compuerta que decide a cuál atender para cada entrada, propuesta por Robert Jacobs, Michael Jordan, Steven Nowlan y Geoffrey Hinton.
A qué dio paso
- forma temprana de aprendizaje por conjunto (ensemble learning) en redes neuronales
- base conceptual de los modelos de lenguaje dispersos («sparse MoE») actuales
- impulso a arquitecturas modulares y escalables de aprendizaje profundo