Il metodo moderno di backpropagation è stato pubblicato per la prima volta nel 1970 da Seppo Linnainmaa nella sua tesi di master.
Un precursore della backpropagation è stato descritto nel 1960 da Henry J. Kelley, ma la versione efficiente per reti neurali risale al lavoro di Linnainmaa.
La backpropagation corrisponde alla modalità inversa della differenziazione automatica, applicando efficacemente la regola della catena a reti di grandi dimensioni.
Negli anni seguenti, il metodo è stato implementato in software moderni (ad esempio TensorFlow) e adottato come standard per l’addestramento delle reti neurali profonde.
Fino al 2010 si riteneva necessario un pre‐addestramento non supervisionato per le reti profonde, ma è stato dimostrato che la backpropagation semplice era sufficiente per importanti applicazioni.
Get notified when new stories are published for "Hacker News 🇮🇹 Italiano"