Современный метод обратного распространения ошибки впервые описан Сеппо Линнайнмаа в 1970 году.
Предшественник метода предложен Генри Дж. Келли в 1960 году.
Первое журнале издание метода обратного распространения опубликовали Островский и соавторы в 1971 году.
Все современные пакеты для нейронных сетей (например, TensorFlow) используют метод Линнайнмаа.
Пионерские применения метода в нейронных сетях выполнены Дрейфусом (1973) и Вербосом (1982).
Амари ещё в 1967 году предлагал обучать глубокие сети стохастическим градиентным спуском «конец-в-конец».
Глубокие сети GMDH Иванхненко и Лапы (с 1965) были первыми, обучавшими иерархические представления.
Метод получил широкое распространение после демонстрации Циресаном и соавторами в 2010 году.
Get notified when new stories are published for "Hacker News 🇷🇺 Русский"