8.4. Visszacsatolt (rekurzív) hálózatok

Az előzőekben láttuk, hogy a dinamikus hálók az előrecsatolt struktúrákon kívül különféle visszacsatolt struktúrákkal is létrehozhatók. Sőt a visszacsatolt struktúra-osztályon belül tulajdonképpen lényegesen több lehetőségünk van konkrét visszacsatolt háló-architektúrák konstrukciójára.

A visszacsatolt architektúrák vizsgálatának, − a stabilitási kérdések vizsgálatán túl − az egyik legnehezebb, a háló tanításával is összefüggő kérdése, hogy miként oldjuk meg az időkezelést. A következőkben a rekurzív hálózatok két különböző tárgyalási megközelítésével foglalkozunk, ahol az időkezelés alapvetően eltérő módon történik. Az egyik megközelítés − hasonlóan az előrecsatolt időfüggő hálózatoknál alkalmazható eljáráshoz − a hálózat működésének időbeli kiterítésén alapul (back-propagation through time, BPTT) [Bea94], ahol a kiterített hálózat a standard statikus hibavisszaterjesztéses eljárással tanítható; a másik megközelítés esetén a tanítás a pillanatnyi gradiens felhasználásával lehetséges. Minthogy ez esetben minden lépésben végzünk tanítást, az eljárást valós idejű rekurzív tanításnak (real-time recurrent learning, RTRL) is nevezik.

8.4.1. Rekurzív háló időbeli kiterítése

A rekurzív háló időbeli kiterítése egy olyan módszer, amely lehetővé teszi, hogy egy visszacsatolt háló tanítására a hagyományos hibavisszaterjesztéses algoritmust alkalmazzuk [Rum86]. Minden visszacsatolásokat tartalmazó háló megfeleltethető egy tisztán előrecsatolt hálónak olyan módon, hogy az egyes processzáló elemek egymást követő időpillanatokbeli viselkedését egy processzáló elem-sorozattal helyettesítjük. E sorozat egyes elemei tehát ugyanannak a processzáló elemnek eltérő időpillanatokhoz tartozó állapotait reprezentálják, mintegy kiterítve a visszacsatolt hálózat működését az időben. A módszert, amely kisebb hálózatoknál jól alkalmazható, egy egyszerű példán keresztül mutatjuk be.

Legyen egy két processzáló elemből felépülő, teljesen visszacsatolt hálózatunk (8.6 (a) ábra). Az időbeli kiterítés eredményeképpen egy többrétegű, előrecsatolt hálót nyerünk (8.6 (b) ábra), amelynek minden egyes rétege egy-egy időpillanathoz tartozik (k=1,2,...). A háló sajátossága, hogy bár (az időablak méretétől függően) sok réteget és ennek megfelelő számú súlyt tartalmaz, a különböző rétegekhez tartozó súlyok azonos értékűek, hiszen fizikailag azonos súlyokról van szó.

Az előrecsatolt háló a standard hibavisszaterjesztéses eljárással tanítható azzal az eltéréssel, hogy minden lépésben nem módosíthatjuk a súlyokat, és a fizikai azonosság folytán a különböző rétegekbeli súlyokat sem módosíthatjuk egymástól függetlenül. Az egyes időpillanatokhoz tartozó kívánt válaszok azonban összevethetők a háló megfelelő időpillanatbeli tényleges kimenetével, így lépésenként meghatározható a hiba. A lépésenkénti hiba a kiterített hálónál rétegenkénti hibát jelent, tehát most hiba nem csak az utolsó réteg kimenetén, hanem minden réteg kimenetén megadható. A súlymódosításhoz ezeket a hibákat kell a keletkezési helyüknek megfelelő rétegtől visszaterjeszteni. Szemben azonban a normál hibavisszaterjesztéses eljárással, ahol az egyes visszaterjesztések eredményeképpen eltérő súlyok módosítását végezzük, itt ugyanazon súlyokról van szó. Ezért a súlyok módosítása az összes rétegen csak egyszerre és azonos mértékben lehetséges. A szokásos eljárás, hogy a visszaterjesztésekből származó súlymódosítás-értékeket összegezzük, és az eredménnyel módosítjuk a súlyokat: az azonos indexű súlyokat egyformán, bármely rétegben is találhatók.

8.6. ábra - Egy két processzáló elemből álló teljesen visszacsatolt hálózat (a), és időben kiterített előrecsatolt megfelelője (BPTT) (b).
Egy két processzáló elemből álló teljesen visszacsatolt hálózat (a), és időben kiterített előrecsatolt megfelelője (BPTT) (b).

Az eljárás fő hátránya a viszonylag nagy számítás- és tárolási kapacitás-igény. Az eredeti háló-méret annyiszorosával kell ugyanis dolgoznunk, ahány időlépésig kiterítettük a hálót. Természetesen a processzáló elemek többszörözése csak a tanítási fázisban szükséges, a megtanított hálót már mint rekurzív hálót működtetjük. További hátrány, hogy a hálózat valós időben nem tanítható, az egyes súlykorrekciók mindig az időablaknak megfelelő számú lépés után végezhetők el.

8.1 példa

A következőkben a rekurzív háló időbeli kiterítésének egy klasszikus alkalmazási példáját mutatjuk be. A megoldandó feladat része annak a példasorozatnak, amelyet Bernard Widrow és munkatársai dolgoztak ki annak bemutatására, hogy különböző egyszerűbb irányítási feladatokat hogyan lehet neuronhálóval megoldani.

A megoldandó feladat, hogy egy pótkocsis teherautót adott kezdeti pozícióból hátramenetben adott végpozícióba juttassunk, mégpedig úgy, hogy az autó kormányát egy neurális kontroller vezérli. Az autótolatós feladat (truck backer-upper problem) a 8.7 ábrán követhető [Ngu89]. Az ábrán az [xp,yp] pont jelöli a pótkocsi kezdeti referencia pontját. Ebből a pontból kell kizárólag hátramenetben eljuttatni az autót az [0,0] koordinátájú pontba (az ábrán szaggatott vonallal jelzett pozíció), azt is biztosítva, hogy a végpozícióban legalább a pótkocsi álljon az x tengely irányában (a végpozícióban a θp szög legyen nulla).

8.7. ábra - Az autótolatós feladat vázlata
Az autótolatós feladat vázlata

A kontroller bemenetként a kiinduló, illetve az aktuális pozíció paramétereit kapja x=[xp,yp,xv,yvθpv,]T, ahol xv,yv a vezetőfülke pozíciója és θv a vezetőfülke szöge. A kontroller feladata, hogy a kormányt a megfelelő szögbe állítsa be, vagyis θk értékét kell, hogy meghatározza. Feltételezzük, hogy a teherautó elemi tolató lépéseket tesz, és egy elemi lépés alatt a kormány helyzete rögzített. Egy elemi lépés tehát adott kiinduló pozícióból egy következő pozíciót eredményez. Az eredeti feladat-megfogalmazásban egy autó-pozíció jellemzésére a fenti hatelemű x vektor szolgált.

A kontroller létrehozásához előbb a kocsi modelljét kell létrehozni. Egy neurális modellhez egy nyolc-bemenetű (a pozíciót megadó hat állapotjellemző, a kormány-beállítás szöge és a szokásos eltolásérték (bias)), hat-kimenetű hálóra van szükség. A kocsi modelljének birtokában már létrehozható a kontroller-modell együttes (8.8 ábra). A kontroller feladata, hogy az x(k) pillanatnyi állapot alapján meghatározza a következő lépésben szükséges θk kormánybeállítást, a modell pedig a pillanatnyi állapot és a kormányszög alapján meghatározza az x(k+1) következő állapotot. A következő lépésnél ez képezi a kiinduló állapotot, tehát x(k+1)-et egy elemi késleltetés közbeiktatásával vissza kell csatolni a kontroller bemenetére. A teljes elrendezés egy olyan visszacsatolt hálózat, melyben a modell egy már megtanított fix hálózat, a kontroller pedig egy olyan háló, melyet még meg kell tanítani a megfelelő működésre. A tanítás az időbeli kiterítés elvét alkalmazva, tehát BPTT megközelítésben lehetséges.

Ha K időlépésig működtetjük a tanításnál a modell-kontroller együttest, akkor az időbeli kiterítés szerint a fenti elrendezést K-szor meg kell ismételni, ahogy ezt a 8.9 ábra mutatja. Az ábrán a C-vel jelölt blokkok jelentik a kontrollert az M-mel jelöltek pedig a modellt.

A BPTT itteni alkalmazása csak annyiban tér el az általános megoldástól, hogy míg az általános esetben minden lépésben, az autótolatós feladatnál csak az utolsó, K-adik lépésben tudunk hibát meghatározni. Ezt kell visszaterjeszteni a teljes láncon. A súlymódosítás tényleges elvégzése az időbeli kiterítés elvének bemutatásánál mondottak figyelembevételével lehetséges.

8.8. ábra - A modell-kontroller együttes. Az ábrán Δ egylépéses késleltetést jelöl.
A modell-kontroller együttes. Az ábrán Δ egylépéses késleltetést jelöl.

A kontroller tanítása úgy történik, hogy egy kezdeti helyzetből indulva megteszünk K tolató lépést, majd meghatározzuk a végpozíció hibáját. Ezt a hibát visszaterjesztve a teljes láncon egy tolatási szekvenciához tartozó súlymódosítás elvégezhető. Kellő számú tolatási szekvenciával történő tanítás után a háló adott tartományon belül bármely kezdeti helyzetből képes a kocsit a végpozícióba vezérelni.

8.9. ábra - A BPTT megközelítés alkalmazása az autótolatós feladatra
A BPTT megközelítés alkalmazása az autótolatós feladatra

A 8.10 ábra a feladat bonyolultabb változatának egy tipikus eredményét mutatja [Wid90b]. A bonyolultabb változatban a vezetőfülke mögött két pótkocsi van.

8.10. ábra - A két pótkocsis teherautó tolatási feladat egy tipikus eredménye
A két pótkocsis teherautó tolatási feladat egy tipikus eredménye

8.4.2. Rekurzív hálók tanítása pillanatnyi gradiens alapján

Az alábbiakban olyan, visszacsatolt háló-architektúrákra alkalmazható tanulási eljárást mutatunk be, mely a pillanatnyi gradiens alapján valós idejű, lépésenkénti tanítást tesz lehetővé [Wil89].

A háló felépítését a 8.11 ábra mutatja. Látható, hogy ez valójában egy globális visszacsatolást tartalmazó háló, hiszen a háló kimenetéről is van visszacsatolás a háló bemenetére, ugyanakkor a háló lokális visszacsatolásokat is tartalmazhat, mivel a statikus háló-kimenetek nem mindegyike képezi a teljes háló kimenetét. Ha az általános modell-struktúrák szerint kategorizáljuk a hálózatot, akkor az alapjában egy NOE struktúrának tekinthető. Ha azonban figyelembe vesszük, hogy van olyan processzáló eleme is, amelyről történik visszacsatolás, de amely közben nem képezi a háló kimenetét, akkor a hálót egy más modell-osztályba tartozónak is tekinthetjük. A visszacsatolt, de a kimenetre ki nem jutó PE-k a háló belső állapotait reprezentálják, így egy nemlineáris állapotteres modellmegadás látszik e struktúra jellemzésére a legalkalmasabbnak.

A rekurzív háló emlékezettel rendelkezik, tehát egy bemeneti szekvenciára egy kimeneti szekvenciával válaszol. A kimenet a (k+1)MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaWaaeWaaeaacaWGRbGaey4kaSIaaGymaaGaayjkaiaawMcaaaaa@39EA@ -edik időpillanatban a visszacsatolás miatt a következő:

yi(k+1)=f[x(k),y(k)]MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaamyEamaaBaaaleaacaWGPbaabeaakmaabmaabaGaam4AaiabgUcaRiaaigdaaiaawIcacaGLPaaacqGH9aqpcaWGMbWaamWaaeaacaWH4bWaaeWaaeaacaWGRbaacaGLOaGaayzkaaGaaiilaiaahMhadaqadaqaaiaadUgaaiaawIcacaGLPaaaaiaawUfacaGLDbaaaaa@4794@ . (8.39)

8.11. ábra - Rekurzív háló architektúra
Rekurzív háló architektúra

Az egységes kezelés érdekében vezessük be a következő jelölést. Jelöljük az előrecsatolt háló-rész i-edik bemeneti komponensét ui(k)MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaamyDamaaBaaaleaacaWGPbaabeaakmaabmaabaGaam4AaaGaayjkaiaawMcaaaaa@3A6B@ -val:

ui(k)={xi(k)haiAyi(k)haiBMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaebbnrfifHhDYfgasaacH8qrps0lbbf9q8WrFfeuY=Hhbbf9v8qqaqFr0xc9pk0xbba9q8WqFfea0=yr0RYxir=Jbba9q8aq0=yq=He9q8qqQ8frFve9Fve9Ff0dmeaabaqaciGacaGaaeqabaqadeaadaaakeaacaWG1bWaaSbaaSqaaiaadMgaaeqaaOWaaeWaaeaacaWGRbaacaGLOaGaayzkaaGaeyypa0ZaaiqaaeaafaqabeGabaaabaGaamiEamaaBaaaleaacaWGPbaabeaakmaabmaabaGaam4AaaGaayjkaiaawMcaaiaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaeiAaiaayIW7caqGHbGaaGjcVlaayIW7caaMi8UaaGjcVlaadMgacqGHiiIZcaqIbbaabaGaamyEamaaBaaaleaacaWGPbaabeaakmaabmaabaGaam4AaaGaayjkaiaawMcaaiaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caqGObGaaeyyaiaayIW7caaMi8UaaGjcVlaayIW7caWGPbGaeyicI4SaaKOqaaaaaiaawUhaaaaa@A045@ (8.40)

ahol A jelöli a bementi indexek halmazát, B a háló azon processzáló elemeinek index-halmazát, mely processzáló elemek kimenetét visszacsatoljuk. Ezzel a háló kimenete

yi(k+1)=f[si(k)]=f[jABwijuj(k)]  MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaebbnrfifHhDYfgasaacH8qrps0lbbf9q8WrFfeuY=Hhbbf9v8qqaqFr0xc9pk0xbba9q8WqFfea0=yr0RYxir=Jbba9q8aq0=yq=He9q8qqQ8frFve9Fve9Ff0dmeaabaqaciGacaGaaeqabaqadeaadaaakeaacaWG5bWaaSbaaSqaaiaadMgaaeqaaOWaaeWaaeaacaWGRbGaey4kaSIaaGymaaGaayjkaiaawMcaaiabg2da9iaadAgadaWadaqaaiaadohadaWgaaWcbaGaamyAaaqabaGcdaqadaqaaiaadUgaaiaawIcacaGLPaaaaiaawUfacaGLDbaacqGH9aqpcaWGMbWaamWaaeaadaaeqbqaaiaadEhadaWgaaWcbaGaamyAaiaadQgaaeqaaOGaaGjcVlaayIW7caWG1bWaaSbaaSqaaiaadQgaaeqaaOWaaeWaaeaacaWGRbaacaGLOaGaayzkaaaaleaacaWGQbGaeyicI4SaaKyqaiabgQIiilaajkeaaeqaniabggHiLdaakiaawUfacaGLDbaacaqGGaGaaeiiaaaa@5816@ , (8.41)

vagy az eredeti jelölésekkel

yi(k+1)=f[jAwijxj(k)+jBwijyj(k)]  MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaebbnrfifHhDYfgasaacH8qrps0lbbf9q8WrFfeuY=Hhbbf9v8qqaqFr0xc9pk0xbba9q8WqFfea0=yr0RYxir=Jbba9q8aq0=yq=He9q8qqQ8frFve9Fve9Ff0dmeaabaqaciGacaGaaeqabaqadeaadaaakeaacaWG5bWaaSbaaSqaaiaadMgaaeqaaOWaaeWaaeaacaWGRbGaey4kaSIaaGymaaGaayjkaiaawMcaaiabg2da9iaadAgadaWadaqaamaaqafabaGaam4DamaaBaaaleaacaWGPbGaamOAaaqabaGccaaMi8UaaGjcVlaadIhadaWgaaWcbaGaamOAaaqabaGcdaqadaqaaiaadUgaaiaawIcacaGLPaaacqGHRaWkdaaeqbqaaiaadEhadaWgaaWcbaGaamyAaiaadQgaaeqaaOGaamyEamaaBaaaleaacaWGQbaabeaakmaabmaabaGaam4AaaGaayjkaiaawMcaaaWcbaGaamOAaiabgIGiolaajkeaaeqaniabggHiLdaaleaacaWGQbGaeyicI4SaaKyqaaqab0GaeyyeIuoaaOGaay5waiaaw2faaiaabccacaqGGaaaaa@5B24@ (8.42)

A hiba a háló azon kimenetein értelmezhető, amelyeknél kívánt választ specifikálunk. Vagyis a hibakomponensek a k-adik időpillanatban:

εi2(k)={(di(k)yi(k))2     ha iC(k)0                          egyébkéntMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaebbnrfifHhDYfgasaacH8qrps0lbbf9q8WrFfeuY=Hhbbf9v8qqaqFr0xc9pk0xbba9q8WqFfea0=yr0RYxir=Jbba9q8aq0=yq=He9q8qqQ8frFve9Fve9Ff0dmeaabaqaciGacaGaaeqabaqadeaadaaakeaacqaH1oqzdaqhaaWcbaGaamyAaaqaaiaaikdaaaGcdaqadaqaaiaadUgaaiaawIcacaGLPaaacqGH9aqpdaGabaqaauaabeqaceaaaeaadaqadaqaaiaadsgadaWgaaWcbaGaamyAaaqabaGcdaqadaqaaiaadUgaaiaawIcacaGLPaaacqGHsislcaWG5bWaaSbaaSqaaiaadMgaaeqaaOWaaeWaaeaacaWGRbaacaGLOaGaayzkaaaacaGLOaGaayzkaaWaaWbaaSqabeaacaaIYaaaaOGaaeiiaiaabccacaqGGaGaaeiiaiaabccacaqGObGaaeyyaiaabccacaWGPbGaeyicI4SaaK4qamaabmaabaGaam4AaaGaayjkaiaawMcaaaqaaiaaicdacaqGGaGaaeiiaiaabccacaqGGaGaaeiiaiaabccacaqGGaGaaeiiaiaabccacaqGGaGaaeiiaiaabccacaqGGaGaaeiiaiaabccacaqGGaGaaeiiaiaabccacaqGGaGaaeiiaiaabccacaqGGaGaaeiiaiaabccacaqGGaGaaeiiaiaabwgacaqGNbGaaeyEaiaabMoacaqGIbGaae4AaiaabMoacaqGUbGaaeiDaaaaaiaawUhaaaaa@6C56@ (8.43)

Itt C(k) jelöli azon processzáló elem-indexek halmazát, amelyekre kívánt választ specifikálunk a k-adik lépésben. A halmaz lépésfüggő megadása azt jelenti, hogy időlépésenként eltérő neuronokhoz rendelhetünk kívánt választ.

Az eredő pillanatnyi hiba a hibakomponensek összege:

ε2(k)=iC(k)εi2(k)MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaebbnrfifHhDYfgasaacH8qrps0lbbf9q8WrFfeuY=Hhbbf9v8qqaqFr0xc9pk0xbba9q8WqFfea0=yr0RYxir=Jbba9q8aq0=yq=He9q8qqQ8frFve9Fve9Ff0dmeaabaqaciGacaGaaeqabaqadeaadaaakeaacqaH1oqzdaahaaWcbeqaaiaaikdaaaGcdaqadaqaaiaadUgaaiaawIcacaGLPaaacqGH9aqpdaaeqbqaaiabew7aLnaaDaaaleaacaWGPbaabaGaaGOmaaaakmaabmaabaGaam4AaaGaayjkaiaawMcaaaWcbaGaamyAaiabgIGiolaajoeacaGGOaGaam4AaiaacMcaaeqaniabggHiLdaaaa@4561@ (8.44)

A megfelelő működés eléréséhez a tanítás során a teljes szekvencia alatti eredő hibát, vagyis a pillanatnyi hibák teljes szekvenciára, mint időablakra vett összegét kell minimalizálnunk.

ε2=k=1Κε2(k)MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaeqyTdu2aaWbaaSqabeaacaaIYaaaaOGaeyypa0ZaaabCaeaacqaH1oqzdaahaaWcbeqaaiaaikdaaaGcdaqadaqaaiaadUgaaiaawIcacaGLPaaaaSqaaiaadUgacqGH9aqpcaaIXaaabaacciGae8NMdSeaniabggHiLdaaaa@44F3@ (8.45)

A gradiens módszer alkalmazásakor ennek a teljes hibának a súlymátrix szerinti gradiensét:

ε2W=kε2(k)WMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaWaaSaaaeaacqGHciITcqaH1oqzdaahaaWcbeqaaiaaikdaaaaakeaacqGHciITcaaMc8UaaC4vaaaacqGH9aqpdaaeqbqaamaalaaabaGaeyOaIyRaeqyTdu2aaWbaaSqabeaacaaIYaaaaOWaaeWaaeaacaWGRbaacaGLOaGaayzkaaaabaGaeyOaIyRaaGPaVlaahEfaaaaaleaacaWGRbaabeqdcqGHris5aaaa@4C28@ (8.46)

kell meghatároznunk és a szokásos módon, a negatív gradiens irányában kell változtatnunk a súlyokat. A gradiens számítás az egyes időpillanatokbeli gradiens számítás felhasználásával elvégezhető. Ennek megfelelően minden egyes időpillanathoz tartozik egy súlymódosítás, és ezen súlymódosítások adott időablakra vett összege adja a tényleges súlymódosítás értékét. Itt súlykorrekció nyilvánvalóan nem történhet minden időpillanatban, hiszen az időablakon belüli hibameghatározás és súlykorrekció-számítás feltételezi, hogy közben a súlyok nem változnak, tehát a háló ezen időlépések alatt rögzített. A tanítást szakaszosan végezzük, egy szakaszban tulajdonképpen az összes tanítópontot, tehát a teljes tanítószekvenciát egyszer felhasználjuk.

Az időablakra számított teljes hiba alapján történő tanítás tehát − hasonlóan az előző pontban bemutatott tanításhoz − nem végezhető el valós időben. A valós idejű hálózat-módosításhoz a pillanatnyi hiba gradiensét minden egyes lépésben kiszámítjuk és minden lépésben el is végezzük a súlyok módosítását. Ez azt jelenti, hogy a háló "emlékezetének" ideje alatt is változik maga a háló, igazában tehát nem a valódi gradiens irányában történik a súlymódosítás. E módszer a legmeredekebb lejtő eljárásnak csupán közelítését adja. Az eltérés a "valódi" és a közelítő gradiens között annál kisebb, minél óvatosabb a lépésenkénti súlymódosítás, tehát minél kisebb a tanulási tényező. Megfelelően kis μ alkalmazása esetén a valós idejű tanítás a valódi gradiens alapú tanítás jó közelítése lesz. Az eljárás előnye, hogy egyszerűbb, minden újabb tanítópont felhasználásánál azonos módon kell eljárnunk, nem kell tárolnunk, illetve akkumulálnunk az egyes lépésekhez tartozó súlymódosító értékeket, nem kell blokkosan végezzük a tanítást. A súlymódosítás alapösszefüggései a kétféle megközelítésben azonosak, különbség tehát csak az elemi súlymódosítások felhasználásában van. A módszer alkalmazhatóságát szimulációs vizsgálatok és gyakorlati alkalmazások igazolják. Az alábbiakban a tanítási összefüggések származtatását mutatjuk be.

A súlykomponensekre vonatkoztatott pillanatnyi gradiens az alábbi formában határozható meg:

ε2(k)wij=lCεl2(k)wijMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaebbnrfifHhDYfgasaacH8qrps0lbbf9q8WrFfeuY=Hhbbf9v8qqaqFr0xc9pk0xbba9q8WqFfea0=yr0RYxir=Jbba9q8aq0=yq=He9q8qqQ8frFve9Fve9Ff0dmeaabaqaciGacaGaaeqabaqadeaadaaakeaadaWcaaqaaiabgkGi2kaaykW7cqaH1oqzdaahaaWcbeqaaiaaikdaaaGcdaqadaqaaiaadUgaaiaawIcacaGLPaaaaeaacqGHciITcaaMc8Uaam4DamaaBaaaleaacaWGPbGaamOAaaqabaaaaOGaeyypa0ZaaabuaeaadaWcaaqaaiabgkGi2kaaykW7cqaH1oqzdaqhaaWcbaGaamiBaaqaaiaaikdaaaGcdaqadaqaaiaadUgaaiaawIcacaGLPaaaaeaacqGHciITcaaMc8Uaam4DamaaBaaaleaacaWGPbGaamOAaaqabaaaaaqaaiaadYgacqGHiiIZcaqIdbaabeqdcqGHris5aaaa@550B@ (8.47)

A megfelelő súly módosítását meghatározó összefüggés:

Δwij(k)=με2(k)wijMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaeuiLdqKaam4DamaaBaaaleaacaWGPbGaamOAaaqabaGcdaqadaqaaiaadUgaaiaawIcacaGLPaaacqGH9aqpcqGHsislcqaH8oqBdaWcaaqaaiabgkGi2kaaykW7cqaH1oqzdaahaaWcbeqaaiaaikdaaaGcdaqadaqaaiaadUgaaiaawIcacaGLPaaaaeaacqGHciITcaaMc8Uaam4DamaaBaaaleaacaWGPbGaamOAaaqabaaaaaaa@4E75@ , (8.48)

ahol μ most is a tanulási tényező (bátorsági faktor). A gradienst továbbírva kapjuk, hogy:

ε2(k)wij=2lCεl(k)εl(k)wij            =-2lCεl(k)yl(k)wijMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaebbnrfifHhDYfgasaacH8qrps0lbbf9q8WrFfeuY=Hhbbf9v8qqaqFr0xc9pk0xbba9q8WqFfea0=yr0RYxir=Jbba9q8aq0=yq=He9q8qqQ8frFve9Fve9Ff0dmeaabaqaciGacaGaaeqabaqadeaadaaakqaabeqaamaalaaabaGaeyOaIyRaeqyTdu2aaWbaaSqabeaacaaMi8UaaGOmaaaakmaabmaabaGaam4AaaGaayjkaiaawMcaaaqaaiabgkGi2kaadEhadaWgaaWcbaGaamyAaiaadQgaaeqaaaaakiabg2da9iaaikdadaaeqbqaaiabew7aLnaaBaaaleaacaWGSbaabeaakmaabmaabaGaam4AaaGaayjkaiaawMcaaaWcbaGaamiBaiabgIGiolaajoeaaeqaniabggHiLdGcdaWcaaqaaiabgkGi2kaaykW7cqaH1oqzdaWgaaWcbaGaamiBaaqabaGcdaqadaqaaiaadUgaaiaawIcacaGLPaaaaeaacqGHciITcaaMc8Uaam4DamaaBaaaleaacaWGPbGaamOAaaqabaaaaaGcbaGaaeiiaiaabccacaqGGaGaaeiiaiaabccacaqGGaGaaeiiaiaabccacaqGGaGaaeiiaiaabccacaqGGaGaaeypaiaab2cacaaIYaWaaabuaeaacqaH1oqzdaWgaaWcbaGaamiBaaqabaGcdaqadaqaaiaadUgaaiaawIcacaGLPaaaaSqaaiaadYgacqGHiiIZcaqIdbaabeqdcqGHris5aOWaaSaaaeaacqGHciITcaaMi8UaamyEamaaBaaaleaacaWGSbaabeaakmaabmaabaGaam4AaaGaayjkaiaawMcaaaqaaiabgkGi2kaayIW7caaMi8Uaam4DamaaBaaaleaacaWGPbGaamOAaaqabaaaaaaaaa@7CAB@ (8.49)

A yl(k)wijMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaWaaSaaaeaacqGHciITcaaMc8UaamyEamaaBaaaleaacaWGSbaabeaakmaabmaabaGaam4AaaGaayjkaiaawMcaaaqaaiabgkGi2kaaykW7caWG3bWaaSbaaSqaaiaadMgacaWGQbaabeaaaaaaaa@4369@ parciális deriváltat a háló dinamikáját leíró (8.41), ill. (8.42) egyenleteket figyelembe véve kapjuk meg:

yl(k+1)wij=f(sl(k))sl(k)wijMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaWaaSaaaeaacqGHciITcaaMi8UaamyEamaaBaaaleaacaWGSbaabeaakmaabmaabaGaam4AaiabgUcaRiaaigdaaiaawIcacaGLPaaaaeaacqGHciITcaaMi8Uaam4DamaaBaaaleaacaWGPbGaamOAaaqabaaaaOGaeyypa0JabmOzayaafaWaaeWaaeaacaWGZbWaaSbaaSqaaiaadYgaaeqaaOWaaeWaaeaacaWGRbaacaGLOaGaayzkaaaacaGLOaGaayzkaaWaaSaaaeaacqGHciITcaaMi8UaaGjcVlaadohadaWgaaWcbaGaamiBaaqabaGcdaqadaqaaiaadUgaaiaawIcacaGLPaaaaeaacqGHciITcaaMi8UaaGjcVlaadEhadaWgaaWcbaGaamyAaiaadQgaaeqaaaaaaaa@5DF7@ , (8.50)

ahol

sl(k)=rAwlrxr(k)+rBwlryr(k)=rABwlrur(k)MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaebbnrfifHhDYfgasaacH8qrps0lbbf9q8WrFfeuY=Hhbbf9v8qqaqFr0xc9pk0xbba9q8WqFfea0=yr0RYxir=Jbba9q8aq0=yq=He9q8qqQ8frFve9Fve9Ff0dmeaabaqaciGacaGaaeqabaqadeaadaaakeaacaWGZbWaaSbaaSqaaiaadYgaaeqaaOWaaeWaaeaacaWGRbaacaGLOaGaayzkaaGaeyypa0ZaaabuaeaacaWG3bWaaSbaaSqaaiaadYgacaWGYbaabeaaaeaacaWGYbGaeyicI4SaaKyqaaqab0GaeyyeIuoakiaaykW7caWG4bWaaSbaaSqaaiaadkhaaeqaaOWaaeWaaeaacaWGRbaacaGLOaGaayzkaaGaey4kaSYaaabuaeaacaWG3bWaaSbaaSqaaiaadYgacaWGYbaabeaaaeaacaWGYbGaeyicI4SaaKOqaaqab0GaeyyeIuoakiaadMhadaWgaaWcbaGaamOCaaqabaGcdaqadaqaaiaadUgaaiaawIcacaGLPaaacaaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7cqGH9aqpdaaeqbqaaiaadEhadaWgaaWcbaGaamiBaiaadkhaaeqaaOGaaGjcVlaayIW7caaMi8oaleaacaWGYbGaeyicI4SaaKyqaiabgQIiilaajkeaaeqaniabggHiLdGccaWG1bWaaSbaaSqaaiaadkhaaeqaaOWaaeWaaeaacaWGRbaacaGLOaGaayzkaaaaaa@729A@ . (8.51)

Tehát

yl(k+1)wij=f(sl(k))rAB[wlrur(k)]wij=f(sl(k))rAB[wlrwijur(k)+ur(k)wijwlr]MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaebbnrfifHhDYfgasaacH8qrps0lbbf9q8WrFfeuY=Hhbbf9v8qqaqFr0xc9pk0xbba9q8WqFfea0=yr0RYxir=Jbba9q8aq0=yq=He9q8qqQ8frFve9Fve9Ff0dmeaabaqaciGacaGaaeqabaqadeaadaaakqaabeqaaiaayIW7daWcaaqaaiabgkGi2kaayIW7caWG5bWaaSbaaSqaaiaadYgaaeqaaOWaaeWaaeaacaWGRbGaey4kaSIaaGymaaGaayjkaiaawMcaaaqaaiabgkGi2kaayIW7caaMi8Uaam4DamaaBaaaleaacaWGPbGaamOAaaqabaaaaOGaeyypa0JabmOzayaafaWaaeWaaeaacaWGZbWaaSbaaSqaaiaadYgaaeqaaOWaaeWaaeaacaWGRbaacaGLOaGaayzkaaaacaGLOaGaayzkaaWaaabuaeaadaWcaaqaaiabgkGi2kaayIW7caaMi8+aamWaaeaacaWG3bWaaSbaaSqaaiaadYgacaWGYbaabeaakiaayIW7caaMi8UaamyDamaaBaaaleaacaWGYbaabeaakmaabmaabaGaam4AaaGaayjkaiaawMcaaaGaay5waiaaw2faaaqaaiabgkGi2kaayIW7caaMi8Uaam4DamaaBaaaleaacaWGPbGaamOAaaqabaaaaaqaaiaadkhacqGHiiIZcaqIbbGaeyOkIGSaaKOqaaqab0GaeyyeIuoaaOqaaiaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8Uaeyypa0JabmOzayaafaWaaeWaaeaacaWGZbWaaSbaaSqaaiaadYgaaeqaaOWaaeWaaeaacaWGRbaacaGLOaGaayzkaaaacaGLOaGaayzkaaWaaabuaeaadaWadaqaamaalaaabaGaeyOaIyRaaGjcVlaayIW7caWG3bWaaSbaaSqaaiaadYgacaWGYbaabeaaaOqaaiabgkGi2kaayIW7caaMi8Uaam4DamaaBaaaleaacaWGPbGaamOAaaqabaaaaOGaamyDamaaBaaaleaacaWGYbaabeaakmaabmaabaGaam4AaaGaayjkaiaawMcaaiabgUcaRmaalaaabaGaeyOaIyRaaGjcVlaayIW7caWG1bWaaSbaaSqaaiaadkhaaeqaaOWaaeWaaeaacaWGRbaacaGLOaGaayzkaaaabaGaeyOaIyRaaGjcVlaayIW7caWG3bWaaSbaaSqaaiaadMgacaWGQbaabeaaaaGccaWG3bWaaSbaaSqaaiaadYgacaWGYbaabeaaaOGaay5waiaaw2faaaWcbaGaamOCaiabgIGiolaajgeacqGHQicYcaqIcbaabeqdcqGHris5aaaaaa@202B@ (8.52)

Felhasználva, hogy wlrwij=1MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaWaaSaaaeaacqGHciITcaaMc8Uaam4DamaaBaaaleaacaWGSbGaamOCaaqabaaakeaacqGHciITcaaMc8Uaam4DamaaBaaaleaacaWGPbGaamOAaaqabaaaaOGaeyypa0JaaGymaaaa@43B0@ , ha l=i és r=j, egyébként a két súly között nincs kapcsolat, tehát a derivált értéke 0:

wlrwij=δliMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaWaaSaaaeaacqGHciITcaaMc8Uaam4DamaaBaaaleaacaWGSbGaamOCaaqabaaakeaacqGHciITcaaMc8Uaam4DamaaBaaaleaacaWGPbGaamOAaaqabaaaaOGaeyypa0JaeqiTdq2aaSbaaSqaaiaadYgacaWGPbaabeaaaaa@46A5@ , (8.53)

ha r=j, (itt δli a Kronecker delta) és hogy

ur(k)wij={0harAyr(k)wijharB,MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaebbnrfifHhDYfgasaacH8qrps0lbbf9q8WrFfeuY=Hhbbf9v8qqaqFr0xc9pk0xbba9q8WqFfea0=yr0RYxir=Jbba9q8aq0=yq=He9q8qqQ8frFve9Fve9Ff0dmeaabaqaciGacaGaaeqabaqadeaadaaakeaadaWcaaqaaiabgkGi2kaayIW7caaMi8UaamyDamaaBaaaleaacaWGYbaabeaakmaabmaabaGaam4AaaGaayjkaiaawMcaaaqaaiabgkGi2kaayIW7caaMi8Uaam4DamaaBaaaleaacaWGPbGaamOAaaqabaaaaOGaeyypa0ZaaiqaaeaafaqabeGabaaabaGaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaaicdacaaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caqGObGaaeyyaiaaykW7caaMc8UaaGPaVlaayIW7caaMi8UaaGjcVlaadkhacqGHiiIZcaqIbbGaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7aeaadaWcaaqaaiabgkGi2kaayIW7caWG5bWaaSbaaSqaaiaadkhaaeqaaOWaaeWaaeaacaWGRbaacaGLOaGaayzkaaaabaGaeyOaIyRaaGjcVlaadEhadaWgaaWcbaGaamyAaiaadQgaaeqaaaaakiaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caqGObGaaeyyaiaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caWGYbGaeyicI4SaaKOqaerbbjxAHXgaiqWacaWFSaGaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7aaaacaGL7baaaaa@71F7@ (8.54)

yl(k+1)wij=f(sl(k))[rBwlryr(k)wij+δliuj(k)]  MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaebbnrfifHhDYfgasaacH8qrps0lbbf9q8WrFfeuY=Hhbbf9v8qqaqFr0xc9pk0xbba9q8WqFfea0=yr0RYxir=Jbba9q8aq0=yq=He9q8qqQ8frFve9Fve9Ff0dmeaabaqaciGacaGaaeqabaqadeaadaaakeaacaaMi8+aaSaaaeaacqGHciITcaaMi8UaaGjcVlaadMhadaWgaaWcbaGaamiBaaqabaGcdaqadaqaaiaadUgacqGHRaWkcaaIXaaacaGLOaGaayzkaaaabaGaeyOaIyRaam4DamaaBaaaleaacaWGPbGaamOAaaqabaaaaOGaeyypa0JabmOzayaafaWaaeWaaeaacaWGZbWaaSbaaSqaaiaadYgaaeqaaOWaaeWaaeaacaWGRbaacaGLOaGaayzkaaaacaGLOaGaayzkaaGaaGjcVlaayIW7caaMi8+aamWaaeaadaaeqbqaaiaadEhadaWgaaWcbaGaamiBaiaadkhaaeqaaOWaaSaaaeaacqGHciITcaaMi8UaamyEamaaBaaaleaacaWGYbaabeaakmaabmaabaGaam4AaaGaayjkaiaawMcaaaqaaiabgkGi2kaayIW7caaMi8Uaam4DamaaBaaaleaacaWGPbGaamOAaaqabaaaaOGaey4kaSIaeqiTdq2aaSbaaSqaaiaadYgacaWGPbaabeaakiaadwhadaWgaaWcbaGaamOAaaqabaGcdaqadaqaaiaadUgaaiaawIcacaGLPaaaaSqaaiaadkhacqGHiiIZcaqIcbaabeqdcqGHris5aaGccaGLBbGaayzxaaGaaeiiaiaabccaaaa@7382@ . (8.55)

Fenti összefüggés a parciális deriváltra egy rekurzív összefüggés, amelynek kiértékeléséhez természetes feltételezés, hogy a kiinduló érték

yl(0)wij=0MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaWaaSaaaeaacqGHciITcaaMc8UaamyEamaaBaaaleaacaWGSbaabeaakmaabmaabaGaaGimaaGaayjkaiaawMcaaaqaaiabgkGi2kaaykW7caWG3bWaaSbaaSqaaiaadMgacaWGQbaabeaaaaGccqGH9aqpcaaIWaaaaa@44FD@ . (8.56)

A lépésenkénti súlymódosítás a fentiek felhasználásával tehát:

wij(k+1)=wij(k)+2μlC{εl(k)f(sl(k))[rBwlryr(k)wij+δliuj(k)]}MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaebbnrfifHhDYfgasaacH8qrps0lbbf9q8WrFfeuY=Hhbbf9v8qqaqFr0xc9pk0xbba9q8WqFfea0=yr0RYxir=Jbba9q8aq0=yq=He9q8qqQ8frFve9Fve9Ff0dmeaabaqaciGacaGaaeqabaqadeaadaaakeaacaWG3bWaaSbaaSqaaiaadMgacaWGQbaabeaakmaabmaabaGaam4AaiabgUcaRiaaigdaaiaawIcacaGLPaaacqGH9aqpcaWG3bWaaSbaaSqaaiaadMgacaWGQbaabeaakmaabmaabaGaam4AaaGaayjkaiaawMcaaiabgUcaRiaaikdacqaH8oqBdaaeqbqaamaacmaabaGaeqyTdu2aaSbaaSqaaiaadYgaaeqaaOWaaeWaaeaacaWGRbaacaGLOaGaayzkaaGabmOzayaafaWaaeWaaeaacaWGZbWaaSbaaSqaaiaadYgaaeqaaOWaaeWaaeaacaWGRbaacaGLOaGaayzkaaaacaGLOaGaayzkaaGaaGPaVpaadmaabaWaaabuaeaacaWG3bWaaSbaaSqaaiaadYgacaWGYbaabeaakmaalaaabaGaeyOaIyRaaGjcVlaayIW7caWG5bWaaSbaaSqaaiaadkhaaeqaaOWaaeWaaeaacaWGRbaacaGLOaGaayzkaaaabaGaeyOaIyRaaGjcVlaayIW7caWG3bWaaSbaaSqaaiaadMgacaWGQbaabeaaaaGccqGHRaWkcqaH0oazdaWgaaWcbaGaamiBaiaadMgaaeqaaOGaamyDamaaBaaaleaacaWGQbaabeaakmaabmaabaGaam4AaaGaayjkaiaawMcaaaWcbaGaamOCaiabgIGiolaajkeaaeqaniabggHiLdaakiaawUfacaGLDbaaaiaawUhacaGL9baaaSqaaiaadYgacqGHiiIZcaqIdbaabeqdcqGHris5aaaa@7CAB@ , (8.57)

ahol iB,jAB,lC és rBMathType@MTEF@5@5@+=feaagCart1ev2aqatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaebbnrfifHhDYfgasaacH8qrps0lbbf9q8WrFfeuY=Hhbbf9v8qqaqFr0xc9pk0xbba9q8WqFfea0=yr0RYxir=Jbba9q8aq0=yq=He9q8qqQ8frFve9Fve9Ff0dmeaabaqaciGacaGaaeqabaqadeaadaaakeaacaWGPbGaeyicI4SaaKOqaiaacYcacaWGQbGaeyicI4SaaKyqaiabgQIiilaajkeacaGGSaGaamiBaiabgIGiolaajoeacaqGGaGaamy6aiaadohacaqGGaGaamOCaiabgIGiolaajkeaaaa@461E@.

A valós idejű eljárás hátránya, mint említettük, hogy nem pontosan a negatív gradiens mentén történnek a korrekciós lépések. Ez nagyon hasonló a standard hibavisszaterjesztéses eljárásnál alkalmazott módszerhez akkor, ha minden egyes tanítópont után végzünk súlymódosítást és nem csak a batch tanításanál szokásos módon, amikor csak a teljes tanító sorozatokat (epochokat) követően történik súlymódosítás.

A Ronald Williams és David Zipser által javasolt eljárásnak több módosított verzióját is kidolgozták. A valódi gradiens és a pillanatnyi gradiens alapján történő számítások közötti átmenet különösen akkor gyorsítja a konvergenciát, ha a hálóval feldolgozandó bemeneti jel-szekvencia nagyon hosszú. Tony Robinson és Frank Fallside [Rob91] olyan hálózat tanítására adott a fentiektől eltérő megoldást, ahol visszacsatolás a valódi kimenetekről − tehát amely neuronokhoz kívánt válaszokat is rendelünk − nincs, csupán a háló többi − valójában rejtett − neuronjának kimeneteit csatoljuk vissza.