11.2. A Boltzmann gépek

11.2.1. Problémák a Hopfield hálózat alkalmazásakor

Az előző fejezetben bemutattuk, hogy akár a Hebb-szabály alkalmazásával, akár egy alkalmas energiafüggvény megválasztásával a súlyok általában meghatározhatók úgy, hogy a tárolandó minták vonzási pontok legyenek a konfigurációs térben, azaz lokális minimumai legyenek a rendszerhez tartozó energiafüggvénynek. A hálózat egy (Hamming távolság értelemben) megfelelően közeli konfigurációból, a vonzási körzet valamely pontjából indítva, a dinamikus működés során a kívánt állapotban fog stabilizálódni.

Az ideális az volna, ha a teljes konfigurációs teret kitöltenék a tárolt minták és ezek vonzási körzetei, mivel így tetszőleges állapotból indítva a hálózatot, az a legjobban "hasonlító" tárolt mintára asszociálna. A helyzet természetesen nem ilyen szép. A tanított konfigurációkon kívül számos más vonzási pont is létezik. Ezek típusait igazolás nélkül ismertetjük:

• az összes tárolt minta inverzéhez (xi(α))MathType@MTEF@5@5@+=feaagCart1ev2aqatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaebbnrfifHhDYfgasaacH8YjY=vipgYlh9vqqj=hEeeu0xXdbba9frFj0=OqFfea0dXdd9vqai=hGuQ8kuc9pgc9q8qqaq=dir=f0=yqaiVgFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaaeWabaWaaaGcbaGaaiikaiabgkHiTiaadIhadaqhaaWcbaGaamyAaaqaaiaacIcacqaHXoqycaGGPaaaaOGaaiykaaaa@3911@ is lokális minimum tartozik,

• olyan ún. kevert állapotok is vonzási pontok, amelyek páratlan számú tárolt minta lineáris kombinációiból állíthatók elő. Például ilyenek az alábbi állapotok: aikevert=sgn(±ai(α1)±ai(α2)±ai(α3))MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqi=G0dg9qqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaamyyamaaDaaaleaacaWGPbaabaGaae4AaiaabwgacaqG2bGaaeyzaiaabkhacaqG0baaaOGaeyypa0Jaae4CaiaabEgacaqGUbGaaeikaiabgglaXkaadggadaqhaaWcbaGaamyAaaqaamaabmaabaGaeqySde2aaSbaaWqaaiaaigdaaeqaaaWccaGLOaGaayzkaaaaaOGaeyySaeRaamyyamaaDaaaleaacaWGPbaabaWaaeWaaeaacqaHXoqydaWgaaadbaGaaGOmaaqabaaaliaawIcacaGLPaaaaaGccqGHXcqScaWGHbWaa0baaSqaaiaadMgaaeaadaqadaqaaiabeg7aHnaaBaaameaacaaIZaaabeaaaSGaayjkaiaawMcaaaaakiaabMcaaaa@5A84@ ,

• nagyméretű hálózatokban viszonylagosan nagyszámú tanított minta esetén bizonyítható, hogy kialakulnak olyan lokális minimumok, amelyek nem korreláltak a minták semmilyen részhalmazával sem.

Bár az utóbbi két osztályba sorolt vonzási pontokhoz magasabb energiaértékek tartoznak és általában kisebb a vonzási körzetük is, a rendszer ezekben a hamis lokális minimumokban is stabilizálódhat. Célunk mindenképpen az, hogy elkerüljük a "nem kívánt" lokális minimumokba történő beragadást. A helyes, optimális megoldáshoz tartozó állapot megtalálása egy adott hálózat esetén a kiindulási konfigurációtól függ. A kezdeti állapot az alkalmazások többségében vagy adott, vagy nincs is információnk ennek megfelelő megválasztásáról, így a legtöbb alkalmazás esetében célszerű a Hopfield hálózat működési algoritmusának módosítása.

Az említett hátrányos tulajdonságok kiküszöbölésére többféle ötlet is adódik:

  • Ha a kiindulási konfiguráció nem adott, akkor a rendszert különböző kezdeti állapotokból indítva kereshetünk minél mélyebb energiájú megoldást.

  • A működési algoritmust úgy módosítjuk, hogy egyszerre (szinkron) több neuron is értéket válthasson, így a konfigurációs tér nagyobb részében végezzük el a keresést.

  • Hasonlóképpen megnöveli egy alacsony energiaszintű minimum megtalálásának esélyét, ha a neuronok működését sztochasztikussá tesszük. Ennek egy módja lehet, hogy korlátozott arányban olyan esetben is elfogadjuk a neuronok értékváltását, ha ettől a rendszer magasabb energiájú állapotba kerül.

A következő fejezetben olyan módszert mutatunk be, amely ez utóbbi lehetőséget használja a globális minimum, de legalábbis egy kis energiájú lokális minimum megtalálására.

11.2.2. Szimulált lehűtés

A lokális minimumok elkerülésére leggyakrabban az ún. szimulált lehűtés módszert alkalmazzák a Hopfield hálóknál. A hálózat ilyen kiterjesztését Boltzmann gépnek vagy szimulált lehűtés hálózatnak hívjuk [Aar89].

A módosítás alapgondolata, hogy változtassuk sztochasztikussá a minimum-keresési eljárást úgy, hogy az lehetőséget adjon a lokális minimumokból történő kikerülésre. Ezzel tulajdonképpen bizonytalanságot, azaz zajt viszünk be a folyamatba, ami "kiütheti" a kevésbé mély lokális minimumokból a rendszert, és így az nagyobb eséllyel stabilizálódhat a legmélyebb, globális minimumban [Pav05].

A módszer nevét a szilárd anyagok hőkezelésekor használt hasonló elvű módszerről kapta. Az anyagot először felhevítik, majd lassan lehűtik, és így nem a magasabb energiájú metastabil állapotokban, hanem a szabályos rácsszerkezethez tartozó alacsony energiájú állapotban szilárdul meg.

A szimulált lehűtés tehát a determinisztikus minimumkeresési eljárás helyett sztochasztikus keresést eredményez. A módszer alkalmazása a Hopfield hálózatok esetében a determinisztikus működésű neuronok sztochasztikus egységekkel való felváltását jelenti.

A modell neuronjainak működése egy sztochasztikus szabállyal írható le, amely meghatározza az értékváltások utáni lehetséges állapotok kialakulásának valószínűségét:

P(xi=±1)=fT(si)=11+exp(siT)  ,       ahol   si=jwijxj+ΘiMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqi=G0dg9qqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaamiuamaabmaabaGaamiEamaaBaaaleaacaWGPbaabeaakiabg2da9iabgglaXkaaigdaaiaawIcacaGLPaaacqGH9aqpcaWGMbWaaSbaaSqaaiaadsfaaeqaaOWaaeWaaeaacaWGZbWaaSbaaSqaaiaadMgaaeqaaaGccaGLOaGaayzkaaGaeyypa0ZaaSaaaeaacaaIXaaabaGaaGymaiabgUcaRiaabwgacaqG4bGaaeiCamaabmaabaWaaSaaaeaacqWItisBcaWGZbWaaSbaaSqaaiaadMgaaeqaaaGcbaGaamivaaaaaiaawIcacaGLPaaaaaGaaGzaVlaaygW7caqGGaGaaeiiaiaabYcacaqGGaGaaeiiaiaabccacaqGGaGaaeiiaiaabccacaqGGaGaaeyyaiaabIgacaqGVbGaaeiBaiaabccacaqGGaGaaeiiaiaadohadaWgaaWcbaGaamyAaaqabaGccqGH9aqpdaaeqbqaaiaadEhadaWgaaWcbaGaamyAaiaadQgaaeqaaOGaamiEamaaBaaaleaacaWGQbaabeaakiabgUcaRiabfI5arnaaBaaaleaacaWGPbaabeaaaeaacaWGQbaabeqdcqGHris5aaaa@6E25@ (11.21)

11.5. ábra - Különböző T értékekhez tartozó szigmoid karakterisztikák
Különböző T értékekhez tartozó szigmoid karakterisztikák

A neuronok véletlenszerű viselkedését szabályozó T paramétert az analógia alapján pszeudo-hőmérsékletnek, vagy csak egyszerűen hőmérsékletnek nevezik. A (11.21) szerinti szigmoid karakterisztika meredekségét a T paraméter határozza meg, magas T értéknél a karakterisztika lapos, míg ha a paraméter 0-hoz tart, akkor a görbe konvergál a determinisztikus hálózat transzfer függvényéhez, a (11.2) szerinti lépcsőfüggvényhez. Ez azt jelenti, hogy magas hőmérsékleten a neuronok a bemeneti gerjesztésüktől függetlenül véletlenszerűen váltanak értéket, míg a hőmérséklet paramétert csökkentve a rendszer egyre inkább a determinisztikus modellhez közelít. A hálózat működését most is tudjuk jellemezni az energiafüggvény felhasználásával. A Boltzmann gépnek a (11.21) definícióval ekvivalens leírása a következő:

P(xixi)=11+eΔET ,               ahol  ΔE=E(xi)E(xi)MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqi=G0dg9qqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaamiuamaabmaabaGaamiEamaaBaaaleaacaWGPbaabeaakiabgkziUkabgkHiTiaadIhadaWgaaWcbaGaamyAaaqabaaakiaawIcacaGLPaaacqGH9aqpdaWcaaqaaiaaigdaaeaacaaIXaGaey4kaSIaamyzamaaCaaaleqabaWaaSaaaeaacqqHuoarcaWGfbaabaGaamivaaaaaaaaaOGaaeiiaiaabYcacaqGGaGaaeiiaiaabccacaqGGaGaaeiiaiaabccacaqGGaGaaeiiaiaabccacaqGGaGaaeiiaiaabccacaqGGaGaaeiiaiaabccacaqGHbGaaeiAaiaab+gacaqGSbGaaeiiaiaabccacqqHuoarcaWGfbGaeyypa0JaamyramaabmaabaGaeyOeI0IaamiEamaaBaaaleaacaWGPbaabeaaaOGaayjkaiaawMcaaiabgkHiTiaadweadaqadaqaaiaadIhadaWgaaWcbaGaamyAaaqabaaakiaawIcacaGLPaaaaaa@6458@ (11.22)

Az energiaminimum elérését vagy megközelítését a fizikai analógia alapján a szimulált lehűtés módszerével végezzük. A rendszert egy magas kezdeti hőmérsékletről indítva, a hőmérséklet paraméter lassú csökkentése mellett működtetjük, míg a hálózat stabil állapotba nem kerül. Ha a rendszert megfelelően lassan hűtjük, akkor egy adott hőmérsékleten egyensúlyi állapotba kerül.

A kialakuló egyensúlyban a hálózat egy EkMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqi=G0dg9qqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaamyramaaBaaaleaacaWGRbaabeaaaaa@374F@ energiájú xkMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqi=G0dg9qqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaCiEamaaBaaaleaacaWGRbaabeaaaaa@3786@ állapotba való kerülésének valószínűségét a Boltzmann eloszlás írja le:

P(x=xk)=qk(T)=1Z(T)eEkTMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqi=G0dg9qqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaamiuamaabmaabaGaaCiEaiabg2da9iaahIhadaWgaaWcbaGaam4AaaqabaaakiaawIcacaGLPaaacqGH9aqpcaWGXbWaaSbaaSqaaiaadUgaaeqaaOWaaeWaaeaacaWGubaacaGLOaGaayzkaaGaeyypa0ZaaSaaaeaacaaIXaaabaGaamOwamaabmaabaGaamivaaGaayjkaiaawMcaaaaacaWGLbWaaWbaaSqabeaadaWcaaqaaiabgkHiTiaadweadaWgaaadbaGaam4AaaqabaaaleaacaWGubaaaaaaaaa@4B6A@ , (11.23)

ahol qk(T)MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqi=G0dg9qqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaamyCamaaBaaaleaacaWGRbaabeaakmaabmaabaGaamivaaGaayjkaiaawMcaaaaa@39E7@ stacionárius eloszlásban a Z(T) partíciós függvény definíciója egy az összes lehetséges állapoton elvégzett összegzés:

Z(T)=jeEjTMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqi=G0dg9qqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaamOwamaabmaabaGaamivaaGaayjkaiaawMcaaiabg2da9maaqafabaGaamyzamaaCaaaleqabaWaaSaaaeaacqGHsislcaWGfbWaaSbaaWqaaiaadQgaaeqaaaWcbaGaamivaaaaaaaabaGaamOAaaqab0GaeyyeIuoaaaa@4195@ (11.24)

Amennyiben a rendszer lehűtése során biztosítjuk az aktuális hőmérsékleten az egyensúlyi állapot kialakulását, akkor a hálózat konvergenciáját a következőképpen vizsgálhatjuk:

limT0qk(T)=limT0e-EkTje-EjT=limT0eEmin-EkTjeEmin-EjTMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqi=G0dg9qqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaWaaCbeaeaacaqGSbGaaeyAaiaab2gaaSqaaiaadsfacqGHsgIRcaaIWaaabeaakiaadccacaWGXbWaaSbaaSqaaiaadUgaaeqaaOWaaeWaaeaacaWGubaacaGLOaGaayzkaaGaeyypa0ZaaCbeaeaacaqGSbGaaeyAaiaab2gaaSqaaiaadsfacqGHsgIRcaaIWaaabeaakiaadccadaWcaaqaaiaadwgadaahaaWcbeqaamaalaaabaGaamylaiaadweadaWgaaadbaGaam4AaaqabaaaleaacaWGubaaaaaaaOqaamaaqafabaGaamyzamaaCaaaleqabaWaaSaaaeaacaWGTaGaamyramaaBaaameaacaWGQbaabeaaaSqaaiaadsfaaaaaaaqaaiaadQgaaeqaniabggHiLdaaaOGaeyypa0ZaaCbeaeaacaqGSbGaaeyAaiaab2gaaSqaaiaadsfacqGHsgIRcaaIWaaabeaakiaadccadaWcaaqaaiaadwgadaahaaWcbeqaamaalaaabaGaamyramaaBaaameaacaqGTbGaaeyAaiaab6gaaeqaaSGaamylaiaadweadaWgaaadbaGaam4AaaqabaaaleaacaWGubaaaaaaaOqaamaaqafabaGaamyzamaaCaaaleqabaWaaSaaaeaacaWGfbWaaSbaaWqaaiaab2gacaqGPbGaaeOBaaqabaWccaWGTaGaamyramaaBaaameaacaWGQbaabeaaaSqaaiaadsfaaaaaaaqaaiaadQgaaeqaniabggHiLdaaaaaa@7204@ (11.25)

A zérus hőmérséklethez tartozó határértéket külön felírva az EminMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqi=G0dg9qqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaamyramaaBaaaleaacaqGTbGaaeyAaiaab6gaaeqaaaaa@392C@ energiaminimummal rendelkező xkXminMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqi=G0dg9qqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaCiEamaaBaaaleaacaWGRbaabeaakiabgIGiolaadIfadaWgaaWcbaGaaeyBaiaabMgacaqGUbaabeaaaaa@3CEA@ globális minimumhelyekhez tartozó állapotokra és az Ek>EminMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqi=G0dg9qqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaamyramaaBaaaleaacaWGRbaabeaakiabg6da+iaadweadaWgaaWcbaGaaeyBaiaabMgacaqGUbaabeaaaaa@3C24@ energiájú xkXminMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqi=G0dg9qqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaCiEamaaBaaaleaacaWGRbaabeaakiabgMGiplaadIfadaWgaaWcbaGaaeyBaiaabMgacaqGUbaabeaaaaa@3CEC@ állapotokra a következőket kapjuk:

xkXmin:       limT0qk(T)=limT01jeEmin-EjT=1|Xmin|xkXmin:       limT0qk(T)=limT0eEmin-EkTjeEmin-EjT=0MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqi=G0dg9qqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGceaqabeaacqGHaiIicaWH4bWaaSbaaSqaaiaadUgaaeqaaOGaeyicI4SaamiwamaaBaaaleaacaqGTbGaaeyAaiaab6gaaeqaaOGaaiOoaiaabccacaqGGaGaaeiiaiaabccacaqGGaGaaeiiaiaabccadaWfqaqaaiaabYgacaqGPbGaaeyBaaWcbaGaamivaiabgkziUkaaicdaaeqaaOGaamiiaiaadghadaWgaaWcbaGaam4AaaqabaGcdaqadaqaaiaadsfaaiaawIcacaGLPaaacqGH9aqpdaWfqaqaaiaabYgacaqGPbGaaeyBaaWcbaGaamivaiabgkziUkaaicdaaeqaaOGaamiiamaalaaabaGaaGymaaqaamaaqafabaGaamyzamaaCaaaleqabaWaaSaaaeaacaWGfbWaaSbaaWqaaiaab2gacaqGPbGaaeOBaaqabaWccaWGTaGaamyramaaBaaameaacaWGQbaabeaaaSqaaiaadsfaaaaaaaqaaiaadQgaaeqaniabggHiLdaaaOGaeyypa0ZaaSaaaeaacaaIXaaabaWaaqWaaeaacaWGybWaaSbaaSqaaiaab2gacaqGPbGaaeOBaaqabaaakiaawEa7caGLiWoaaaaabaGaeyiaIiIaaCiEamaaBaaaleaacaWGRbaabeaakiabgMGiplaadIfadaWgaaWcbaGaaeyBaiaabMgacaqGUbaabeaakiaacQdacaqGGaGaaeiiaiaabccacaqGGaGaaeiiaiaabccacaqGGaWaaCbeaeaacaqGSbGaaeyAaiaab2gaaSqaaiaadsfacqGHsgIRcaaIWaaabeaakiaadccacaWGXbWaaSbaaSqaaiaadUgaaeqaaOWaaeWaaeaacaWGubaacaGLOaGaayzkaaGaeyypa0ZaaCbeaeaacaqGSbGaaeyAaiaab2gaaSqaaiaadsfacqGHsgIRcaaIWaaabeaakiaadccadaWcaaqaaiaadwgadaahaaWcbeqaamaalaaabaGaamyramaaBaaameaacaqGTbGaaeyAaiaab6gaaeqaaSGaamylaiaadweadaWgaaadbaGaam4AaaqabaaaleaacaWGubaaaaaaaOqaamaaqafabaGaamyzamaaCaaaleqabaWaaSaaaeaacaWGfbWaaSbaaWqaaiaab2gacaqGPbGaaeOBaaqabaWccaWGTaGaamyramaaBaaameaacaWGQbaabeaaaSqaaiaadsfaaaaaaaqaaiaadQgaaeqaniabggHiLdaaaOGaeyypa0JaaGimaaaaaa@A353@ (11.26)

Tehát a hálózat a szimulált lehűtés ideális alkalmazásával aszimptotikusan konvergál az optimális megoldásokhoz tartozó állapotok halmazába, azaz az eljárás mentes a lokális minimumba való beragadás problémájától. Az alkalmazások szempontjából azonban fontos, hogy véges idejű lehűtést alkalmazhassunk. A szimulált lehűtés algoritmus tulajdonságai ilyen szempontból is kedvezőek. A lehűtés során az optimális megoldáshoz tartozó állapotba kerülés valószínűsége folyamatosan nő a hőmérséklet csökkentésével, ugyanakkor minden más állapothoz található egy olyan hőmérséklet küszöb érték, ami alatt az adott állapot előfordulási gyakorisága monoton csökken. Ez az eredmény az aktuális hőmérsékletekhez tartozó egyensúlyi állapotokra vonatkozik. Azonban általánosan is igaz, véges idejű lehűtés esetére is, hogy minél lassabb lehűtést alkalmazunk, annál nagyobb a valószínűsége annak, hogy a hálózat alacsony energiájú állapotba kerül.

A Boltzmann hálózat gyakorlati alkalmazásához meg kell határozni a hőmérséklet paraméter változatásának algoritmusát, az ún. lehűtési stratégiát. A lehűtési stratégia a következő elemeket tartalmazza:

• kezdeti hőmérséklet (T0)MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqi=G0dg9qqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaWaaeWaaeaacaWGubWaaSbaaSqaaiaaicdaaeqaaaGccaGLOaGaayzkaaaaaa@38BB@

-A rendszert olyan magas hőmérsékletről indítjuk, amelyen a neuronok véletlenszerűen változtatják állapotukat. A hőmérséklet csökkentését azonnal meg lehet kezdeni, mivel ezen a hőmérsékleten a rendszer kezdettől fogva egyensúlyi állapotban van.

• lehűtés szabályozó függvény, amelynek 2 komponense a következő:

-Az adott hőmérsékleten elvégzendő állapotváltozások száma,

-A hőmérséklet csökkentésének mértéke.

-A lehűtés sebességét meghatározó függvény paramétereit a feladat megoldására rendelkezésre álló idő és az adott számítási környezet által meghatározott állapotváltozási sebesség korlátozza a gyakorlatban. Egy elterjedt heurisztikus módszer, hogy a hálózat méretének kisszámú többszöröse számú (tipikusan 3N-15N) neuron frissítése történjen meg egy adott hőmérsékleten, majd a hőmérsékletet egy 1-hez közeli faktorral szorozva csökkentjük ( Tk+1=cTkMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqi=G0dg9qqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaamivamaaBaaaleaacaWGRbGaey4kaSIaaGymaaqabaGccqGH9aqpcaWGJbGaamivamaaBaaaleaacaWGRbaabeaaaaa@3CE8@ ), ahol c értéke általában 0.8 és 0.99 közötti).

• megállási feltétel

-A szimulációt akkor lehet befejezni, ha a rendszer energiája nem változik egy megfelelően hosszú iteráció során. Mivel a hőmérséklet csökkentésének módszere általában olyan, hogy ez az érték aszimptotikusan konvergál a 0-hoz, ezért a minimumhelyekből való kijutás mindvégig lehetséges. Alacsony hőmérsékletnél azonban ez a valószínűség már olyan kicsi, hogy feltételezhető, hogy a rendszer egy stabil állapotot talált meg. Ezt ellenőrizhetjük a leállás után a hőmérséklet paraméter 0-ra állításával, azaz a determinisztikus hálózattal.

Számos más lehűtési stratégia is ismert a szimulált lehűtés módszerhez, amelyek közül bármelyik felhasználható a Boltzmann hálózat működtetéséhez. A hőmérséklet csökkentésének mértékét szokásos még logaritmikus vagy polinom függvény formájában is definiálni.