5.1. Az RBF (Radiális Bázisfüggvényes) hálózat

Az RBF hálózat olyan két aktív rétegű előrecsatolt hálózat, melyben a rejtett réteg radiális bázisfüggvényekkel dolgozó nemlineáris leképezést valósít meg. A háló felépítése az 5.2 ábrán látható.

5.2. ábra - Az (egykimenetű) RBF hálózat felépítése
Az (egykimenetű) RBF hálózat felépítése

A hálóban az első rétegbeli processzáló elemek valósítják meg a bázisfüggvényeket. Az RBF hálóknál ezek gömbszimmetrikus függvények. Az egyes processzáló elemekhez általában két paraméter tartozik, melyek a bázisfüggvények középpont- és szélességparaméterei. A rejtett réteg processzáló elemei minden bemeneti vektorhoz eltérő paraméterekkel rendelkező bázisfüggvény-értékeket rendelnek, a kimeneti processzáló elemek pedig ezen függvény-értékek lineáris kombinációit határozzák meg. Ha x a hálózat bemeneti vektora, g(.) jelöli a radiális bázisfüggvényt, ciMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4yamaaBaaaleaacaWGPbaabeaaaaa@37DA@ pedig az i-edik processzáló elemhez tartozó függvény középpont-paraméterét, akkor az RBF hálózat által megvalósított leképezés a következő formába írható:

y=iwigi(x)=iwig(xci)=wTg(x)MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaamyEaiabg2da9maaqafabaGaam4DamaaBaaaleaacaWGPbaabeaakiaadEgadaWgaaWcbaGaamyAaaqabaaabaGaamyAaaqab0GaeyyeIuoakmaabmaabaGaaCiEaaGaayjkaiaawMcaaiabg2da9maaqafabaGaam4DamaaBaaaleaacaWGPbaabeaakiaadEgadaqadaqaamaafmaabaGaaCiEaiabgkHiTiaahogadaWgaaWcbaGaamyAaaqabaaakiaawMa7caGLkWoaaiaawIcacaGLPaaaaSqaaiaadMgaaeqaniabggHiLdGccqGH9aqpcaWH3bWaaWbaaSqabeaacaWGubaaaOGaaC4zamaabmaabaGaaCiEaaGaayjkaiaawMcaaaaa@5803@ . (5.1)

Ez azt jelenti, hogy a rejtett réteg minden processzáló eleme előbb meghatározza a bemeneti vektornak a processzáló elemhez rendelt középpont-paramétertől való távolságát, majd e távolságérték valamely nemlineáris függvényét számítja ki.

Az RBF hálózat szintén képes függvényapproximációra. Mint az 1.4. szakaszban láttuk (ld. 1.6. tétel), megfelelően megválasztott g(.) függvény és alkalmas ciMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4yamaaBaaaleaacaWGPbaabeaaaaa@37DA@ és wiMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaam4DamaaBaaaleaacaWGPbaabeaaaaa@37EA@ paraméterek mellett a hálózat tetszőleges folytonos függvény tetszőleges pontosságú approximációjára képes, ha a rejtett réteg mérete, a bázisfüggvények száma megfelelő. Az approximáció valójában úgy történik, hogy a tanítópontokra vagy a tanítópontokból valamilyen módon kialakított ún. klaszterközéppontokra bázisfüggvényeket illesztünk, és ezen bázisfüggvények lineáris kombinációját határozzuk meg. A bázisfüggvények legtöbbször a

gi(x)=exp[xci2/2σi2]MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaam4zamaaBaaaleaacaWGPbaabeaakmaabmaabaGaaCiEaaGaayjkaiaawMcaaiabg2da9iaabwgacaqG4bGaaeiCamaadmaabaGaeyOeI0YaauWaaeaacaWH4bGaeyOeI0IaaC4yamaaBaaaleaacaWGPbaabeaaaOGaayzcSlaawQa7amaaCaaaleqabaGaaGOmaaaakiaac+cacaaIYaGaeq4Wdm3aa0baaSqaaiaadMgaaeaacaaMi8UaaGOmaaaaaOGaay5waiaaw2faaaaa@4FE5@ (5.2)

Gauss függvények, de más bázisfüggvény is választható. Szokásos további függvények pl:

g(r)=r(szakaszonkénti lineáris approximáció)MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaam4zamaabmaabaGaamOCaaGaayjkaiaawMcaaiabg2da9iaadkhacaaMe8+aaeWaaeaacaqGZbGaaeOEaiaabggacaqGRbGaaeyyaiaabohacaqG6bGaae4Baiaab6gacaqGRbGaaey6aiaab6gacaqG0bGaaeyAaiaabccacaqGSbGaaeyAaiaab6gacaqGLbGaaey4aiaabkhacaqGPbGaae4CaiaabccacaqGHbGaaeiCaiaabchacaqGYbGaae4BaiaabIhacaqGPbGaaeyBaiaabgoacaqGJbGaaeyAaiaabopaaiaawIcacaGLPaaaaaa@6169@

g(r)=r3(köbös approximáció)MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaam4zamaabmaabaGaamOCaaGaayjkaiaawMcaaiabg2da9iaadkhadaahaaWcbeqaaiaaiodaaaGccaaMe8+aaeWaaeaacaqGRbGaaeO9aiaabkgacaqG2dGaae4CaiaabccacaqGHbGaaeiCaiaabchacaqGYbGaae4BaiaabIhacaqGPbGaaeyBaiaabgoacaqGJbGaaeyAaiaabopaaiaawIcacaGLPaaaaaa@51D9@

g(r)=(c2+r2)β0<β<1(β=1/2nél multikvadratikus függvény)MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaam4zamaabmaabaGaamOCaaGaayjkaiaawMcaaiabg2da9maabmaabaGaam4yamaaCaaaleqabaGaaGOmaaaakiabgUcaRiaadkhadaahaaWcbeqaaiaaikdaaaaakiaawIcacaGLPaaadaahaaWcbeqaaiabek7aIbaakiaaysW7caaIWaGaeyipaWJaeqOSdiMaeyipaWJaaeymaiaaywW7caGGOaGaeqOSdiMaeyypa0Jaaeymaiaac+cacaqGYaGaeyOeI0IaaeOBaiaabMoacaqGSbGaaeiiaiaab2gacaqG1bGaaeiBaiaabshacaqGPbGaae4AaiaabAhacaqGHbGaaeizaiaabkhacaqGHbGaaeiDaiaabMgacaqGRbGaaeyDaiaabohacaqGGaGaaeOzaiaabYpacaqGNbGaae4zaiaabAhacaqGPdGaaeOBaiaabMhacaGGPaaaaa@6DAD@

g(r)=(c2+r2)αα>0(α=2nél inverz multikvadratikus függvény),MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaam4zamaabmaabaGaamOCaaGaayjkaiaawMcaaiabg2da9maabmaabaGaam4yamaaCaaaleqabaGaaGOmaaaakiabgUcaRiaadkhadaahaaWcbeqaaiaaikdaaaaakiaawIcacaGLPaaadaahaaWcbeqaaiabgkHiTiabeg7aHbaakiaaysW7cqaHXoqycqGH+aGpcaaIWaGaaGzbVlaacIcacqaHXoqycqGH9aqpcaqGYaGaeyOeI0IaaeOBaiaabMoacaqGSbGaaeiiaiaabMgacaqGUbGaaeODaiaabwgacaqGYbGaaeOEaiaabccacaqGTbGaaeyDaiaabYgacaqG0bGaaeyAaiaabUgacaqG2bGaaeyyaiaabsgacaqGYbGaaeyyaiaabshacaqGPbGaae4AaiaabwhacaqGZbGaaeiiaiaabAgacaqG8dGaae4zaiaabEgacaqG2bGaaey6aiaab6gacaqG5bGaaiykaiaacYcaaaa@727C@

ahol c>0 és ri=xciMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaamOCamaaBaaaleaacaWGPbaabeaakiabg2da9maafmaabaGaaCiEaiabgkHiTiaahogadaWgaaWcbaGaamyAaaqabaaakiaawMa7caGLkWoaaaa@401A@ , melyben a ciMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4yamaaBaaaleaacaWGPbaabeaaaaa@37DA@ értékek az alkalmasan megválasztott középpontok.

Az RBF hálók konstrukciója a háló méretének (a rejtett rétegbeli elemek számának), a bázisfüggvények paramétereinek (amennyiben vannak a bázisfüggvényeknek szabad paraméterei) és a kimeneti réteg súlyainak meghatározását jelenti.

A hálózat komplexitása a rejtett rétegbeli processzáló elemek számától, vagyis az eltérő középpontú bázisfüggvények számától függ. A ciMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4yamaaBaaaleaacaWGPbaabeaaaaa@37DA@ középpontok számának meghatározása azonban nem független a középpontok helyzetének megválasztásától. A két kérdést tehát együttesen kell vizsgálni.

Gauss bázisfüggvények esetén a középpontokon kívül az ún. szélességparaméterekre ( σiMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaeq4Wdm3aaSbaaSqaaiaadMgaaeqaaaaa@38B1@ ) is szükség van. A σiMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaeq4Wdm3aaSbaaSqaaiaadMgaaeqaaaaa@38B1@ értékekre azonban az approximáció kevéssé érzékeny, ezért ezek széles határok között megválaszthatók. Legtöbb esetben a szélességparaméter minden rejtett processzáló elemre azonos, vagyis σi=σireMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaeq4Wdm3aaSbaaSqaaiaadMgaaeqaaOGaeyypa0Jaeq4WdmNaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaeyiaIiIaamyAaiabgkHiTiaabkhacaqGLbaaaa@4972@ .

A rejtett rétegbeli processzáló elemek paramétereit és a kimeneti réteg paramétereit eltérő módon választjuk meg, ill. határozzuk meg. A kimeneti réteg paraméterei, a wiMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaam4DamaaBaaaleaacaWGPbaabeaaaaa@37EA@ súlyok vagy analitikus úton meghatározhatók, vagy ellenőrzött tanítás során alakíthatók ki. A bázisfüggvény paramétereinek (a ciMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4yamaaBaaaleaacaWGPbaabeaaaaa@37DA@ és esetenként a σiMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaeq4Wdm3aaSbaaSqaaiaadMgaaeqaaaaa@38B1@ értékeknek) amegválasztására különböző eljárásokat alkalmazhatunk.

A bázisfüggvények számának és a középpont paramétereknek a meghatározása a tanítópontok számától is függ. Kevés tanítópont esetén triviális megoldás lehet, ha minden egyes tanítópont egyben függvényközéppont is lesz, vagyis a rejtett rétegben a processzáló elemek száma megegyezik a tanítópontok számával. A kimeneti lineáris réteg tanítása ilyenkor − ahogy ezt a lineáris elemi neuron, az adaline tanításánál láttuk − egy olyan lineáris egyenletrendszer megoldását jelenti, ahol az egyenletek száma és az ismeretlenek száma megegyezik. Itt tehát analitikus megoldás is nyerhető. Ha az xitanítópontokra adott kívánt válaszokat most is diMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaamizamaaBaaaleaacaWGPbaabeaaaaa@37D7@ , i=1, 2, ..., P jelöli, akkor a megoldandó egyenlet:

Gw=dMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4raiaahEhacqGH9aqpcaWHKbaaaa@3997@ , (5.3)

ahol a G az ún. interpolációs mátrix (a bázisfüggvények által megvalósított leképezések P × P-s mátrixa) és d a diMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaamizamaaBaaaleaacaWGPbaabeaaaaa@37D7@ kívánt válaszokból álló oszlopvektor. A kvadratikus mátrix elemei: gij=gi(xj)MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaam4zamaaBaaaleaacaWGPbGaamOAaaqabaGccqGH9aqpcaWGNbWaaSbaaSqaaiaadMgaaeqaaOGaaeikaiaahIhadaWgaaWcbaGaamOAaaqabaGccaqGPaaaaa@3F66@ . Amennyiben G nem szinguláris a megoldásvektor létezik:

w=G1dMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4DamaaCaaaleqabaGaey4fIOcaaOGaeyypa0JaaC4ramaaCaaaleqabaGaeyOeI0IaaGymaaaakiaahsgaaaa@3C9C@ . (5.4)

A gyakorlatban (5.4) megoldása nehézségekbe ütközik, ha G közel szinguláris. Ebben az estben a regularizáció elmélet (ld. 2.1. szakasz) segítségével juthatunk a megoldáshoz. A regularizáció során a G mátrix helyett a G+λI perturbált mátrixot alkalmazzuk, ahol λ a regularizációs együttható, melynek már igen kis értéke mellett is biztosított, hogy a perturbált mátrix invertálható lesz. A regularizáció valójában azt jelenti, hogy a Gw=dMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4raiaahEhacqGH9aqpcaWHKbaaaa@3997@ összefüggés helyett egy (G+λI)w=dMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaeikaiaahEeacqGHRaWkcqaH7oaBcaWHjbGaaeykaiaahEhacqGH9aqpcaWHKbaaaa@3E56@ összefüggés megoldását keressük, vagyis olyan súlyokat keresünk, melyekkel a háló leképezése a tanítópontokban sem lesz pontos, tehát ott sem fog a kívánt válaszokkal megegyező kimeneteket előállítani. Az eltérés függ a regularizációs együttható értékétől. A regularizáció azáltal, hogy a tanítópontokban is megenged eltérést a kívánt válaszoktól, valójában egy simább leképezést megvalósító hálót eredményez. A regularizáció és a simaság kapcsolatáról a későbbiekben, a kernel gépeknél (6. fejezet) még lesz szó.

Az analitikus megoldáshoz az összes tanítópont ismeretére szükség van, és a megfelelő mátrix invertálási műveletet el kell végezni. A mátrix invertálás elkerülhető, ha pontonkénti iteratív tanítást (pl. LMS eljárást) alkalmazunk.

Nagyszámú tanítópont mellett minden tanítópont középpontként való felhasználása nem alkalmazható, hiszen ekkor sok rejtett processzáló elemet tartalmazó, igen nagy hálót is nyerhetünk. Ez egyrészt a szükséges számítások mennyiségét nagyon megnövelné, másrészt a sok processzáló elem szükségtelen is.

Amennyiben a tanítópontoknak csak egy részéhez rendelünk bázisfüggvényeket, akkor részint a megfelelő súlyértékeket az előbbiekben bemutatott megoldástól némileg eltérő módon nyerjük, részint meg kell adnunk a középpontként felhasználandó tanítópontok kiválasztási eljárását.

Ha a mintapontok száma, P nagyobb, mint a bázisfüggvények száma, vagyis a meghatározandó súlyok száma, M, a G mátrix nem lesz kvadratikus. P>M esetében túlhatározott egyenletrendszerrel van dolgunk és analitikus megoldást LS értelemben a pszeudo-inverz meghatározásával a (3.23) összefüggésnek megfelelően nyerhetünk:

wLS=Gd=(GTG)-1GTdMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4DamaaDaaaleaacaqGmbGaae4uaaqaaiabgEHiQaaakiabg2da9iaahEeadaahaaWcbeqaaiaabcciaaGccaWHKbGaeyypa0JaaeikaiaahEeadaahaaWcbeqaaiaadsfaaaGccaWHhbGaaeykamaaCaaaleqabaGaaeylaiaabgdaaaGccaWHhbWaaWbaaSqabeaacaWGubaaaOGaaCizaaaa@46D1@ (5.5)

Előfordulhat, hogy a GTG mátrix nem invertálható, lehet szinguláris vagy közel szinguláris akár numerikus problémákból adódóan. Ekkor itt is a regularizáció alkalmazható:

wLS=Gd=(GTG+λI)-1GTdMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4DamaaDaaaleaacaqGmbGaae4uaaqaaiabgEHiQaaakiabg2da9iaahEeadaahaaWcbeqaaiaabcciaaGccaWHKbGaeyypa0JaaeikaiaahEeadaahaaWcbeqaaiaadsfaaaGccaWHhbGaey4kaSIaeq4UdWMaaCysaiaabMcadaahaaWcbeqaaiaab2cacaqGXaaaaOGaaC4ramaaCaaaleqabaGaamivaaaakiaahsgaaaa@4A39@ (5.6)

A megoldást iteratív úton most is meghatározhatjuk az LMS algoritmus alkalmazásával. Túlhatározott egyenletrendszer esetén a pontonkénti tanulásnál azonban nem kapunk egyértelmű megoldást. Meghatározható egy olyan tartomány, melyen belül kell legyen a megoldásvektor. A tartományon belüli konkrét megoldás, azonban függ a tanítópontok sorrendjétől és a tanulási tényezőtől is.

A középpontok kiválasztásának, illetve meghatározásának néhány lehetőségével a következő részben foglalkozunk.

5.1.1. Középpont kiválasztó eljárások

A középpont kiválasztó eljárások célja minden esetben az, hogy az összes tanítópontnál kevesebb bázisfüggvénnyel oldjuk meg a feladatot és ezen bázisfüggvények középpont paramétereit valamilyen módon a tanítópont-készlethez igazodóan meghatározzuk. A középpont kiválasztó eljárások nagy mintapontszám mellett biztosítják, hogy megvalósítható méretű hálóhoz jutunk.

Nagy mintapontszám több esetben is előállhat. Egyrészt rendelkezésünkre állhat nagyon nagyszámú − több tízezer, vagy akár több százezer − tanítópont is, melyek mindegyikét nem lehet és nem is szükséges felhasználnunk. Elegendő egy megfelelő részhalmaz kiválasztása és ennek felhasználásával ún. ritka (sparse) megoldás létrehozása. Ebben az esetben a tanító készletünk tulajdonképpen redundáns, így valójában információvesztés nélkül lehet a tanítópontok közül egy részhalmazt kiválasztani: a ckMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4yamaaBaaaleaacaWGRbaabeaaaaa@37DC@ középpontokat egyszerűen a tanítópontokból véletlenszerűen kiválasztott K pont képezi.

Az is lehetséges, hogy a tanítópontok egyes csoportjaihoz rendelünk középpontokat. Ekkor valójában a pontok klaszterezését kell elvégeznünk. A tanítópontok csoportosítására, klaszterek képzésére bármilyen klaszter kialakító algoritmus használható.

Nagyszámú mintapont akkor is előállhat, ha a megoldandó probléma sokdimenziós. Ekkor a sokdimenziós bemeneti tér miatt eleve sok tanítópontra van szükség, hogy a feladatot kellően reprezentáló tanítópont-készlet alapján történhessen a háló konstrukciója. (Ezt a sokdimenziós feladatoknál jelentkező nehézséget szokás a dimenzió átkának (curse of dimensionality) is nevezni. A kérdéskört általánosabban a 13. fejezetben vizsgáljuk.) Ilyen esetekben a nagy mintapontszám általában nem redundancia következménye, és a középpontok számának csökkentése mindenképpen információvesztéssel jár, a pontokból egy részhalmaz kiválasztása komolyabb megfontolást igényel. A véletlenszerű kiválasztás helyett, a megfelelő pontok kiválasztásánál figyelembe kell vennünk az eredményül kapott háló képességeit is.

A kétféle esetre számos megoldás született. A következőkben előbb egy olyan iteratív eljárást mutatunk be, amely fokozatosan növeli a középpontok számát újabb és újabb tanítópontok középpontként való beiktatásával, amíg megfelelő képességű hálóhoz nem jutunk; majd az egyik legegyszerűbb és az RBF hálózatok középpont-paramétereinek meghatározásánál gyakran alkalmazott klaszterező eljárást, a K-átlagképző vagy K-közép (K-means) eljárást ismertetjük röviden.

Az OLS eljárás

Az ortogonális legkisebb négyzetes hibájú (OLS) eljárás [Che91] iteratív módon választ középpontokat úgy, hogy közben figyelembe veszi a háló képességét is. Ez azt jelenti, hogy a háló méretét lépésről lépésre növeljük, újabb és újabb bázisfüggvények bekapcsolásával egészen addig, amíg megfelelő teljesítőképességet el nem érünk.

A módszer bemutatásához induljunk ki a háló által megvalósított leképezésből ((5.1) egyenlet). Ha csak egyetlen bázisfüggvényt alkalmazunk, a szummás kifejezésnek csak egy tagja lesz: a kimenetek egy adott középpontra illesztett bázisfüggvény súlyozott értékeiként adódnak. Hogy az így kapott egy rejtett elemű „háló” milyen képességekkel rendelkezik, azt a rendelkezésre álló ismert válaszú pontokra adott válaszok alapján állapíthatjuk meg. Az egyetlen súly értéke egy olyan túlhatározott lineáris egyenletrendszer megoldásaként nyerhető (ld. (5.5) összefüggés), melynél a G mátrix egyetlen oszlopot és a rendelkezésre álló P tanítópontnak megfelelő P sort tartalmaz. A kapott LS megoldásnak az összes tanítópontra vonatkozó teljesítőképessége alapján dönthető el, hogy az egy rejtett elemű „háló” megfelelően oldja-e meg a feladatot vagy sem.

A megoldás minősége függ az alkalmazott egyetlen bázisfüggvény elhelyezésétől, vagyis a középpont paramétertől. Hogy az egy bázisfüggvénnyel dolgozó hálók közül a legjobbat kapjuk, bázisfüggvény-középpontként az összes tanítópontot végig kell vizsgálni. Amennyiben az egy bázisfüggvényes hálók legjobbika sem elegendően kis hibájú, több bázisfüggvénnyel kell a feladatot megoldani. Így elvben meghatározhatjuk a legjobb két, három, stb. rejtett neuronos RBF hálót. Az eljárás gyakorlati alkalmazása a hatalmas számításigény miatt nem célszerű vagy nem is lehetséges.

Kisebb számításigényű az a változat, amikor a hálót oly módon bővítjük fokozatosan, hogy a már kiválasztott középpontokhoz választunk újabb és újabb középpontokat. Így egy adott komplexitású háló középpontjait már nem módosítjuk. A feladat „mindössze” annyi, hogy a még középpontként fel nem használt pontok közül kell minden lépésben az LS értelemben legjobbat kiválasztani, és a már kiválasztottakhoz új bázisfüggvény-középpontként hozzávenni. A háló méretét most is fokozatosan bővítjük egészen addig, amíg a megfelelő teljesítőképességet el nem érjük. A második változat csak szuboptimumot eredményez, és még mindig elfogadhatatlanul nagy számításigényű. Az OLS eljárás a háló fokozatos bővítését egy ortogonalizáló lépés közbeiktatásával az előbbinél jóval hatékonyabban oldja meg.

Az OLS eljárás bemutatásához induljunk ki a háló leképezésének mátrixos alakjából:

y=GwMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaCyEaiabg2da9iaahEeacaWH3baaaa@39AC@ , (5.7)

ahol a G mátrix i-edik sora a háló rejtett rétegének válasza az xi bemeneti vektorra g(xi)=[g1(xi)g2(xi),gM(xi)]TMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4zaiaabIcacaWH4bWaaSbaaSqaaiaadMgaaeqaaOGaaeykaiabg2da9iaabUfacaWGNbWaaSbaaSqaaiaabgdaaeqaaOGaaeikaiaahIhadaWgaaWcbaGaamyAaaqabaGccaqGPaGaaeilaiaabccacaWGNbWaaSbaaSqaaiaabkdaaeqaaOGaaeikaiaahIhadaWgaaWcbaGaamyAaaqabaGccaqGPaGaaeilaiaabccacqWIMaYscaqGSaGaam4zamaaBaaaleaacaWGnbaabeaakiaabIcacaWH4bWaaSbaaSqaaiaadMgaaeqaaOGaaeykaiaab2fadaahaaWcbeqaaiaadsfaaaaaaa@5294@ , i=1, 2, …, P; y=[y,1y2,,yP]TMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaCyEaiabg2da9iaabUfacaWG5bWaaSraaSqaaiaabgdaaeqaaOGaaeilaiaadMhadaWgaaWcbaGaaeOmaaqabaGccaqGSaGaeSOjGSKaaeilaiaadMhadaWgaaWcbaGaamiuaaqabaGccaqGDbWaaWbaaSqabeaacaWGubaaaaaa@43AA@ a tanítópontokra adott válaszokból képezett vektor, és w a kimeneti réteg súlyvektora. G tehát felírható, mint egy P sorból álló mátrix:

G=[g(x1)Tg(x2)Tg(xP)T]MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4raiabg2da9maadmaabaqbaeqabqqaaaaabaGaaC4zaiaabIcacaWH4bWaaSbaaSqaaiaaigdaaeqaaOGaaeykamaaCaaaleqabaGaamivaaaaaOqaaiaahEgacaqGOaGaaCiEamaaBaaaleaacaaIYaaabeaakiaabMcadaahaaWcbeqaaiaadsfaaaaakeaacqWIUlstaeaacaWHNbGaaeikaiaahIhadaWgaaWcbaGaamiuaaqabaGccaqGPaWaaWbaaSqabeaacaWGubaaaaaaaOGaay5waiaaw2faaaaa@4B91@ (5.8)

Ugyanakkor G az alábbi módon is értelmezhető

G=[g1,,gM,],     aholgj=[gj(x1),,gj(xP)]Tj=1,2,,MMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4raiabg2da9maadmaabaGaaC4zamaaBaaaleaacaaIXaaabeaakiaacYcacqWIMaYscaGGSaGaaC4zamaaBaaaleaacaWGnbGaaiilaaqabaaakiaawUfacaGLDbaacaaMi8UaaiilaiaabccacaqGGaGaaeiiaiaabccacaqGGaGaaeyyaiaabIgacaqGVbGaaeiBaiaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaC4zamaaBaaaleaacaWGQbaabeaakiabg2da9maadmaabaGaam4zamaaBaaaleaacaWGQbaabeaakiaabIcacaWH4bWaaSbaaSqaaiaabgdaaeqaaOGaaeykaiaacYcacqWIMaYscaGGSaGaam4zamaaBaaaleaacaWGQbaabeaakiaabIcacaWH4bWaaSbaaSqaaiaadcfaaeqaaOGaaeykaaGaay5waiaaw2faaiaayIW7caaMi8+aaWbaaSqabeaacaWGubaaaOGaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaadQgacqGH9aqpcaaIXaGaaiilaiaayIW7caaMi8UaaGOmaiaacYcacaaMi8UaaGjcVlablAciljaacYcacaaMi8UaaGjcVlaayIW7caWGnbaaaa@9D01@ (5.9)

Itt gjMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4zamaaBaaaleaacaWGQbaabeaaaaa@37DF@ az j-edik bázisfüggvénynek a P tanítópontra adott válaszaiból képezett vektor. E szerint a háló válaszaiból képezett vektor

y=j=1MwjgjMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaCyEaiabg2da9maaqahabaGaam4DamaaBaaaleaacaWGQbaabeaakiaahEgadaWgaaWcbaGaamOAaaqabaaabaGaamOAaiabg2da9iaaigdaaeaacaWGnbaaniabggHiLdaaaa@41C1@ (5.10)

formában is értelmezhető. Minthogy a kimenetek vektora a gjMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4zamaaBaaaleaacaWGQbaabeaaaaa@37DF@ vektorok súlyozott összegeként állítható elő, ha a gjMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4zamaaBaaaleaacaWGQbaabeaaaaa@37DF@ vektorok lineárisan függetlenek, akkor egyben bázist is alkotnak a kimeneti vektorok terében.

Adott súlyvektor mellett azonban a háló válaszai nem feltétlenül állítják elő hibátlanul a kívánt válaszokat, tehát:

d=j=1Mwjgj+e=Gw+eMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaCizaiabg2da9maaqahabaGaam4DamaaBaaaleaacaWGQbaabeaakiaahEgadaWgaaWcbaGaamOAaaqabaaabaGaamOAaiabg2da9iaaigdaaeaacaWGnbaaniabggHiLdGccqGHRaWkcaWHLbGaeyypa0JaaC4raiaahEhacqGHRaWkcaWHLbaaaa@482C@ , (5.11)

ahol e az egyes tanítópontokban kapott válaszok hibáiból képezett vektor. Gw d-nek a gjMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4zamaaBaaaleaacaWGQbaabeaaaaa@37DF@ bázisvektorok által kifeszített térre való vetületét adja. Minél kevesebb bázisfüggvényt használunk, annál nagyobb hibával tudjuk d-t közelíteni a bázisvektorok által kifeszített térben. A hiba azonban nemcsak attól függ, hogy hány bázisvektort használunk, hanem attól is, hogy melyek ezek a bázisvektorok. A bázisvektorok számát a háló bázisfüggvényeinek száma adja meg, azt pedig, hogy mely bázisvektorokat használjuk, a bázisfüggvények középpont paraméterei határozzák meg. Minél inkább korreláltak a bázisvektorok, annál kisebb hozzájárulást jelentenek a d kimeneti vektor előállításához. Legkedvezőbb az lenne, ha a bázisvektorok ortogonálisak lennének, ekkor ugyanis mindegyik bázisvektor a többitől független hozzájárulást jelentene, ahol az egyes bázisvektorok hozzájárulásának mértéke egyenként számítható. Az OLS eljárás a gjMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4zamaaBaaaleaacaWGQbaabeaaaaa@37DF@vektorok transzformációja útján egy ortogonális bázisvektor-rendszert hoz létre.

Ennek érdekében dekomponáljuk a G mátrixot az alábbi módon:

G=BAMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4raiabg2da9iaahkeacaWHbbaaaa@393F@ . (5.12)

Itt A egy olyan M×M-es felső háromszögmátrix, melynek főátlójában csupa egyesek szerepelnek

A=[1a12a13a1M01a23a2M00001aM1M0001]MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaCyqaiabg2da9maadmaabaqbaeqabyGbaaaaaeaacaaIXaaabaGaamyyamaaBaaaleaacaaIXaGaaGOmaaqabaaakeaacaWGHbWaaSbaaSqaaiaaigdacaaIZaaabeaaaOqaaiabl+UimbqaaaqaaiaadggadaWgaaWcbaGaaGymaiaad2eaaeqaaaGcbaGaaGimaaqaaiaaigdaaeaacaWGHbWaaSbaaSqaaiaaikdacaaIZaaabeaaaOqaaaqaaiabl+UimbqaaiaadggadaWgaaWcbaGaaGOmaiaad2eaaeqaaaGcbaGaaGimaaqaaiaaicdaaeaaaeaacqWIXlYtaeaaaeaacqWIUlstaeaacqWIUlstaeaaaeaacqWIXlYtaeaaaeaaaeaaaeaacaaIWaaabaaabaaabaGaaGimaaqaaiaaigdaaeaacaWGHbWaaSbaaSqaaiaad2eacqGHsislcaaIXaGaamytaaqabaaakeaacaaIWaaabaGaeS47IWeabaaabaGaaGimaaqaaiaaicdaaeaacaaIXaaaaaGaay5waiaaw2faaaaa@618D@ , (5.13)

B pedig egy P×M-es ortogonális mátrix. Az ortogonalitás következménye, hogy BTB=H egy olyan diagonálmátrix, melynek főátlójában a hj=bjTbjMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaamiAamaaBaaaleaacaWGQbaabeaakiabg2da9iaahkgadaqhaaWcbaGaamOAaaqaaiaadsfaaaGccaWHIbWaaSbaaSqaaiaadQgaaeqaaaaa@3DDC@ értékek találhatók.

Az ortogonális vektorok által kifeszített tér azonos a gjMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4zamaaBaaaleaacaWGQbaabeaaaaa@37DF@ bázisvektorok által kifeszített térrel, vagyis a kimenetek vektora, d előállítható az ortogonális vektorok súlyozott összegeként is:

d=j=1Mvjbj+e=Bv+eMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaCizaiabg2da9maaqahabaGaamODamaaBaaaleaacaWGQbaabeaakiaahkgadaWgaaWcbaGaamOAaaqabaaabaGaamOAaiabg2da9iaaigdaaeaacaWGnbaaniabggHiLdGccqGHRaWkcaWHLbGaeyypa0JaaCOqaiaahAhacqGHRaWkcaWHLbaaaa@4820@ , (5.14)

ahol a bjMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaCOyamaaBaaaleaacaWGQbaabeaaaaa@37DA@ ortogonális bázisvektorok súlyait a v vektor komponensei adják. Ennek a súlyvektornak a meghatározása szintén történhet a négyzetes hiba minimalizálásával.

vLS=Bd=(BTB)-1BTd=H1BTdMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaCODamaaDaaaleaacaqGmbGaae4uaaqaaiabgEHiQaaakiabg2da9iaahkeadaahaaWcbeqaaiaabcciaaGccaWHKbGaeyypa0JaaeikaiaahkeadaahaaWcbeqaaiaadsfaaaGccaWHcbGaaeykamaaCaaaleqabaGaaeylaiaabgdaaaGccaWHcbWaaWbaaSqabeaacaWGubaaaOGaaCizaiabg2da9iaahIeadaahaaWcbeqaaiabgkHiTiaaigdaaaGccaWHcbWaaWbaaSqabeaacaWGubaaaOGaaCizaaaa@4D3A@ (5.15)

Itt azonban az ortogonalitás miatt H-1 sokkal egyszerűbben számítható, így a súlyokat egyenként is meg tudjuk határozni.

vj=bjTdbjTbjj=1,,MMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaamODamaaDaaaleaacaWGQbaabaGaey4fIOcaaOGaeyypa0ZaaSaaaeaacaWHIbWaa0baaSqaaiaadQgaaeaacaWGubaaaOGaaCizaaqaaiaahkgadaqhaaWcbaGaamOAaaqaaiaadsfaaaGccaWHIbWaaSbaaSqaaiaadQgaaeqaaaaakiaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaadQgacqGH9aqpcaaIXaGaaiilaiaayIW7caaMi8UaaGjcVlablAciljaayIW7caaMi8Uaaiilaiaad2eaaaa@6823@ (5.16)

Ugyanakkor az is igaz, hogy

AwLS=vLSMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaCyqaiaahEhadaqhaaWcbaGaaeitaiaabofaaeaacqGHxiIkaaGccqGH9aqpcaWH2bWaa0baaSqaaiaabYeacaqGtbaabaGaey4fIOcaaaaa@3F2F@ , (5.17)

vagyis, ha ismerjük A-t és v-t, a keresett w súlyvektor is meghatározható.

Az (5.17) összefüggés származtatásához például a klasszikus a Gram-Schmidt ortogonalizáló eljárással juthatunk el. Alkalmazzuk az eljárást G ortogonalizálására. Az ortogonalizáló eljárás k-adik lépésében olyan bkMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaCOyamaaBaaaleaacaWGRbaabeaaaaa@37DB@ vektort keresünk, amely a megelőző lépésekben meghatározott k-1 vektor mindegyikére ortogonális. B első vektoraként a gjMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4zamaaBaaaleaacaWGQbaabeaaaaa@37DF@ vektorok bármelyikét választhatjuk. Legyen ezért

b1=g1MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaCOyamaaBaaaleaacaaIXaaabeaakiabg2da9iaahEgadaWgaaWcbaGaaGymaaqabaaaaa@3A8D@ (5.18)

A k-adik vektor (k=2,…,M) ezek után a következőképpen nyerhető

bk=gkj=1k1ajkbjMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaCOyamaaBaaaleaacaWGRbaabeaakiabg2da9iaahEgadaWgaaWcbaGaam4AaaqabaGccqGHsisldaaeWbqaaiaadggadaWgaaWcbaGaamOAaiaadUgaaeqaaOGaaCOyamaaBaaaleaacaWGQbaabeaaaeaacaWGQbGaeyypa0JaaGymaaqaaiaadUgacqGHsislcaaIXaaaniabggHiLdaaaa@486E@ , (5.19)

ahol

ajk=bjTgkbjTbjMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaamyyamaaBaaaleaacaWGQbGaam4AaaqabaGccqGH9aqpdaWcaaqaaiaahkgadaqhaaWcbaGaamOAaaqaaiaadsfaaaGccaWHNbWaa0baaSqaaiaadUgaaeaaaaaakeaacaWHIbWaa0baaSqaaiaadQgaaeaacaWGubaaaOGaaCOyamaaBaaaleaacaWGQbaabeaaaaaaaa@43D6@ 1 ≤ j < k (5.20)

Az ortogonalizáló eljárással tehát mind a bjMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaCOyamaaBaaaleaacaWGQbaabeaaaaa@37DA@ ortogonális bázisvektorok, mind az A mátrix ajk együtthatói meghatározhatók.

Az OLS eljárás célja azonban most nemcsak az, hogy a bázisvektorok mátrixát ortogonalizáljuk, hanem az is, hogy az ortogonális bázisvektorok egy megfelelő részhalmazát kiválasszuk. Addig, amíg a kiindulásnál a G mátrix maximum annyi oszlopból állt, ahány tanítópontunk van (egy bázisfüggvényes hálónál, ha minden tanítópont egyben bázisfüggvény középpont is, a G mátrix egy P × P-s mátrix, ld. (5.3)), most az ortogonális bázisvektorok egy kisebb számú részhalmazát szeretnénk felhasználni. Az eddigi eljárásból az is látszik, hogy az ortogonális bázisvektor-rendszer a kiinduló lépés függvénye, tehát függ attól, hogy b1MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaCOyamaaBaaaleaacaaIXaaabeaaaaa@37A6@ -ként melyik gjMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4zamaaBaaaleaacaWGQbaabeaaaaa@37DF@ bázisvektort választjuk. Sőt, ha nem az összes vektort akarjuk felhasználni, akkor az ortogonális bázisvektorok előállítási sorrendje sem közömbös.

A legfontosabb bázisvektorok kiválasztásához vizsgáljuk meg előbb az egyes bázisvektorok szerepét. Mivel biMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaCOyamaaBaaaleaacaWGPbaabeaaaaa@37D9@ és bjMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaCOyamaaBaaaleaacaWGQbaabeaaaaa@37DA@ ortogonálisak, ha ij, a kívánt kimenetek négyzetes értéke felírható az alábbi formában:

dTd=j=1Mvj2bjTbj+eTeMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaCizamaaCaaaleqabaGaamivaaaakiaahsgacqGH9aqpdaaeWbqaaiaadAhadaqhaaWcbaGaamOAaaqaaiaaikdaaaaabaGaamOAaiabg2da9iaaigdaaeaacaWGnbaaniabggHiLdGccaWHIbWaa0baaSqaaiaadQgaaeaacaWGubaaaOGaaCOyamaaBaaaleaacaWGQbaabeaakiabgUcaRiaahwgadaahaaWcbeqaaiaadsfaaaGccaWHLbaaaa@4B22@ (5.21)

Tételezzük föl, hogy a d kívánt válaszok vektora nulla várható értékű (ha ez nem teljesül, akkor vonjuk ki belőle a várható értékét). Ekkor d varianciájának a becslése:

1PdTd=1Pj=1Mvj2bjTbj+1PeTeMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaWaaSaaaeaacaaIXaaabaGaamiuaaaacaWHKbWaaWbaaSqabeaacaWGubaaaOGaaCizaiabg2da9maalaaabaGaaGymaaqaaiaadcfaaaWaaabCaeaacaWG2bWaa0baaSqaaiaadQgaaeaacaaIYaaaaaqaaiaadQgacqGH9aqpcaaIXaaabaGaamytaaqdcqGHris5aOGaaCOyamaaDaaaleaacaWGQbaabaGaamivaaaakiaahkgadaWgaaWcbaGaamOAaaqabaGccqGHRaWkdaWcaaqaaiaaigdaaeaacaWGqbaaaiaahwgadaahaaWcbeqaaiaadsfaaaGccaWHLbaaaa@5002@ . (5.22)

Az (5.22) összefüggés első tagja az a variancia-komponens, ami a bázisvektorokkal kifejezhető, míg a második tagja az ezekkel nem kifejezhető rész. Ebből az is látszik, hogy a kimeneti varianciához a j-edik bázisfüggvény hozzájárulása vj2bjTbj/PMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaamODamaaDaaaleaacaWGQbaabaGaaGOmaaaakiaahkgadaqhaaWcbaGaamOAaaqaaiaadsfaaaGccaWHIbWaaSbaaSqaaiaadQgaaeqaaOGaai4laiaadcfaaaa@3F33@ . Minél nagyobb arányt képvisel ez az érték a kimeneti varianciában, annál fontosabb a bjMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaCOyamaaBaaaleaacaWGQbaabeaaaaa@37DA@bázisvektor felhasználása. A j-edik bázisvektornak a kimeneti varianciához való relatív hozzájárulását az

[errj]=vj2bjTbjdTdMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaae4waiaabwgacaqGYbGaaeOCamaaBaaaleaacaWGQbaabeaakiaab2facqGH9aqpdaWcaaqaaiaadAhadaqhaaWcbaGaamOAaaqaaiaaikdaaaGccaWHIbWaa0baaSqaaiaadQgaaeaacaWGubaaaOGaaCOyamaaBaaaleaacaWGQbaabeaaaOqaaiaahsgadaahaaWcbeqaaiaadsfaaaGccaWHKbaaaaaa@4760@ (5.23)

mennyiség fejezi ki. Ez az arány egy egyszerű és hatékony mértéke lehet az egyes bázisvektorok fontosságának. Ennek felhasználásával relative kis számításigénnyel minden lépésben azt az ortogonális bázisvektort és a megfelelő vj súlyozó együtthatót meg tudjuk meghatározni, melynek a kimeneti varianciához való hozzájárulása a legnagyobb.

Ehhez a Gram-Schmidt eljárást a következő módon alkalmazzuk:

Az első lépésben minden 1 ≤ j M értékre számítsuk ki a következőket

b1(j)=gjv1(j)=(b1(j))Td(b1(j))Tb1(j)[err]1(j)=(v1(j))2(b1(j))Tb1(j)dTdMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqkLspw0le9v8qqaqFD0xXdHaVhbbf9v8qqaqFr0xc9pk0xbba9q8WqFfea0=yr0RYxir=Jbba9q8aq0=yq=He9q8qqQ8frFve9Fve9Ff0dmeaabaqaciGacaGaaeqabaWaaeaaeaaakqaabeqaaiaahkgadaqhaaWcbaGaaGymaaqaaiaabIcacaWGQbGaaeykaaaakiabg2da9iaahEgadaWgaaWcbaGaamOAaaqabaaakeaacaWG2bWaa0baaSqaaiaaigdaaeaacaqGOaGaamOAaiaabMcaaaGccqGH9aqpdaWcaaqaamaabmaabaGaaCOyamaaDaaaleaacaaIXaaabaGaaeikaiaadQgacaqGPaaaaaGccaGLOaGaayzkaaWaaWbaaSqabeaacaWGubaaaOGaaCizaaqaamaabmaabaGaaCOyamaaDaaaleaacaaIXaaabaGaaeikaiaadQgacaqGPaaaaaGccaGLOaGaayzkaaWaaWbaaSqabeaacaWGubaaaOGaaCOyamaaDaaaleaacaaIXaaabaGaaeikaiaadQgacaqGPaaaaaaaaOqaaiaabUfacaqGLbGaaeOCaiaabkhacaqGDbWaa0baaSqaaiaabgdaaeaacaqGOaGaamOAaiaabMcaaaGccqGH9aqpdaWcaaqaamaabmaabaGaamODamaaDaaaleaacaaIXaaabaGaaeikaiaadQgacaqGPaaaaaGccaGLOaGaayzkaaWaaWbaaSqabeaacaaIYaaaaOWaaeWaaeaacaWHIbWaa0baaSqaaiaaigdaaeaacaqGOaGaamOAaiaabMcaaaaakiaawIcacaGLPaaadaahaaWcbeqaaiaadsfaaaGccaWHIbWaa0baaSqaaiaaigdaaeaacaqGOaGaamOAaiaabMcaaaaakeaacaWHKbWaaWbaaSqabeaacaWGubaaaOGaaCizaaaaaaaa@7512@ (5.24)

Keressük azt az j értéket mely mellett

[err]1(j1)=max{[err]1(j),1jM}MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaae4waiaabwgacaqGYbGaaeOCaiaab2fadaqhaaWcbaGaaeymaaqaaiaabIcacaWGQbWaaSbaaWqaaiaaigdaaeqaaSGaaeykaaaakiabg2da9iaab2gacaqGHbGaaeiEaiaayIW7caaMi8UaaGjcVlaayIW7caaMi8+aaiWaaeaacaaMi8UaaGjcVlaabUfacaqGLbGaaeOCaiaabkhacaqGDbWaa0baaSqaaiaabgdaaeaacaqGOaGaamOAaiaabMcaaaGccaGGSaGaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaIXaGaeyizImQaamOAaiabgsMiJkaad2eaaiaawUhacaGL9baaaaa@6F17@ (5.25)

és válasszuk ki első bázisvektornak a

b1=b1(j1)=gj1MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqkLspw0le9v8qqaqFD0xXdHaVhbbf9v8qqaqFr0xc9pk0xbba9q8WqFfea0=yr0RYxir=Jbba9q8aq0=yq=He9q8qqQ8frFve9Fve9Ff0dmeaabaqaciGacaGaaeqabaWaaeaaeaaakeaacaWHIbWaaSbaaSqaaiaaigdaaeqaaOGaeyypa0JaaCOyamaaDaaaleaacaaIXaaabaGaaeikaiaadQgadaWgaaadbaGaaeymaaqabaWccaqGPaaaaOGaeyypa0JaaC4zamaaBaaaleaacaWGQbWaaSbaaWqaaiaaigdaaeqaaaWcbeaaaaa@44A1@ (5.26)

vektort.

A k-adik lépésben, ha k ≥ 2, minden 1 ≤ j M, jj1, …, jjk-1 értékre számítsuk ki a következőket

aik(j)=biTgjbiTbi1jMbk(j)=gji=1k1aik(j)bivk(j)=(bk(j))Td(bk(j))Tbk(j)[err]1(j)=(vk(j))2(bk(j))Tbk(j)dTdMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqkLspw0le9v8qqaqFD0xXdHaVhbbf9v8qqaqFr0xc9pk0xbba9q8WqFfea0=yr0RYxir=Jbba9q8aq0=yq=He9q8qqQ8frFve9Fve9Ff0dmeaabaqaciGacaGaaeqabaWaaeaaeaaakqaabeqaaiaadggadaqhaaWcbaGaamyAaiaadUgaaeaacaqGOaGaamOAaiaabMcaaaGccqGH9aqpdaWcaaqaaiaahkgadaqhaaWcbaGaamyAaaqaaiaadsfaaaGccaWHNbWaa0baaSqaaiaadQgaaeaaaaaakeaacaWHIbWaa0baaSqaaiaadMgaaeaacaWGubaaaOGaaCOyamaaBaaaleaacaWGPbaabeaaaaGccaaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGymaiabgsMiJkaadQgacqGHKjYOcaWGnbaabaGaaCOyamaaDaaaleaacaWGRbaabaGaaeikaiaadQgacaqGPaaaaOGaeyypa0JaaC4zamaaBaaaleaacaWGQbaabeaakiabgkHiTmaaqahabaGaamyyamaaDaaaleaacaWGPbGaam4AaaqaaiaabIcacaWGQbGaaeykaaaaaeaacaWGPbGaeyypa0JaaGymaaqaaiaadUgacqGHsislcaaIXaaaniabggHiLdGccaWHIbWaaSbaaSqaaiaadMgaaeqaaaGcbaGaamODamaaDaaaleaacaWGRbaabaGaaeikaiaadQgacaqGPaaaaOGaeyypa0ZaaSaaaeaadaqadaqaaiaahkgadaqhaaWcbaGaam4AaaqaaiaabIcacaWGQbGaaeykaaaaaOGaayjkaiaawMcaamaaCaaaleqabaGaamivaaaakiaahsgaaeaadaqadaqaaiaahkgadaqhaaWcbaGaam4AaaqaaiaabIcacaWGQbGaaeykaaaaaOGaayjkaiaawMcaamaaCaaaleqabaGaamivaaaakiaahkgadaqhaaWcbaGaam4AaaqaaiaabIcacaWGQbGaaeykaaaaaaaakeaacaqGBbGaaeyzaiaabkhacaqGYbGaaeyxamaaDaaaleaacaqGXaaabaGaaeikaiaadQgacaqGPaaaaOGaeyypa0ZaaSaaaeaadaqadaqaaiaadAhadaqhaaWcbaGaam4AaaqaaiaabIcacaWGQbGaaeykaaaaaOGaayjkaiaawMcaamaaCaaaleqabaGaaGOmaaaakmaabmaabaGaaCOyamaaDaaaleaacaWGRbaabaGaaeikaiaadQgacaqGPaaaaaGccaGLOaGaayzkaaWaaWbaaSqabeaacaWGubaaaOGaaCOyamaaDaaaleaacaWGRbaabaGaaeikaiaadQgacaqGPaaaaaGcbaGaaCizamaaCaaaleqabaGaamivaaaakiaahsgaaaaaaaa@CD39@ (5.27)

Keressük azt a j értéket, mely mellett

[err]1(jk)=max{[err]k(j),1jM,jj1,,jjk1}MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqkLspw0le9v8qqaqFD0xXdHaVhbbf9v8qqaqFr0xc9pk0xbba9q8WqFfea0=yr0RYxir=Jbba9q8aq0=yq=He9q8qqQ8frFve9Fve9Ff0dmeaabaqaciGacaGaaeqabaWaaeaaeaaakeaacaqGBbGaaeyzaiaabkhacaqGYbGaaeyxamaaDaaaleaacaqGXaaabaGaaeikaiaadQgadaWgaaadbaGaam4AaaqabaWccaqGPaaaaOGaeyypa0JaaeyBaiaabggacaqG4bGaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7daGadaqaaiaayIW7caaMi8Uaae4waiaabwgacaqGYbGaaeOCaiaab2fadaqhaaWcbaGaam4AaaqaaiaabIcacaWGQbGaaeykaaaakiaacYcacaaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaIXaGaeyizImQaamOAaiabgsMiJkaad2eacaGGSaGaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaamOAaiabgcMi5kaadQgadaWgaaWcbaGaaGymaaqabaGccaGGSaGaeSOjGSKaaiilaiaadQgacqGHGjsUcaWGQbWaaSbaaSqaaiaadUgacqGHsislcaaIXaaabeaaaOGaay5Eaiaaw2haaaaa@8B92@ , (5.28)

és a k-adik bázisvektornak válasszuk a

bk=bk(jk)=gjki=1k1aikbiMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqkLspw0le9v8qqaqFD0xXdHaVhbbf9v8qqaqFr0xc9pk0xbba9q8WqFfea0=yr0RYxir=Jbba9q8aq0=yq=He9q8qqQ8frFve9Fve9Ff0dmeaabaqaciGacaGaaeqabaWaaeaaeaaakeaacaWHIbWaaSbaaSqaaiaadUgaaeqaaOGaeyypa0JaaCOyamaaDaaaleaacaWGRbaabaGaaeikaiaadQgadaWgaaadbaGaam4AaaqabaWccaqGPaaaaOGaeyypa0JaaC4zamaaBaaaleaacaWGQbWaaSbaaWqaaiaadUgaaeqaaaWcbeaakiabgkHiTmaaqahabaGaamyyamaaBaaaleaacaWGPbGaam4AaaqabaGccaWHIbWaaSbaaSqaaiaadMgaaeqaaaqaaiaadMgacqGH9aqpcaaIXaaabaGaam4AaiabgkHiTiaaigdaa0GaeyyeIuoaaaa@52F0@ (5.29)

vektort, ahol aik=aik(jk)MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaamyyamaaBaaaleaacaWGPbGaam4AaaqabaGccqGH9aqpcaWGHbWaa0baaSqaaiaadMgacaWGRbaabaGaaeikaiaadQgadaWgaaadbaGaam4AaaqabaWccaqGPaaaaaaa@4033@ , 1 ≤ i < k.

Az eljárást az Ms-edik lépésben állítsuk le, ha

1i=1Ms[err]i<ρMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqkLspw0le9v8qqaqFD0xXdHaVhbbf9v8qqaqFr0xc9pk0xbba9q8WqFfea0=yr0RYxir=Jbba9q8aq0=yq=He9q8qqQ8frFve9Fve9Ff0dmeaabaqaciGacaGaaeqabaWaaeaaeaaakeaacaaIXaGaeyOeI0YaaabCaeaacaqGBbGaaeyzaiaabkhacaqGYbGaaeyxamaaBaaaleaacaWGPbaabeaaaeaacaWGPbGaeyypa0JaaGymaaqaaiaad2eadaWgaaadbaGaam4CaaqabaaaniabggHiLdGccqGH8aapcqaHbpGCaaa@49A9@ , (5.30)

ahol 0 < ρ < 1 egy előre megválasztott küszöbérték.

Az eljárással Ms bázisvektort választottunk ki. Bár az OLS eljárás szintén számításigényes, az eredeti középpont-válogató eljárásnál jóval hatékonyabb, hiszen minden egyes új bázisvektor beiktatása az addigi bázisvektorok változatlanul hagyása mellett történik. Az ortogonális bázisvektorok miatt az is igaz, hogy minden újabb bázisvektor a megelőzőktől független hozzájárulást jelent a kimenetek előállításához és ez a hozzájárulás kiszámítható az éppen aktuális háló teljes kiértékelése nélkül. Az aktuális súlyvektor kiszámításához sem kell minden egyes lépésben a pszeudo-inverz számítást elvégezni, hiszen az újonnan kiválasztott bázisvektorok együtthatói egymástól függetlenül számíthatók.

Az eljárás alkalmazásánál fontos a ρ küszöbérték megfelelő megválasztása, mivel ez szabályozza, hogy a végleges háló adott komplexitás mellet milyen pontosságot ér el. Számos alkalmazásban ρ meghatározása maga is az eljárás része. Erre ad egy rendszer-identifikációhoz kapcsolódó példát [Che89].

A K-közép eljárás

A standard K-közép (K-means) klaszter kialakító algoritmus is feltételezi, hogy az összes tanítópont a rendelkezésünkre áll. A K-means algoritmus célja, hogy K olyan klaszter-középpontot ( ckMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4yamaaBaaaleaacaWGRbaabeaaaaa@37DC@ , k=1,2,...,K) határozzon meg, hogy a tanítópontok és a hozzájuk legközelebb eső klaszter-középpont négyzetes távolságainak összege minimális értéket vegyen fel. Tehát, ha X az xi,i=1, 2, ..., P tanítópontok halmazát, X(k)MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaeiwamaaCaaaleqabaWaaeWaaeaacaWGRbaacaGLOaGaayzkaaaaaaaa@3955@ pedig azon halmazt jelöli, melynek pontjai a ckMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4yamaaBaaaleaacaWGRbaabeaaaaa@37DC@ (k=1,2,...,K) középponthoz lesznek legközelebb, akkor a következő kifejezés megoldását keressük :

minckk=1Ki:xiX(k)xick2MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaWaaCbeaeaacaqGTbGaaeyAaiaab6gaaSqaaKqzafGaaC4yaSWaaSbaaWqaaiaadUgaaeqaaaWcbeaakmaaqahabaGaaGjcVlaayIW7caaMi8UaaGjcVpaaqahabaWaauWaaeaacaWH4bWaaSbaaSqaaiaadMgaaeqaaOGaeyOeI0IaaC4yamaaBaaaleaacaWGRbaabeaaaOGaayzcSlaawQa7amaaCaaaleqabaGaaGOmaaaaaeaacaWGPbGaaiOoaiaahIhadaWgaaadbaGaamyAaaqabaWccqGHiiIZcaqGybWaaWbaaWqabeaadaqadaqaaiaadUgaaiaawIcacaGLPaaaaaaaleaaa0GaeyyeIuoaaSqaaiaadUgacqGH9aqpcaaIXaaabaGaam4saaqdcqGHris5aaaa@5C08@ (5.31)

Az algoritmus az alábbi lépésekből áll:

1. Inicializálás: véletlenszerűen válasszunk meg K középpontot: ckMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4yamaaBaaaleaacaWGRbaabeaaaaa@37DC@ , k=1,2,...,K.

2. Határozzuk meg minden tanítópontra, hogy mely középponthoz van a legközelebb, vagyis alakítsuk ki a K klasztert. Ha xi-től a legkisebb távolságra lévő középpont ckMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4yamaaBaaaleaacaWGRbaabeaaaaa@37DC@ , akkor xi a k-adik klaszter, X(k)MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaeiwamaaCaaaleqabaWaaeWaaeaacaWGRbaacaGLOaGaayzkaaaaaaaa@3955@ eleme lesz.

3. Határozzuk meg az így kialakított klaszterek új középpontjait. Egy klaszter új középponja legyen a klaszterekbe tartozó mintapontok átlaga: ck=1Pki:xiX(k)xiMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4yamaaBaaaleaacaWGRbaabeaakiabg2da9maalaaabaGaaGymaaqaaiaadcfadaWgaaWcbaGaam4AaaqabaaaaOWaaabuaeaacaWH4bWaaSbaaSqaaiaadMgaaeqaaaqaaiaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaadMgacaGG6aGaaCiEamaaBaaameaacaWGPbaabeaaliabgIGiolaabIfadaahaaadbeqaamaabmaabaGaam4AaaGaayjkaiaawMcaaaaaaSqab0GaeyyeIuoaaaa@522F@ (5.32) ahol PkMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaamiuamaaBaaaleaacaWGRbaabeaaaaa@37C5@ az X(k)MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaeiwamaaCaaaleqabaWaaeWaaeaacaWGRbaacaGLOaGaayzkaaaaaaaa@3955@ klaszterbe tartozó tanítópontok száma.

4. Fejezzük be az eljárást, ha a mintapontok klaszterbe sorolása már nem változik, illetve adott számú iteráció után.

A középpontok ellenőrzött tanítása

A középpontok meghatározására további lehetőség az ellenőrzött tanítás alkalmazása. Ebben az esetben a bázisfüggvények paramétereit a kimeneti réteg súlyaihoz hasonló, tanítható paraméterekként kezeljük és például gradiens eljárással tanítjuk. Mivel a bázisfüggvények paraméterei a rejtett réteg leképezését befolyásolják, a kimenti hibát a rejtett, bázisfüggvényes rétegre vissza kell terjeszteni, vagyis itt a hibavisszaterjesztéses algoritmus egy RBF hálóra kidolgozott változatáról van szó.

Ha a pillanatnyi gradiens alapú eljárást alkalmazzuk, meg kell határozni a kimeneti négyzetes hiba adott középpontra vonatkozó parciális deriváltját. Feltételezve, hogy az alábbi általános (vagyis nem skalár σ szélességparaméterrel rendelkező) Gauss bázisfüggvényt alkalmazzuk:

g(xci)=exp[-(xci)TΣ1(xci)]MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaam4zaiaabIcadaqbdaqaaiaahIhacqGHsislcaWHJbWaaSbaaSqaaiaadMgaaeqaaaGccaGLjWUaayPcSdGaaeykaiabg2da9iaabwgacaqG4bGaaeiCaiaabUfacaqGTaGaaeikaiaahIhacqGHsislcaWHJbWaaSbaaSqaaiaadMgaaeqaaOGaaeykamaaCaaaleqabaGaamivaaaakiaaho6adaahaaWcbeqaaiabgkHiTiaaigdaaaGccaqGOaGaaCiEaiabgkHiTiaahogadaWgaaWcbaGaamyAaaqabaGccaqGPaGaaeyxaaaa@544E@ , (5.33)

valamint, hogy egykimenetű hálózatunk van, a láncszabályt alkalmazva a derivált a következőre adódik:

ε2(k)ci(k)=2ε(k)ε(k)y(k)y(k)gi(k)gi(k)ci(k)=2ε(k)wig(x(k)ci(k))Σi1(x(k)ci(k))MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGceaqabeaadaWcaaqaaiabgkGi2kabew7aLnaaCaaaleqabaGaaGOmaaaakiaabIcacaWGRbGaaeykaaqaaiabgkGi2kaahogadaWgaaWcbaGaamyAaaqabaGccaqGOaGaam4AaiaabMcaaaGaeyypa0JaaGOmaiabew7aLjaabIcacaWGRbGaaeykamaalaaabaGaeyOaIyRaeqyTduMaaeikaiaadUgacaqGPaaabaGaeyOaIyRaamyEaiaabIcacaWGRbGaaeykaaaadaWcaaqaaiabgkGi2kaadMhacaqGOaGaam4AaiaabMcaaeaacqGHciITcaWGNbWaaSbaaSqaaiaadMgaaeqaaOGaaeikaiaadUgacaqGPaaaamaalaaabaGaeyOaIyRaam4zamaaBaaaleaacaWGPbaabeaakiaabIcacaWGRbGaaeykaaqaaiabgkGi2kaahogadaWgaaWcbaGaamyAaaqabaGccaqGOaGaam4AaiaabMcaaaaabaGaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7cqGH9aqpcqGHsislcaaIYaGaeqyTduMaaeikaiaadUgacaqGPaGaaGjcVlaayIW7caWG3bWaaSbaaSqaaiaadMgaaeqaaOGaaGjcVlaayIW7ceWGNbGbauaadaWgaaWcbaaabeaakiaabIcadaqbdaqaaiaahIhacaqGOaGaam4AaiaabMcacqGHsislcaWHJbWaaSbaaSqaaiaadMgaaeqaaOGaaeikaiaadUgacaqGPaaacaGLjWUaayPcSdGaaeykaiaaho6adaqhaaWcbaGaamyAaaqaaiabgkHiTiaaigdaaaGccaqGOaGaaCiEaiaabIcacaWGRbGaaeykaiabgkHiTiaahogadaWgaaWcbaGaamyAaaqabaGccaqGOaGaam4AaiaabMcacaqGPaaaaaa@C99B@ (5.34)

Itt g(.)MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGabm4zayaafaWaaSbaaSqaaaqabaGccaqGOaGaaeOlaiaabMcaaaa@390A@ az i-edik bázisfüggvény ci(k) szerinti deriváltja az x(k) bemenetre adott értéknél, wi pedig az a súly, amivel az i-edik rejtett neuron kimenete szerepel a háló kimentében. A középpont módosító összefüggés ennek megfelelően:

ci(k+1)=ci(k)+2με(k)wig(x(k)ci(k))Σi1(x(k)ci(k))MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4yamaaBaaaleaacaWGPbaabeaakiaabIcacaWGRbGaey4kaSIaaeymaiaabMcacqGH9aqpcaWHJbWaaSbaaSqaaiaadMgaaeqaaOGaaeikaiaadUgacaqGPaGaey4kaSIaaeOmaiabeY7aTjaayIW7caaMi8UaeqyTduMaaeikaiaadUgacaqGPaGaaGjcVlaayIW7caWG3bWaaSbaaSqaaiaadMgaaeqaaOGaaGjcVlaayIW7ceWGNbGbauaadaWgaaWcbaaabeaakiaabIcadaqbdaqaaiaahIhacaqGOaGaam4AaiaabMcacqGHsislcaWHJbWaaSbaaSqaaiaadMgaaeqaaOGaaeikaiaadUgacaqGPaaacaGLjWUaayPcSdGaaeykaiaaho6adaqhaaWcbaGaamyAaaqaaiabgkHiTiaaigdaaaGccaqGOaGaaCiEaiaabIcacaWGRbGaaeykaiabgkHiTiaahogadaWgaaWcbaGaamyAaaqabaGccaqGOaGaam4AaiaabMcacaqGPaaaaa@6FF6@ , (5.35)

ahol μ a szokásos tanulási tényező. A tanulási tényező értékének megválasztása gyakorlatilag csak tapasztalati úton lehetséges és ez az érték általában más is, mint a kimeneti réteg súlyainak tanításánál alkalmazott LMS eljárás tanulási tényezője. Míg az LMS eljárásnál μ konvergencia-tartományát meg tudjuk határozni, itt ez hasonló módon nem lehetséges. Ennek oka, hogy a kimeneti négyzetes hiba nem kvadratikus függvénye ci-nek, sőt ez a függvénykapcsolat nem is konvex. A nemkonvex hibafelület további következménye, hogy a gradiens alapú eljárás lokális minimumot eredményezhet.

A tanítással meghatározott középpontok természetesen nem fognak egybeesni a bemeneti pontokkal vagy azok részhalmazával. Sokkal inkább úgy igazodnak a tanítópontok elhelyezkedéséhez, mintha egy klaszterező eljárást alkalmaznánk. A középpontok tanítással történő meghatározása a középpontok számának meghatározását nem oldja meg, tehát hasonlóan a K-közép algoritmushoz, ezt a kérdést a tanítástól függetlenül kell megoldani.

5.1.2. A szélességparaméter meghatározása

Az RBF hálózatok − extrém értékektől eltekintve − nem érzékenyek a σk szélességparaméterek megválasztására. Ezt illusztrálja az 5.3 ábra. Az ábrán a szinusz függvény 1 periódusának approximációja látható, különböző szélességparaméter-értékek mellett, zajos mintapontok alapján. Az ábrán a bázisfüggvények száma és elhelyezése mindegyik esetben azonos. Az 5.3 (a) - (f) ábrákon látható eredmények rendre σ=8, 7, 6, 5, 4 és 3 értékkel készültek. Az (e) és (f) beállítások kivételével, ahol σ értéke már túl kicsi, a többi esetben az approximációs tulajdonságok jelentősen nem térnek el egymástól. Az ábra szaggatott vonallal a bázisfüggvényeket is mutatja.

Bár a szélességparaméter viszonylag széles határok között változhat anélkül, hogy az approximációs tulajdonságok lényegesen megváltoznának, a megfelelő σ tartomány, illetve σ érték meghatározására célszerű módszert adni. Egy egyszerű heurisztikus eljárás az R legközelebbi szomszéd módszer (R-nearest neighbour heuristics):

σk=1Rj=1RckcjMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaeq4Wdm3aaSbaaSqaaiaadUgaaeqaaOGaeyypa0ZaaSaaaeaacaaIXaaabaGaamOuaaaadaaeWbqaamaafmaabaGaaC4yamaaBaaaleaacaWGRbaabeaakiabgkHiTiaahogadaWgaaWcbaGaamOAaaqabaaakiaawMa7caGLkWoaaSqaaiaadQgacqGH9aqpcaaIXaaabaGaamOuaaqdcqGHris5aaaa@4965@ , (5.36)

ahol az R különböző cjMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4yamaaBaaaleaacaWGQbaabeaaaaa@37DB@ középpont a ckMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4yamaaBaaaleaacaWGRbaabeaaaaa@37DC@ középpont R legközelebbi szomszédja.

RBF hálózatoknál gyakori, hogy minden rejtett rétegbeli elemnél azonos σ-t használunk, vagyis σk=σ, k=1, ..., K-ra. Tapasztalati eredmények azt mutatják, hogy a közös szélességparaméterre jó becslés, ha egy középpont és a hozzá legközelebbi középpont euklideszi távolságainak az átlagát vesszük:

σ=1Ki=1KcicjMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaeq4WdmNaeyypa0ZaaSaaaeaacaaIXaaabaGaam4saaaadaaeWbqaamaafmaabaGaaC4yamaaBaaaleaacaWGPbaabeaakiabgkHiTiaahogadaWgaaWcbaGaamOAaaqabaaakiaawMa7caGLkWoaaSqaaiaadMgacqGH9aqpcaaIXaaabaGaam4saaqdcqGHris5aaaa@482E@ (5.37)

ahol a cjMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4yamaaBaaaleaacaWGQbaabeaaaaa@37DB@ középpont ciMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4yamaaBaaaleaacaWGPbaabeaaaaa@37DA@ legközelebbi szomszédja. Láthatóan (5.36) és (5.37) között csak az a különbség hogy az előbbi esetben R, az utóbbiban K távolság átlagát vesszük. Az R-heurisztikánál R értéke általában kicsi (2-3), míg K értékét az öszes középpont száma adja meg.

A σiMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaeq4Wdm3aaSbaaSqaaiaadMgaaeqaaaaa@38B1@ értékek meghatározása ellenőrzött tanítással is lehetséges. Ekkor − hasonlóan a középpont-értékek tanításához − egy megfelelően származtatott hibavisszaterjesztéses tanítást használhatunk. Meg kell tehát határoznunk a kimeneti négyzetes pillanatnyi hiba szélességparaméterek szerinti gradiensét. Ha általános esetet tételezünk fel, minden rejtett neuronhoz más szélességparaméter tartozhat, sőt, mivel a bázisfüggvények többdimenziós térben értelmezendők az sem kötelező, hogy a bázisfüggvényekhez skalár σiMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaeq4Wdm3aaSbaaSqaaiaadMgaaeqaaaaa@38B1@ értékek tartozzanak. Ekkor a (5.33) szerinti többdimenziós Gauss bázisfüggvénynél az összes dimenzió menti azonos σMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaeq4Wdmhaaa@3797@ szélességparaméter helyett egy ΣMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4Odaaa@3703@ mátrixot tekintve Σi1MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4OdmaaDaaaleaacaWGPbaabaGaeyOeI0IaaGymaaaaaaa@39C6@ tanító összefüggését kell meghatározni.

ε2(k)Σi1=ε(k)wi(kg(x(k)ci(k))Qi(k)MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaWaaSaaaeaacqGHciITcqaH1oqzdaahaaWcbeqaaiaaikdaaaGccaqGOaGaam4AaiaabMcaaeaacqGHciITcaWHJoWaa0baaSqaaiaadMgaaeaacqGHsislcaaIXaaaaaaakiabg2da9iabgkHiTiabew7aLjaabIcacaWGRbGaaeykaiaayIW7caaMi8UaaGjcVlaadEhadaWgaaWcbaGaamyAaaqabaGccaqGOaGaam4AaiaabMcacaqGGaGabm4zayaafaWaaSbaaSqaaaqabaGccaqGOaWaauWaaeaacaWH4bGaaeikaiaadUgacaqGPaGaeyOeI0IaaC4yamaaBaaaleaacaWGPbaabeaakiaabIcacaWGRbGaaeykaaGaayzcSlaawQa7aiaabMcacaWHrbWaaSbaaSqaaiaadMgaaeqaaOGaaeikaiaadUgacaqGPaaaaa@63A8@ , (5.38)

ahol

Qi(k)=[x(k)-ci(k)][x(k)-ci(k)]TMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaCyuamaaBaaaleaacaWGPbaabeaakiaabIcacaWGRbGaaeykaiabg2da9maadmaabaGaaCiEaiaabIcacaWGRbGaaeykaiaab2cacaWHJbWaaSbaaSqaaiaadMgaaeqaaOGaaeikaiaadUgacaqGPaaacaGLBbGaayzxaaGaaGjcVlaayIW7daWadaqaaiaahIhacaqGOaGaam4AaiaabMcacaqGTaGaaC4yamaaBaaaleaacaWGPbaabeaakiaabIcacaWGRbGaaeykaaGaay5waiaaw2faamaaCaaaleqabaGaamivaaaaaaa@53C9@ (5.39)

5.3. ábra - A σ szélességparaméter hatása az RBF approximációs képességére.
A σ szélességparaméter hatása az RBF approximációs képességére.

Ezzel a módosító összefüggés általános alakja:

Σi1(k+1)=Σi1(k)+με(k)wi(kg(x(k)ci(k))Qi(k)MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4OdmaaDaaaleaacaWGPbaabaGaeyOeI0IaaGymaaaakiaabIcacaWGRbGaey4kaSIaaGymaiaabMcacqGH9aqpcaWHJoWaa0baaSqaaiaadMgaaeaacqGHsislcaaIXaaaaOGaaeikaiaadUgacaqGPaGaey4kaSIaeqiVd0MaeqyTduMaaeikaiaadUgacaqGPaGaaGjcVlaayIW7caaMi8Uaam4DamaaBaaaleaacaWGPbaabeaakiaabIcacaWGRbGaaeykaiaabccaceWGNbGbauaadaWgaaWcbaaabeaakiaabIcadaqbdaqaaiaahIhacaqGOaGaam4AaiaabMcacqGHsislcaWHJbWaaSbaaSqaaiaadMgaaeqaaOGaaeikaiaadUgacaqGPaaacaGLjWUaayPcSdGaaeykaiaahgfadaWgaaWcbaGaamyAaaqabaGccaqGOaGaam4AaiaabMcaaaa@67BD@ (5.40)

A gradiens alapú tanítással meghatározott szélességparaméterekre érvényesek a középpontok ellenőrzött tanításánál említett általános megjegyzések. Tehát itt sem garantálja a tanító eljárás az optimális értékek elérését a lokális minimumok lehetősége miatt. A tanulási tényező megválasztására vonatkozó megállapítás is igaz, vagyis a szélességparaméter tanításánál alkalmazandó μ nagy valószínűséggel különbözni fog mind a kimeneti súlyok, mind a középpontok tanításánál alkalmazott tanulási tényezőktől.

5.1.3. RBF változatok

Az RBF hálózatoknak is több változata létezik. John Moody és Christian Darken javasolták a normalizált bázisfüggvények alkalmazását [Moo88]. Gauss függvény esetén ez az alábbi:

gi(x)=exp[xci2/2σi2]kexp[xck2/2σk2]MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaam4zamaaBaaaleaacaWGPbaabeaakmaabmaabaGaaCiEaaGaayjkaiaawMcaaiabg2da9maalaaabaGaaeyzaiaabIhacaqGWbWaamWaaeaacqGHsisldaqbdaqaaiaahIhacqGHsislcaWHJbWaaSbaaSqaaiaadMgaaeqaaaGccaGLjWUaayPcSdWaaWbaaSqabeaacaaIYaaaaOGaai4laiaaikdacqaHdpWCdaqhaaWcbaGaamyAaaqaaiaayIW7caaIYaaaaaGccaGLBbGaayzxaaaabaWaaabuaeaacaqGLbGaaeiEaiaabchadaWadaqaaiabgkHiTmaafmaabaGaaCiEaiabgkHiTiaahogadaWgaaWcbaGaam4AaiaayIW7aeqaaaGccaGLjWUaayPcSdWaaWbaaSqabeaacaaIYaaaaOGaai4laiaaikdacqaHdpWCdaqhaaWcbaGaam4AaaqaaiaayIW7caaIYaaaaaGccaGLBbGaayzxaaaaleaacaWGRbaabeqdcqGHris5aaaaaaa@690E@ . (5.41)

A normalizálás itt azt jelenti, hogy igi(x)=1MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqkLspw0le9v8qqaqFD0xXdHaVhbbf9v8qqaqFr0xc9pk0xbba9q8WqFfea0=yr0RYxir=Jbba9q8aq0=yq=He9q8qqQ8frFve9Fve9Ff0dmeaabaqaciGacaGaaeqabaWaaeaaeaaakeaadaaeqaqaaiaadEgadaWgaaWcbaGaamyAaaqabaGcdaqadaqaaiaahIhaaiaawIcacaGLPaaaaSqaaiaadMgaaeqaniabggHiLdGccqGH9aqpcaaIXaaaaa@41E2@ bármely bemeneti vektornál (x), vagyis az összes rejtett processzáló elem kimenetének (súlyozatlan) összege 1-et ad. A normalizált bázisfüggvények alkalmazását az approximációs tulajdonságok javulását mutató tapasztalatok indokolják [Wer93].

További változatok hozhatók létre attól függően, hogy a kimeneti rétegben alkalmazunk-e eltolás (bias) tagot vagy nem. Mind az 5.1, mind az 5.2 ábrán bemutatott hálózat tartalmaz eltolásértéket, amit w0 biztosít. Ezek az ábrák általános bázisfüggvényes, illetve általános RBF struktúrát mutatnak. Eltolás alkalmazására azonban a bázisfüggvényes hálózatoknál − beleértve az RBF hálózatokat is − nincs mindig szükség. Az RBF hálózatoknak az a változata, amikor minden tanítópont egyben bázisfüggvény középpont is, nem igényli az eltolás alkalmazását. Ezt az RBF háló változatot szokás regularizációs hálónak is nevezni, mert származtatása egy megfelelő regularizációs taggal kiegészített, négyzetes hibát minimalizáló eljárással is lehetséges [Pog90].

Az RBF hálózatok alkalmazásával kapcsolatban részben hasonló nehézségekkel kell szembenéznünk, mint az MLP hálózatok esetében. Itt is gondot jelent a hálózat méretének, vagyis a rejtett rétegbeli processzáló elemek számának (M) a meghatározása. Ismereteink szerint jelenleg erre nincs egzakt módszer, értékét tapasztalati megfontolások alapján választhatjuk meg. Ugyanakkor meg kell jegyezni, hogy az előbbiekben bemutatott OLS eljárás valójában a háló komplexitási problémára adható egy lehetséges válasz.

Hasonlóan, a szélességparaméternél R értékének megállapítására is csak tapasztalati eljárások állnak rendelkezésünkre. Ezen módszerek lényegében különböző értékű M és R paraméterek mellett felépített hálózatok tanítását és tesztelését végzik, és a megtanított hálózatok képességeiből próbálnak a megfelelő hálózat-méretre következtetni, így tulajdonképpen a kereszt kiértékelés valamilyen változatának tekinthetők. A kereszt kiértékelési eljárásnak a tanítópontok számától függő valamelyik változata tehát alapvető fontosságú szerepet tölt be a hálók konstrukciójánál.

A rejtett neuronok számának meghatározásakor figyelembe kell venni az RBF (és általában a bázisfüggvényes hálózatok) egy specialitását. E hálózatok többsége − szemben az MLP-vel − lokális approximációt végez, ami azt jelenti, hogy egy bázisfüggvénynek a középpont egy véges környezetében van csak számottevő hatása. E véges környezet mérete függ a bázisfüggvénytől és a függvény σ szélességparaméterétől. Minél kisebb σ értéke, annál kisebb tartományba eső bemenet esetén lesz az adott bázisfüggvénynek (az adott rejtett rétegbeli neuronnak) jelentős hozzájárulása a kimenethez. Azt a tartományt, amelybe eső bemenetekre a bázisfüggvény jelentős értéket ad a bázisfüggvény érzékelési mezőjének (receptive field) szokás nevezni. Az RBF hálózatoknál az érzékelési mező a legtöbb esetben gyakorlatilag véges, még végtelen tartójú pl. Gauss bázisfüggvényeknél is.

A bázisfüggvények számát a szélességparaméter, de leginkább az approximálandó függvény Fourier transzformált tartománybeli tulajdonságai határozzák meg. Ha a tanítópontok egyben középpontok is, az RBF háló valójában a tanítópontok között végez interpolációt úgy, hogy a tanítópontokban a megtanulandó függvényt pontosan előállítja. A tanítópontokat ebben az esetben, mint mintavételi értékeket is értelmezhetjük, így az RBF hálózatos függvény-approximáció egy mintavételi értékekből történő (általában többdimenziós) jelvisszaállítási feladatként is felfogható. A megfelelő jelvisszaállítás − amennyiben a függvény Fourier tartománybeli viselkedését ismerjük − megszabja a mintavételezés sűrűségét, a mintavételi pontok számát, ami itt egyben a tanítópontok számát és a rejtett neuronok számát is jelenti. A gyakorlatban a mintavételezés Nyquist elmélete alapján történő rejtett réteg konstrukció általában nem lehetséges, hiszen az approximálandó függvény jellemzőit nem ismerjük. Ráadásul gyakorlati feladatoknál a rendelkezésünkre álló tanítópontok (a mintavételi pontok) a függvény értelmezési tartományának számunkra fontos részén belül szinte sohasem helyezkednek el egyenletesen, ezért a probléma a nemegyenletes (többdimenziós) mintavételezéssel, a nemegyenletesen elhelyezkedő mintavételi pontokból történő jelvisszaállítással [Kim90] hozható kapcsolatba.

Ha a tanítópontoknál kevesebb a rejtett rétegbeli neuronok száma, tehát amikor pl. klaszterezéssel határozzuk meg a középpont paramétereket, a helyzet még nehezebb, hiszen itt a középpontok mintavételi pontokként nem is értelmezhetők. A mintavételi értékekből való jelvisszaállítással való kapcsolat azonban arra felhívja a figyelmet, hogy a tanítópontok száma és elhelyezkedése, az approximálandó függvény Fourier tartománybeli viselkedése, a bázisfüggvények megválasztása és a rejtett neuronok száma nem függetlenek egymástól.

5.1.4. A kizáró VAGY (XOR) probléma megoldása RBF hálózattal

Láttuk, hogy az RBF háló interpretálható úgy is, mint egy olyan perceptron, ahol a bemenetek nem közvetlenül, hanem egy nemlineáris transzformációt követően kerülnek a perceptron bemeneteire. A nemlineáris transzformáció – a perceptron kapacitására vonatkozó Cover tétel alapján [Cov65] – általában dimenziónövelő transzformáció is egyben. Számos esetben azonban a nemlineáris transzformáció dimenziónövelés nélkül is biztosíthatja a lineáris szeparálhatóságot. Erre mutatunk példát a kizáró VAGY (XOR) kapcsolat RBF hálóval történő megoldásával.

Konstruáljunk egy olyan RBF hálót, melynek két rejtett neuronja van, tehát két bázisfüggvényt alkalmazzunk (5.4 ábra).

A Gauss bázisfüggvények legyenek az alábbiak

gi(x)=exp[xci2]i=1,2MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaam4zamaaBaaaleaacaWGPbaabeaakmaabmaabaGaaCiEaaGaayjkaiaawMcaaiabg2da9iaabwgacaqG4bGaaeiCamaadmaabaGaeyOeI0YaauWaaeaacaWH4bGaeyOeI0IaaC4yamaaBaaaleaacaWGPbaabeaaaOGaayzcSlaawQa7amaaCaaaleqabaGaaGOmaaaaaOGaay5waiaaw2faaiaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caWGPbGaeyypa0JaaGymaiaacYcacaaMi8UaaGjcVlaayIW7caaMi8UaaGOmaaaa@7AC9@ (5.42)

ahol a c1 és c2 középpontvektorok

c1=[1,1]TMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4yamaaBaaaleaacaaIXaaabeaakiabg2da9iaabUfacaaIXaGaaiilaiaaigdacaqGDbWaaWbaaSqabeaacaWGubaaaaaa@3DA1@ , c2=[0,0]TMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4yamaaBaaaleaacaaIYaaabeaakiabg2da9iaabUfacaaIWaGaaiilaiaaicdacaqGDbWaaWbaaSqabeaacaWGubaaaaaa@3DA0@ . (5.43)

5.4. ábra - A XOR problémát megoldó RBF háló
A XOR problémát megoldó RBF háló

Az (5.42) összefüggés olyan Gauss bázisfüggvényt definiál, ahol 2σ2=1. Az ábrán látható RBF háló a XOR probléma négy mintapontja közül kettőt használ középpontnak. A hálónak három szabad paramétere van: a w0 eltolásérték, valamint w1 és w2. A súlyok analitikusan is meghatározhatók. Mivel négy tanítópontunk van, ehhez egy túlhatározott lineáris egyenletrendszert kell megoldanunk, ami a pszeudo-inverz meghatározásával lehetséges.

w=Gd=(GTG)-1GTdMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4DamaaDaaaleaaaeaacqGHxiIkaaGccqGH9aqpcaWHhbWaaWbaaSqabeaacaqGGacaaOGaaCizaiabg2da9iaabIcacaWHhbWaaWbaaSqabeaacaWGubaaaOGaaC4raiaabMcadaahaaWcbeqaaiaab2cacaqGXaaaaOGaaC4ramaaCaaaleqabaGaamivaaaakiaahsgaaaa@452C@ (5.44)

A rejtett réteg válaszaiból képezett G mátrix a fenti bázisfüggvények mellett a következőre adódik:

G=[110,13510,3680,36810,135110,3680,368]MathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4raiabg2da9maadmaabaqbaeqabqWaaaaabaGaaGymaaqaaiaaigdaaeaacaaIWaGaaiilaiaaigdacaaIZaGaaGynaaqaaiaaigdaaeaacaaIWaGaaiilaiaaiodacaaI2aGaaGioaaqaaiaaicdacaGGSaGaaG4maiaaiAdacaaI4aaabaGaaGymaaqaaiaaicdacaGGSaGaaGymaiaaiodacaaI1aaabaGaaGymaaqaaiaaigdaaeaacaaIWaGaaiilaiaaiodacaaI2aGaaGioaaqaaiaaicdacaGGSaGaaG4maiaaiAdacaaI4aaaaaGaay5waiaaw2faaaaa@53FF@ (5.45)

A kívánt válaszok vektora a XOR problémának megfelelően

d=[0101]TMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaCizaiabg2da9iaabUfacaaIWaGaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaIXaGaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaIWaGaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaayIW7caaMi8UaaGjcVlaaigdacaqGDbWaaWbaaSqabeaacaWGubaaaaaa@6F95@ (5.46)

Elvégezve a pszeudo-inverz számítást a megoldásvektor a következőre adódik:

w=[+2,8402,5022,502]TMathType@MTEF@5@5@+=feaagCart1ev2aaatCvAUfeBSjuyZL2yd9gzLbvyNv2CaerbuLwBLnhiov2DGi1BTfMBaeXatLxBI9gBaerbd9wDYLwzYbItLDharqqtubsr4rNCHbGeaGqipu0Je9sqqrpepC0xbbL8F4rqqrFfpeea0xe9Lq=Jc9vqaqpepm0xbba9pwe9Q8fs0=yqaqpepae9pg0FirpepeKkFr0xfr=xfr=xb9adbaqaaeGaciGaaiaabeqaamaabaabaaGcbaGaaC4Daiabg2da9uaabeqabmaaaeaacaqGBbGaey4kaSIaaGOmaiaacYcacaaI4aGaaGinaiaaicdaaeaacqGHsislcaaIYaGaaiilaiaaiwdacaaIWaGaaGOmaaqaaiabgkHiTiaaikdacaGGSaGaaGynaiaaicdacaaIYaaaaiaab2fadaahaaWcbeqaaiaadsfaaaaaaa@4851@ (5.47)

Az 5.5 (a) ábra a bemeneti térben, a (b) ábra a transzformált térben mutatja a mintapontokat. Látható, hogy a transzformált térben a pontok már lineárisan szeparálhatók. Ugyanakkor az is látható, hogy a szeparáló egyenes nem megy át az origón, ami azt jelenti, hogy szükség van eltolás tagra, amint ezt a megoldás mutatja is.

5.5. ábra - A mintapontok elhelyezkedése: (a) a bemeneti térben, (b) a transzformált térben (a kereszttel jelölt két mintapont a transzformált térben egybeesik)
A mintapontok elhelyezkedése: (a) a bemeneti térben, (b) a transzformált térben (a kereszttel jelölt két mintapont a transzformált térben egybeesik)