LMS algoritmus

Kapcsolódó fogalmak: 
gradiens eljárás
Rövid szöveges bemutatás: 
A Least Mean Squares (LMS) algoritmus a gradiens eljárás egy módosítása. A módosításra azért volt szükség mert a gradiens eljárásban figyelembe kell venni az autokorrelációs mátrixot, ami a feladat kezdetén általában nem áll rendelkezésre, így becsülni kell majd felhasználni, de ezek nagyon számításigényes feladatok. Ennek érdekében módosították a gradiens eljárást úgy, hogy az átlagos négyzetes hiba (négyzetes hiba várható értéke) helyett a pillanatnyi négyzetes hibával végzik el a számításokat. A változtatás kisebb meglepetésre szinte semmiféle teljesítményromlást nem eredményezett, így általában ezt a módszert alkalmazzák kritikus, nagy komplexitású feladatoknál. A használt kritériumfüggvény képlete a mellékelt ábrán látható.