Olyan rendszer, melynek kimenő jele (válaszfüggvénye) nem változik lineárisan a bemenő jel (vezérlőfüggvény) változásával. Ebből adódik, hogy mind a determinisztikus jel, mind a sztochasztikus folyamat áthaladásának vizsgálata nemlineáris rendszeren általában bonyolult feladat. A nemlineáris rendszerek két nagy csoportba oszthatók: memóriával rendelkező és nem rendelkező rendszerekre.
A memóriával rendelkező nemlineáris rendszerek válaszfüggvénye egy adott időpontban nemcsak a bemenő jel pillanatnyi értékétől, hanem annak múltjától, sőt a rendszer állapotától is (pl. energiatartalmától) függ. Ezzel a modellel tárgyalhatók pl. az egyenirányítók és a parametrikus erősítők.
A memóriával nem rendelkező nemlineáris rendszereknél egy adott pillanatban a kimenő jel értéke csak az ugyanazon pillanatban fellépő bemenő jel értékének függvénye.

• determinisztikus jel