Iteracja jest jednym z najważniejszych narzędzi zarówno praktycznego, jak i teoretycznego badania problemów liniowych i nieliniowych.
Iteracja (z łacińskiego "iteratio" - powtarzanie), czyli kolejne przybliżanie, oznacza powtarzanie pewnej wzorcowej czynności lub procesu.
Iteracjaw tym sensie występuje wtedy, gdy wielokrotnie stosuje się jakiś proces numeryczny- być może bardzo złożony i zawierający wiele przykładów użycia iteracji w węższym sensie - po to, aby stopniowo ulepszać wcześniejsze wyniki.