Vďaka výskumom britského vedca Francisa Galtona vieme kvantifikovať vzťahy medzi dvomi premennými. Galton najskôr používal termín reverzia, neskôr regresia.

V súčasnosti tiež využívame pre metódu analýzy, ktorá umožňuje predikciu a odhad hodnoty závislej premennej na základe hodnoty nezávislej premennej termín regresia.

Ak sledujeme vplyv len jednej nezávislej premennej na závislú premennú (pričom táto závislá premenná je kontinuálna), hovoríme o jednoduchej lineárnej regresii.