V historických dobách začiatkov štatistiky sa snažili štatistici zmapovať všetkých jedincov, ktorí boli predmetom záujmu. Keďže takéto mapovania a meranie všetkých jedincov v populácii bolo veľmi náročné a drahé, snažili sa štatistici vypracovať metódy, ktoré by boli časovo menej náročné, menej pracné a lacnejšie. Preto začali používať metódy skúmania štatistickej vzorky. V populácii sa určitým presne vymedzeným spôsobom vybrali jedinci, na ktorých sa žiadané veličiny zisťovali a merali. Zistilo sa, že hodnoty, ktoré dostávame mapovaním vzorky, sa tým viac približujú hodnotám, ktoré by sme mohli zistiť v celej populácii, čím lepšie pri výbere vzorky zachováme pravidlo štatisticky náhodného výberu. To znamená, že každý jedinec v skúmanej populácii (alebo v tzv. základnom súbore) má rovnakú šancu (rovnakú pravdepodobnosť) dostať sa do vzorky (alebo inak povedané do výberového súboru).