A população é o conjunto de entidades em estudo. Por exemplo, a altura média dos homens. Esta é uma população hipotética porque inclui todos os homens que viveram, estão vivos e viverão no futuro. Gosto desse exemplo, porque nos leva a um ponto em que nós, como analistas, escolhemos a população que queremos estudar. Normalmente, é impossível pesquisar / medir toda a população, porque nem todos os membros são observáveis (por exemplo, homens que existirão no futuro). Se é possível enumerar toda a população, geralmente é caro fazê-lo e levaria muito tempo. No exemplo acima, temos uma população "homens" e um parâmetro de interesse, sua altura.
Em vez disso, poderíamos pegar um subconjunto dessa população chamado amostra e usá-la para extrair inferências sobre a população em estudo, dadas algumas condições. Assim, poderíamos medir a altura média dos homens em uma amostra da população que chamamos de estatística e usá-la para extrair inferências sobre o parâmetro de interesse na população. É uma inferência, porque haverá alguma incerteza e imprecisão envolvidas na obtenção de conclusões sobre a população com base em uma amostra. Isso deve ser óbvio - temos menos membros em nossa amostra do que nossa população, portanto, perdemos algumas informações.
Existem muitas maneiras de selecionar uma amostra e o estudo disso é chamado de teoria da amostragem. Um método comumente usado é chamado Simple Random Sampling (SRS). No SRS, cada membro da população tem uma probabilidade igual de ser incluído na amostra, daí o termo "aleatório". Existem muitos outros métodos de amostragem, por exemplo, amostragem estratificada, amostragem por agrupamento, etc., todos com suas vantagens e desvantagens.
É importante lembrar que a amostra que retiramos da população é apenas uma de um grande número de amostras em potencial. Se dez pesquisadores estudassem a mesma população, coletando suas próprias amostras, eles poderiam obter respostas diferentes. Voltando ao nosso exemplo anterior, cada um dos dez pesquisadores pode ter uma altura média diferente dos homens, ou seja, a estatística em questão (altura média) varia de amostra para amostra - ela tem uma distribuição chamada distribuição de amostragem. Podemos usar essa distribuição para entender a incerteza em nossa estimativa do parâmetro populacional.
Sabe-se que a distribuição amostral da média da amostra é uma distribuição normal com um desvio padrão igual ao desvio padrão da amostra dividido pelo tamanho da amostra. Como isso pode ser facilmente confundido com o desvio padrão da amostra, é mais comum chamar o desvio padrão da distribuição da amostra como erro padrão .