Um pull up / down faz três coisas.
1, estabiliza a linha, com uma referência fixa (V + para puxar para cima ou Gnd para puxar para baixo, na maioria dos casos). A linha não irá flutuar. Isso também pode ser feito sem o pull-up, conectando-o diretamente ao V + ou Gnd. Este é um problema, que a parte 2 corrige.
2, protege o circuito. Se uma linha estiver conectada diretamente ao V + e, em seguida, também estiver conectada ao terra, você acabou de criar um curto-circuito . Isso acontece, por exemplo, se um pino de microcontrolador conectado diretamente ao V + for definido como uma saída com nível lógico baixo. Com um resistor pull-up, você não tem mais um curto-circuito, apenas uma carga menor. Esta é uma segurança que você deseja que seja implementada.
3, permite substituir a referência na linha, sem o curto-circuito. Além de ser apenas uma precaução de segurança, é um efeito desejado. É assim que um microcontrolador pode ler um interruptor que muda de alto para baixo ou baixo para alto quando pressionado. Quando o botão conectado ao terra não é pressionado, com um pull-up, o microcontrolador indica o estado ALTO. Depois que você pressiona o botão, a conexão direta ao terra faz com que o estado mude para LOW, pois uma conexão direta é mais forte que uma flexão fraca. Em seguida, ele volta ao estado ALTO assim que o botão é liberado.
A analogia do @AnindoGhosh de uma porta basculante é boa para a parte 1 (a mola) e 3 (o empurrão). Para adicionar a isso, a parte 2 é a primavera, impedindo que um vento forte bata com a porta nas dobradiças e estrague tudo em sua casa. Nenhuma mola (puxar para cima / para baixo) e um vento forte (um curto-circuito) podem destruir um microcontrolador ou causar o superaquecimento da bateria, pegar fogo, explodir.