A latência é o tempo envolvido em qualquer tipo de processo, geralmente uma comunicação de alguma forma.
A taxa de transferência é a quantidade de informação que um determinado sistema pode processar, geralmente medida de acordo com incrementos de tempo definidos.
Alta latência não tem que significar baixo rendimento e vice-versa. E há alguns exemplos que podemos usar para ilustrar isso:
Por exemplo, em uma conexão com a Internet, a latência geralmente é medida pelo tempo que uma solicitação leva do seu computador para um determinado servidor. Com cabo ou DSL, esse número tende a ser relativamente baixo. Com o Satellite, esse número tende a ser muito, muito alto. A taxa de transferência sobre essa mesma conexão é medida em Mbps ou Megabits por segundo. Os números de transferência para essas diferentes conexões podem ser muito semelhantes, mesmo quando os números de latência não são. A internet via satélite, por exemplo, tende a ter um pouco de largura de banda. Eles são para transmitir uma grande quantidade de informações do satélite para você durante um curto período de tempo. Leva muito tempo para fazer a viagem de ida e volta do seu computador para o servidor, para o satélite e novamente para você.
Outra maneira de pensar sobre isso seria uma perua rodando pela rodovia a 55 mph (minha avó está dirigindo) cheia de cartões de memória SD ou cartões de memória USB. Centenas de milhares deles, para ser mais preciso. O rendimento desta station wagon é insanamente alto. Pense nisso: pode haver mais do que várias centenas de Petabytes dentro dessa perua. Assim, mesmo que a latência da viagem de Chicago a Sacramento seja de três dias inteiros (cerca de 25 horas de viagem), as 25 horas divididas por algumas centenas de petabytes ainda são muito mais rápidas do que qualquer conexão de Internet pode comprar.
A razão pela qual a latência e o rendimento não são necessariamente correlacionados é devido à densidade de dados. Não é tanto uma questão de quão rapidamente a informação pode fazer a viagem. É mais uma questão de quanta informação pode fazer a viagem a cada vez.