Você consegue. É isso que os grandes também fazem.
Primeira consulta:
» host google.com
google.com has address 74.125.232.230
google.com has address 74.125.232.231
google.com has address 74.125.232.232
google.com has address 74.125.232.233
google.com has address 74.125.232.238
google.com has address 74.125.232.224
google.com has address 74.125.232.225
google.com has address 74.125.232.226
google.com has address 74.125.232.227
google.com has address 74.125.232.228
google.com has address 74.125.232.229
Próxima consulta:
» host google.com
google.com has address 74.125.232.224
google.com has address 74.125.232.225
google.com has address 74.125.232.226
google.com has address 74.125.232.227
google.com has address 74.125.232.228
google.com has address 74.125.232.229
google.com has address 74.125.232.230
google.com has address 74.125.232.231
google.com has address 74.125.232.232
google.com has address 74.125.232.233
google.com has address 74.125.232.238
Como você pode ver, a lista de IPs girou, mas a ordem relativa entre dois IPs permaneceu a mesma.
Atualização: vejo vários comentários se gabando sobre como o round-robin do DNS não é conveniente para failover, então aqui está o resumo: DNS não é para failover. Portanto, obviamente não é bom para failover. Nunca foi projetado para ser uma solução para failover.