Respostas:
Resposta simples: o jogo é dividido em partes, enquanto você se move por partes constantemente sendo carregadas pelas suas costas antes que você possa vê-las e jogá-las fora quando sair da área. Para cada resposta simples, há uma solução complexa que pesa inúmeras vantagens na implementação ... mas você entendeu.
Para jogos em que você acha que pode ver dezenas ou centenas de quilômetros de distância, tudo lá fora é falso. O material real é apenas um bitmap, o alcance médio é uma malha muito leve. O material real é carregado e colocado em cima do material falso antes de você chegar a ele.
Quando os pedaços são descarregados, eles salvam o estado de qualquer objeto ou quebra-cabeça em andamento, de modo que, quando você volta, eles se redefinem para onde você os viu pela última vez.
Tudo isso ignora sua pergunta principal, então aqui está a resposta real: sempre há um tempo de carregamento quando você inicia o jogo, mas você não o reconhece porque "sempre leva tempo para iniciar um jogo" e você espera isso ou está oculto por trás do carregamento de filmes ou acontece enquanto você brinca na GUI.
Resposta anterior praticamente prega tudo. Também vale a pena mencionar o Dungeon Siege I.
Aqui está um artigo de um desenvolvedor que, na verdade, repassa parte da arquitetura necessária para fazê-la funcionar e armadilhas comuns:
http://www.floatingorigin.com/mirror/continuous-world.htm
Eu diria que é uma leitura obrigatória se você realmente deseja implementar algo assim.