O RDP (Remote Desktop) é realmente um protocolo muito mais eficiente que o protocolo do VNC, chamado RFB .
O VNC funciona, como você sugere, enviando uma imagem da área de trabalho pela rede. Existem algumas otimizações, como enviar apenas partes da tela que foram alteradas, mas é basicamente isso.
O RDP, por outro lado, funciona enviando instruções sobre como desenhar a tela no computador cliente. Em vez de enviar uma imagem de uma janela, a máquina host envia uma descrição da janela para a máquina cliente, então a máquina cliente é responsável por renderizar uma imagem e exibi-la. Quase o tempo todo, essas instruções consomem muito menos largura de banda do que o protocolo do VNC. Além disso, como o computador cliente "entende" a imagem criada para você, ele pode executar operações simples como mover janelas sem precisar (a) enviar a entrada do mouse para o computador host, (b) aguardar a renderização do computador host a janela movida e (c) aguarde a resposta. Ele pode calcular e desenhar os resultados imediatamente.
O RDP também é integrado aos logons e sessões do Windows: quando você faz uma conexão da Área de Trabalho Remota, o Windows cria uma nova sessão de logon para você ou conecta uma sessão existente à sua conexão RDP. Fazer logon e conectar a sessão é o que leva a maior parte do tempo de conexão inicial, mas depois disso deve ser muito mais rápido. É assim que os Serviços de Terminal funcionam: cada usuário tem uma sessão independente em um computador, cuja exibição é enviada pela rede e renderizada remotamente, e nenhum deles pode ver o que o outro está fazendo. O VNC geralmente não tem noção de sessões de logon e sempre o conecta à sessão do console (para que você veja exatamente o que alguém sentado no computador veria). Dependendo do que você está tentando alcançar, isso pode ser uma coisa boa ou ruim.