Você pode alterar a resolução da tela modificando dois valores do registro. Esses dois valores são: HKEY_LOCAL_MACHINE\System\CurrentControlSet\Control\Video\GUID\0000\DefaultSettings.XResolution
HKEY_LOCAL_MACHINE\System\CurrentControlSet\Control\Video\GUID\0000\DefaultSettings.YResolution
Onde GUID é um GUID gerado aleatoriamente.
Na verdade, você pode especificar qualquer valor XResolution e YResolution, desde que sejam hexadecimais.
Nota: No caso de um monitor CRT, especificar uma resolução absurda pode danificá-lo. No caso de um monitor LCD, seu monitor pode não mostrar mais nenhuma interface do usuário. Uma boa maneira de alterar a resolução da tela é anotar a quantidade de pixels com a qual você deseja preencher a largura da tela (este é o XResolution) e a quantidade de pixels que você deseja na altura da tela (o YResolution). A calculadora do Windows (não disponível no Server Core, você precisará encontrar outro computador ou uma calculadora avançada de hardware) oferece uma maneira fácil de converter valores decimais em valores hexadecimais. Você pode usar esses valores para modificar os valores correspondentes do Registro. Uma reinicialização fará com que sua resolução de tela preferida atenda à realidade.
A profundidade de cores usada no seu monitor é capturada no seguinte valor do registro: HKEY_LOCAL_MACHINE\System\CurrentControlSet\Control\Video\GUID\0000\DefaultSettings.BitsPerPel
Na minha caixa, esse valor hexadecimal foi definido como 0x00000008 (8), o que significava que minha tela usava uma profundidade de cores de 8 bits. (256 cores) A alteração para 16 bits (0x00000010) mostrará 65536 cores (cores altas) Outros valores normalmente disponíveis são 24 bits (0x00000018) e 32 bits (0x00000020).
Fonte
mstsc.exe /console