Respostas:
Você "possui" a máquina se tiver direitos locais de "Administrador", portanto, sim, pode.
Mark Russinovich fala sobre contornar a política de grupo nesta postagem do blog e usa as configurações de exibição como exemplo. Sorte sua, não é?
Basicamente, remova todo o acesso à chave do registro em que a configuração de política que você procura está definida e a política para de ser aplicada (já que o Explorer não pode ler a configuração de política). Isso pode não funcionar no caso geral, mas o Explorer ignora, felizmente, a impossibilidade de ler suas configurações de política.
Para tipos de políticas que não se aplicam por meio de configurações do registro (ou seja, políticas que usam outros manipuladores de extensão, como política do IE, redirecionamento de pastas, etc.), você precisará empregar outros meios para contornar as configurações do lado do cliente.
Antes que alguém me criticasse por permitir que um usuário entrasse de maneira "secreta" para burlar as políticas de seu departamento de TI, pense em como os administradores do sistema, nesse caso, não deveriam conceder aos usuários direitos de administrador local para começar.