Como alternativa (se você estiver usando mac),
1) na caixa virtual, clique com o botão direito do mouse em VM -> showinfinder
2) edite o arquivo xxxxxxx.vbox com um editor
3) role para baixo até a linha
... Exibição VRAMSize = "128" monitorCount = "1" accelerate3D = "true" accelerate2DVideo = "false" />
4) altere o valor para 256
... Exibição VRAMSize = "256" monitorCount = "1" accelerate3D = "true" accelerate2DVideo = "false" />
e salve.
Nota: Lembre-se de fazer backup / clonar sua imagem atual por segurança. Como acima, tente definir dentro de 256 mb. E, finalmente, não execute isso enquanto sua VM estiver em execução. :) boa sorte.
PC deve ser semelhante, você só precisa encontrar o arquivo vbox.