O VirtualBox vem com uma série de ferramentas de linha de comando, todas prefixadas com o VBox . O comando que você está procurando é
VBoxHeadless --startvm "my vm name"
Você pode ver uma breve descrição de suas opções via VBoxHeadless --help.
Se você não souber o nome da máquina virtual, poderá descobrir através de:
VBoxManage list vms
Para executar na inicialização no Mac OS X, você pode usar o aplicativo Automator .
No aplicativo Automator , selecione o Executar script de shell na lista e digite o script:

Depois de salvar o serviço, importá-lo de System Preferences> Users & Groups> TheLoginUser> Login Items> Import the service above.