Infelizmente, acredito que isso não é possível, não por causa de um problema no Mac, mas porque a equipe do OpenOffice optou por fazê-lo funcionar dessa maneira.
Eu encontrei este site aqui, que forneceu alguns ícones de inicialização de aplicativos, embora pareça estar desatualizado e que talvez não funcione mais.
O site tem uma "solução alternativa" postada ... que é a seguinte:
Apenas um FYI. Descobri que no OpenOffice 3.2 em execução no Windows, há um ícone do openoffice na bandeja do sistema que, quando clicado com o botão direito do mouse, permite abrir qualquer aplicativo individual diretamente. Em um Mac, basta manter o ícone do openoffice no encaixe e clicar com o botão direito do mouse para obter o mesmo recurso.
Diante disso ... parece que o OpenOffice decidiu que o "caminho certo" para acessar um aplicativo específico a partir do dock é clicar com o botão direito do mouse e escolher o que você deseja.
Não é exatamente o que você está procurando ... mas pode ser o mais próximo que você conseguirá.