Eu sempre rotulo um aplicativo antigo do Firefox como, digamos, FireFox 3.6.17 na pasta de aplicativos antes de instalar a versão mais recente do Firefox. Depois disso, instalo a versão mais recente e renomeio esse aplicativo como, digamos, FireFox 12.0.1.
Dessa forma, quando vir a caixa de diálogo informando que outra instância do Firefox já está aberta, abra o Mac Dock na parte inferior da tela e você verá um segundo ícone do Firefox no dock, onde não havia um antes . Clique com o botão direito do mouse no ícone mais antigo (se você passar o mouse sobre o ícone, verá "Firefox 3.6.17" ou o mais recente) e acessará Opções e desmarcará a opção "Abrir no login". Em seguida, force o encerramento do aplicativo mais antigo e esse ícone desaparecerá. Se foi. De alguma forma, quando você "jogou" ou removeu o ícone antigo do dock após a atualização, ele não mudou o status de login desse ícone e continuou tentando executar as duas versões do Firefox no login. Problema resolvido.
Ao atualizar e rotular adequadamente, SEMPRE desative o status de Logon do ícone mais antigo antes de remover esse ícone e substituí-lo pelo novo.