Sempre rotulei um antigo aplicativo do Firefox como, digamos, o FireFox 3.6.17 na pasta de aplicativos antes de instalar a versão mais recente do Firefox. Depois disso, eu instalo a versão mais recente e renomeio esse aplicativo como, por exemplo, o FireFox 12.0.1.
Dessa forma, quando você vir a caixa de diálogo informando que outra instância do Firefox já está aberta, abra o Mac Dock na parte inferior da tela e você verá um segundo ícone do Firefox no dock, onde não havia t um antes. Clique com o botão direito do mouse no ícone mais antigo (se você passar o mouse sobre o ícone, verá "Firefox 3.6.17" ou o mais recente) e vá até Opções e desmarque "Abrir no Login". Em seguida, force a saída do aplicativo antigo e esse ícone desaparecerá. Se foi. De alguma forma, quando você "jogou" ou removeu o ícone antigo do dock após a atualização, ele não alterou o status de login daquele ícone e continuou tentando executar as duas versões do Firefox no login. Problema resolvido.
Quando você atualizar e rotular adequadamente, SEMPRE desative o status de Login do ícone anterior antes de remover esse ícone e substituí-lo por um novo.