Eu encontrei isso ocasionalmente, mesmo com o Firefox 3.6, no XP SP3; mas geralmente é o suficiente para clicar duas vezes novamente no ícone do Firefox - que exibe a interface do usuário. Eventualmente.
Paciência.
Eu assumo que, quando eu faço isso, o Windows está executando código na mesma instância do Firefox (desde que eu não tenha -no-remote definido no atalho), mas isso é re-executando algum código de inicialização que foi executado muito cedo pela primeira vez.
Não estou muito familiarizado com a execução de processos do Windows ou com a inicialização do Firefox, portanto, essa resposta é intencionalmente vaga.
Você acharia que o Windows honraria a solicitação CreateWindow (ou o que quer que o Firefox fizesse) ou retornaria um erro para que o aplicativo soubesse que algo estava acontecendo. Talvez o Windows falhe silenciosamente. Ou talvez o Firefox silenciosamente ignore um erro do Windows que "nunca deveria acontecer".