Esse comportamento é perfeitamente esperado. Se você tiver "mostrar minhas janelas e guias da última vez" selecionado para "quando o Firefox for iniciado" em opções, o Firefox abrirá as para a primeira instância do primeiro Firefox que você abrir e descartá-las . Instâncias subseqüentes são abertas com a home page.
Quando você fecha uma janela, o Firefox salva a lista de guias abertas da próxima vez. Quando você fecha uma segunda janela após a primeira, essa primeira lista é sobrescrita . Essa é a razão pela qual você perdeu a guia fixada e a razão pela qual a guia fixada é preservada quando você fecha A após o fechamento B.
Seria possível manter a lista de abas abertas mesmo após o início de uma primeira instância, para que a segunda instância também abra essas abas, mas não estou ciente de um complemento que faça isso.
BTW, você não precisa fixar a guia para reabri-la. Veja Opções | Geral | Inicialização.