Esse comportamento é esperado. Na seção "novo" das notas de lançamento do Firefox 46 , há o seguinte marcador :
% bl0ck_qu0te%Isso significa que o Firefox tenta se parecer com a maioria dos outros aplicativos (GTK3) começando com a versão 46. Por exemplo, abra o editor de texto gedit e clique com o botão direito na janela aberta lá: ele também mostra um menu de contexto preto com texto branco. É provavelmente algo para se acostumar.
Seu navegador no Windows parece diferente porque o Firefox tenta se parecer com outros aplicativos do Windows.