O Firefox (corretamente) usa o fontconfig para determinar as propriedades da fonte com base em um conjunto de regras e, em seguida, retorna às configurações do GNOME para quaisquer propriedades que não foram determinadas pelo fontconfig. Isso permite que você configure coisas como configurações de dicas por fonte, etc.
A questão é que nós (incorretamente) enviamos as regras match-all no fontconfig para configurações antialias e hinting. Isso significa que as configurações de fontconfig sempre substituem as configurações do GNOME no Firefox, e são realmente um bug em nosso pacote fontconfig.
Isso parece parte do problema que você está vendo.
Para corrigir isso, você pode fazer o seguinte:
sudo rm /etc/fonts/conf.d/10-*
Note que /etc/fonts/conf.d apenas contém um conjunto de links simbólicos para o conjunto completo de arquivos de configuração em /etc/fonts/conf.avail. Para restaurar a configuração padrão no Ubuntu, você pode executar:
cd /etc/fonts/conf.d
sudo ln -s /etc/fonts/conf.avail/10-antialias.conf
sudo ln -s /etc/fonts/conf.avail/10-hinting.conf
sudo ln -s /etc/fonts/conf.avail/10-hinting-slight.conf
Além disso, suas fontes podem parecer um pouco diferentes, dependendo da versão do Firefox que você usa. A versão do Ubuntu do Firefox carrega um patch do Cairo para ativar a filtragem de LCD Freetype, que fará com que suas fontes pareçam semelhantes às de outras aplicações e reduzam a margem de cor.
A compilação oficial do mozilla.org não tem esse patch, e suas fontes terão visivelmente mais franjas de cor em comparação com fontes em outros aplicativos.