Enfrentou um problema semelhante depois de mudar do Ubuntu para o Debian Jessie ... Um post no Arch Linux Boards me apontou na direção certa. De acordo com isso, antes que o Gnome mudasse para o GTK com o CSS no 3.16, havia um guia no Arch Wiki para modificar o arquivo /usr/share/themes/Adwaita/metacity-1/metacity-theme-3.xml para modificar a altura da barra de título. Este caminho só se aplica ao tema Adwaita, suponho, mas para temas diferentes não pode ser muito diferente.
Examinando o documento e pesquisando superficialmente algumas das configurações internas, é isso que eu consegui descobrir:
<distance name="title_vertical_pad" value="X"/>
é a configuração que se refere ao preenchimento regular da barra de título. Essa configuração ocorre várias vezes. Para os meus propósitos, foi suficiente para reduzir o valor onde ele está entre as tags <frame_geometry name="normal" ... > e <frame_geometry name="max" ... > , referindo-se à barra de título de uma janela no estado normal e maximizado cada.
Observe que os ícones dos botões da janela serão reduzidos juntamente com o tamanho da barra de título e que uma configuração title_vertical_pad muito baixa (em torno de < 7) fará com que os ícones sejam renderizados como retângulos. Subtilmente aumentando
<constant name="D_icons_grow" value="0" />
pode corrigir isso.
O documento xml contém um aviso em <frame_geometry name="max" ... > referente a title_vertical_pad que "Precisa ser 1 menor que o título_vertical_pad no estado normal ou você terá botões maiores", mas não pude notar nenhum efeito Pelo contrário, os botões pareciam mais diferentes quando segui esse conselho. "7" em ambos com D_icons_grow de "2" é o que eu escolhi. Basta brincar um pouco com os valores e verificar os efeitos salvando o arquivo, pressionando ALT + F2 e digitando "r" para recarregar o shell, mas considere fazer o backup do arquivo original antes.