Esse problema não ocorre mais no Gnome Shell 3.22.1 no VisualVM 1.3.8, mas não posso dizer qual versão e qual dos dois foi o culpado.
Eu uso o GNOME Shell 3.12.2 e configuro todas as minhas fontes para o tamanho 11, mas o Java VisualVM de alguma forma usa uma fonte extremamente grande. Como posso mudar isso?
Detalhes do VisualVM
Version:
1.8.0 (Build 1360-130911); platform 20130911-unknown-revn
System:
Linux (3.16.4-1-ARCH) , amd64 64bit
Java:
1.8.0; Java HotSpot(TM) 64-Bit Server VM (25.0-b70, mixed mode)
Vendor:
Oracle Corporation, http://java.oracle.com/