Veja: link
Você pode sugerir à JVM que use um "Look and Feel" (LAF) diferente. Há vários LAFs disponíveis para a VM e alguns específicos para alguns sistemas operacionais (por exemplo, o Windows LAF só está disponível no Windows.)
Eu suspeito que você está vendo o LAF "Metal", que é bem feio (e acontece de ser o padrão se o desenvolvedor não especificar um LAF diferente para um aplicativo GUI). Você pode tentar forçar o GTF (ou o Nimbus, se você tiver a versão correta da VM) como sugerido neste link. Será algo assim:
java -Dswing.defaultlaf=com.sun.java.swing.plaf.gtk.GTKLookAndFeel YourAppName
Você terá que substituir o nome do aplicativo por YourAppName. Ou você pode ter que editar um arquivo se o seu aplicativo está sendo iniciado através de um lançador de Java de algum tipo. A ideia é que você queira adicionar esse Java define (" -Dswing.defaultlaf=...
") aos argumentos da VM de alguma forma.
Como você está usando o Oracle Java 8 VM, talvez até queira testar o novo javax.swing.plaf.nimbus.NimbusLookAndFeel
.