De acordo com essa Resposta de superusuário , tentei adicionar uma opção a idea.vmoptions:
-Dawt.useSystemAAFontSettings=on
Ele agora funciona corretamente, resolveu o problema, mas a causa do problema ainda é desconhecida, JRE Bug? Bug AWT? Erro IDEA?
IDEA ainda mostra errado com alguma parte do gui, mas parte do código funciona ao usar a fonte